Mākslīgais intelekts (AI) un AI aģenti šķietami ir visur. Neatkarīgi no tā, vai ir konferenču šovu grīdas vai televīzijas reklāmas, kurās ir slavenības, piegādātāji labprāt demonstrē tehnoloģiju, kas, viņuprāt, palīdzēs mūsu ikdienas dzīvi padarīt daudz vieglāku. Bet kas īsti ir AI aģents?
Principā AI aģenti – Pazīstams arī kā aģentu AI modeļi – ir ģeneratīvi AI (Genai) un lielo valodu modeļi (LLM), ko izmanto uzdevumu un darbplūsmu automatizēšanai.
Piemēram, jums jārezervē istaba sanāksmei noteiktā birojā noteiktā laikā noteiktam skaitam cilvēku? Vienkārši palūdziet aģentam to darīt, un tas darbosies, plāno un izpildīs jūsu vārdā, identificējot piemērotu istabu un laiku, pēc tam nosūtot kalendāra ielūgumu uz kolēģiem jūsu vārdā.
Vai varbūt jūs rezervējat brīvdienas. Jūs varat detalizēti aprakstīt, kur vēlaties doties, kā vēlaties tur nokļūt, pievienot visas īpašās prasības un lūgt AI aģentam ieteikumus, ka tas dažu sekunžu laikā pienācīgi pārbaudīs, parsēs un detalizēti – ietaupot gan laiku, gan pūles.
“Mēs tuvākajā laikā būsim ļoti atkarīgi no AI aģentiem – visiem būs aģents dažādām lietām,” saka Etay Maor, tīkla drošības uzņēmuma galvenais drošības stratēģis Kato tīkliApvidū “Tas ir ļoti ērti, un mēs to redzēsim visur.
“Tās malas ir tas, ka uzbrucēji arī tajā iedziļināsies,” viņš piebilst.
Neparedzētas sekas
Kad parādās jauna tehnoloģija, pat ja tā ir izstrādāta ar labākajiem nodomiem, ir gandrīz neizbēgami, ka noziedznieki centīsies to izmantot.
Mēs to redzējām, pieaugot interneta un kibernoziegumu krāpšanai, mēs to redzējām, pārejot uz mākoņa hibrīdu darbu, un mēs to esam redzējuši ar AI un LLM pieaugumu, kurus kibernoziedznieki ātri uzlēca, lai uzrakstītu pārliecinošākus pikšķerēšanas e-pastus. Tagad kibernoziedznieki pēta, kā arī ieročus AI aģentus un autonomas sistēmas.
“Viņi vēlas radīt ekspluatācijas,” saka Yuval Zacharia, kurš vēl nesen bija pētniecības un attīstības direktors Kiberdrošības firmā Medniekiun tagad viņš ir līdzdibinātājs startēšanas laikā slepenā režīmā. “Tā ir sarežģīta misija, kas saistīta ar kodu analīzi un reverso inženieriju, kas jums jādara, lai izprastu kodu bāzi, pēc tam to izmantotu. Un tas ir tieši uzdevums, kurā aģentiskajam AI ir labs – jūs varat sadalīt sarežģītu problēmu dažādos komponentos, katrs ar īpašiem rīkiem, lai to izpildītu.”
Kiberdrošības konsultācija Apgriezties ir publicējis plašu pētījumu klāstu par to, kā Genai un AI aģentus var izmantot ļaunprātīgi hakeri, bieži izmantojot to, cik jauna ir tehnoloģija, kas nozīmē, ka drošības pasākumi var nebūt pilnībā ieviesti – it īpaši, ja tie, kas izstrādā AI rīkus, vēlas nodrošināt, ka viņu produkts tiek izlaists pirms konkurences.
Piemēram, Uzbrucēji var izmantot tūlītēju injekcijas ievainojamību, lai nolaupītu pārlūku aģentus ar mērķi nozagt datus vai citas neatļautas darbības. Vai, alternatīvi, ReverseC ir parādījis, kā ar AI aģentu var manipulēt Izmantojot tūlītēju injekcijas uzbrukumus, lai mudinātu iznākšanu iekļaut pikšķerēšanas saites, sociālo inženieriju un citus informācijas nozagšanas veidus.
“Uzbrucēji var izmantot cietumu vai tūlītēju injekcijas uzbrukumus,” saka Donato Capitella, Reversec galvenais drošības konsultants. “Tagad jūs piešķirat LLM aģentūru – pēkšņi tas nav tikai vispārējs uzbrukums, bet arī var rīkoties jūsu vārdā: tas var lasīt un nosūtīt e -pastus, tas var veikt videozvanus.
“Uzbrucējs jums nosūta e -pastu, un, ja LLM lasa šīs pastkastes daļas, pēkšņi e -pastā ir instrukcijas, kas mulsina LLM, un tagad LLM zagt informāciju un nosūtīs informāciju uzbrucējam.”
Agentic AI ir paredzēts, lai palīdzētu lietotājiem, bet, tā kā AI aģenti kļūst arvien izplatītāki un sarežģītāki, tas arī atvērs durvis uzbrucējiem, kuri vēlas tos izmantot, lai palīdzētu viņu pašu mērķiem – it īpaši, ja likumīgi rīki netiek nodrošināti pareizi.
“Ja es esmu noziedznieks un es zinu, ka jūs izmantojat AI aģentu, kas palīdz jums pārvaldīt failus jūsu tīklā, man tas ir veids izpirkuma programmatūra”Saka Maors.“ Varbūt jums būs AI aģents, kas var atstāt balss ziņojumus jums: jūsu balss? Tagad tā ir krāpšanās ar identitāti. E -pasti ir biznesa e -pasta kompromisa (BEC) uzbrukumi.
“Fakts, ka daudziem šiem aģentiem būs daudz iespēju ar lietām, ko viņi var darīt, un ne pārāk daudz apsardzes, tāpēc noziedznieki uz to koncentrēsies,” viņš brīdina, piebilstot, ka “pastāv nepārtraukta josla, kas nepieciešama, lai izdarītu sliktas lietas”.
Cīņa ar aģentu AI ar aģentu AI
Galu galā tas nozīmē, ka aģentu uz AI balstīti uzbrukumi ir kaut kas cits galvenie informācijas drošības darbinieki (CISO), un kiberdrošības komandām ir jāapsver papildus visiem citiem izaicinājumiem, ar kuriem viņi šobrīd saskaras. Varbūt viena atbilde uz to ir aizstāvjiem, lai izmantotu arī AI aģentu nodrošinātās automatizācijas priekšrocības.
Zaharija tā tic-viņa pat savā brīvajā laikā uzcēla aģentu ar AI darbināmu draudu medību rīku.
“Runa bija par blakusprojektu, ko nedēļas nogalēs darīju brīvajā laikā-es tiešām esmu geeky,” viņa saka. “Runa bija par AI aģentu pasaules izpēti, jo es domāju, ka tas ir forši.”
Kiberuzbrukumi pastāvīgi attīstās, un ātra reakcija uz jauniem draudiem var būt neticami sarežģīta, it īpaši apgabalā, kur AI aģentus var ļaunprātīgi izvietot, lai masveidā atklātu jaunus ekspluatācijas. Tas nozīmē noteikt drošības draudus, nemaz nerunājot par ietekmes novērtēšanu un mazināšanas piemērošanu var aizņemt daudz laika – it īpaši, ja kiberdrošības darbinieki to dara manuāli.
“Tas, ko es mēģināju darīt, bija to automatizēt ar AI aģentiem,” saka Zaharija. “Arhitektūra, kas balstīta uz vairāku AI aģentu, mērķis ir identificēt jaunos draudus un prioritātes noteikt atbilstoši biznesa kontekstam, datu bagātināšanai un lietām, kas jums rūp, tad viņi rada medību un dzīvotspējas vaicājumus, kas palīdzēs jums tos pārvērst par izmantojamām ieskatu.”
Šī datu bagātināšana nāk no vairākiem avotiem. Tajos ietilpst sociālo mediju tendences, CVS, Pašu otrdienas paziņojumi, CISA brīdinājumi un citi ļaunprātīgas programmatūras ieteikumi.
AI prioritizē šo informāciju atbilstoši smagumam, AI aģentiem rīkojoties pēc šīs informācijas, lai palīdzētu veikt uzdevumus – piemēram, lejupielādējot kritiskos drošības atjauninājumus -, vienlaikus palīdzot arī mazināt daļu no sloga Pārmērīgi strādājošs kiberdrošības personālsApvidū
“Kiberdrošības komandām ir daudz uz rokām, daudz darāmā,” saka Zaharija. “Viņus satriec brīdinājumi, kurus viņi turpina iegūt no visiem viņiem ir. Tas nozīmē, ka draudēt medības kopumā, īpaši radušiem draudiem, vienmēr ir otra prioritāte.”
Viņa norāda uz tādiem incidentiem kā log4j, kritiska nulles dienu neaizsargātība plaši izmantotā programmatūrā, kuru gandrīz nekavējoties izmantoja sarežģīti draudu dalībnieki, atklājot.
“Padomājiet, cik lielu kaitējumu tas varētu nodarīt jūsu organizācijā, ja jūs tos neatrodat savlaicīgi,” saka Zacharia. “Un tieši tā ir jēga,” viņa piebilst, atsaucoties uz to, kā aģents AI var palīdzēt ātri noteikt un novērst kiberdrošības ievainojamības un jautājumus.
Soc racionalizēšana ar aģentu AI
Zacharia tālu no vienatnē ticīgā aģentiskā AI varētu dot lielu labumu kiberdrošības komandām.
“Padomājiet par SOC [security operations centre] Analītiķis, kurš sēž negadījuma priekšā, un viņam vai viņai jāsāk tas izmeklēt, ”saka Maors.” Viņi sāk ar tehnisko datu apskati, lai redzētu, vai viņi iepriekš ir redzējuši kaut ko līdzīgu. ”
Tas, ko viņš apraksta, ir svarīgs, bet laikietilpīgs-darba SOC analītiķi to dara katru dienu. Maors uzskata, ka aģentu AI rīku pievienošana procesam var pilnveidot savu darbu, galu galā padarot tos efektīvākus, lai noteiktu kiberdraudus.
“AI modelis var pārbaudīt incidentu un pēc tam detalizēt līdzīgus gadījumus, nekavējoties norādot, ka ir nepieciešama izmeklēšana,” viņš saka. “Ir arī paredzamais modelis, kas analītiķim norāda, kas viņiem nav jāizmeklē. Tas samazina ņurdēšanas darbu, kas jādara – dažreiz stundas, dažreiz darba dienas -, lai sasniegtu kaut ko vērtīgu, kas ir jauki.”
Bet, lai arī tas var sniegt atbalstu, ir svarīgi atzīmēt, ka aģenta AI nav sudraba lode, kas novērsīs kiberdrošības draudus. Jā, tas ir paredzēts, lai atvieglotu draudu izlūkošanas uzraudzības uzdevumu vai drošības atjauninājumu piemērošanu vieglāku un efektīvāku, taču arī cilvēki joprojām ir informācijas drošības atslēga. Cilvēki ir nepieciešami, lai strādātu SOC, un informācijas drošības darbinieki joprojām ir nepieciešami, lai palīdzētu darbiniekiem visā pārējā organizācijā palikt modriem un droši pret kiberdraudiem.
Īpaši tāpēc, ka AI turpina attīstīties un uzlabot, un uzbrucēji turpinās meklēt to izmantot – un aizstāvjiem ir jācīnās pret viņiem.
“Tā ir kaķa un peles situācija,” saka Zaharija. “Abas puses pieņem AI. Bet kā uzbrucējs jums ir nepieciešams tikai viens veids, kā ielīst. Kā aizstāvis jums ir jāaizsargā visa pils. Uzbrucējiem vienmēr būs priekšrocība, tā ir spēle, kuru mēs spēlējam. Bet es domāju, ka abas puses kļūst arvien labākas.”
