AI aģenti — uzdevumiem raksturīgi modeļi, kas izstrādāti, lai darbotos autonomi vai daļēji autonomi ar norādījumiem — tiek plaši ieviesti uzņēmumos (līdz 79% no visiem aptaujātajiem PwC ziņojums šī gada sākumā). Taču viņi arī ievieš jaunus drošības riskus.
Ja notiek AI drošības pārkāpums, uzņēmumi var ātri atlaist darbiniekus un noteikt vainīgos, guess lēnāk identificēt un novērst sistēmiskās kļūdas, kas to izraisīja.
Forrester’s Prognozes 2026. gadam: kiberdrošība un risks prognozē, ka pirmais aģenta mākslīgā intelekta pārkāpums novedīs pie atlaišanas, piebilstot, ka ģeopolitiskais satricinājums un spiediens, kas tiek izdarīts uz CISO un CIO, ātri izvietot aģentu AI, vienlaikus samazinot riskus.
CISO gaida izaicinājumu pilns 2026. gads
Tos organizācijās, kuras konkurē globāli, nākamie divpadsmit mēneši gaida īpaši smagi, jo valdības sāks stingrāk regulēt un tieši kontrolēt kritisko sakaru infrastruktūru.
Forrester arī prognozē, ka ES izveidos savu zināmo izmantoto ievainojamību datubāzi, kas nozīmē tūlītēju pieprasījumu pēc reģionalizētiem drošības speciālistiem, kuri arī CISO būs ātri jāatrod, jāpieņem darbā un jāpieņem darbā, ja šī prognoze notiks.
Forrester arī prognozē, ka kvantu drošības izdevumi pārsniegs 5% no kopējā IT drošības budžeta, kas ir ticams iznākums, ņemot vērā pētnieku pastāvīgo progresu pret kvantu izturīgas kriptogrāfijas ieviešanu un uzņēmumu steidzamību novērst draudus “novākt tūlīt, atšifrēt vēlāk”.
No piecām galvenajām problēmām, ar kurām CISO saskarsies 2026. gadā, neviena nav nāvējošāka, un tai ir potenciāls pilnībā pārkārtot draudu ainavu kā aģentu AI pārkāpumu un nākamās paaudzes ieroču AI.
Kā CISO vēršas pret aģentu AI draudiem
“Aģentiskā AI ieviešana rada pilnīgi jaunus drošības apdraudējumus, kas apiet tradicionālās kontroles. Šie riski aptver datu izfiltrēšanu, API autonomu ļaunprātīgu izmantošanu un slēptu starpaģentu slepenu vienošanos, un tas viss var traucēt uzņēmuma darbību vai pārkāpt normatīvās pilnvaras,” Džerijs R. Geislers III, izpilddirektors viceprezidents un galvenais informācijas drošības speciālists. Walmart Inc., stāstīja VentureBeat nesenā intervijā.
Geislers turpināja, formulējot Walmart virzienu. “Mūsu stratēģija ir izveidot stabilas, proaktīvas drošības kontroles, izmantojot uzlabotu AI drošības pozu pārvaldību (AI-SPM), nodrošinot pastāvīgu riska uzraudzību, datu aizsardzību, atbilstību normatīvajiem aktiem un darbības uzticību.”
Aģentiskajā AI netieši norāda uz riskiem, kas notiek, ja aģenti nesadzīvo, nesacenšas par resursiem vai, vēl ļaunāk, viņiem trūkst pamata arhitektūras, lai nodrošinātu minimālā dzīvotspējīgā drošība (MVS). Forrester definē MVS kā pieeju drošības integrēšanai, rakstot to “Agrīnās stadijas koncepcijas testēšanā, nepalēninot produktu komandu. Produktam attīstoties no agrīnās stadijas koncepcijas testēšanas uz alfa laidienu, beta laidienu un tālāk, attīstās arī MVS drošības aktivitātes, līdz ir pienācis laiks atstāt MVS aiz muguras.”
Sems Evans, CISO of Klīrvoteras analīze sniedza ieskatu par to, kā viņš risināja izaicinājumu nesenajā VentureBeat intervijā. “Es atceros, kad vienā no pirmajām valdes sēdēm, kurā es piedalījos, man jautāja: "Kādas ir jūsu domas par ChatGPT?" es teicu, "Nu, tas ir neticams produktivitātes rīks. Tomēr es nezinu, kā mēs varētu ļaut saviem darbiniekiem to izmantot, jo es visvairāk baidos, ka kāds tajā kopē un ielīmē klientu datus vai mūsu pirmkodu, kas ir mūsu intelektuālais īpašums."
Evansa kompānija pārvalda 8,8 triljonus dolāru aktīvus. "Sliktākā iespējamā lieta būtu, ja kāds no mūsu darbiniekiem ņemtu klientu datus un ievietotu tos mākslīgā intelekta dzinējā, kuru mēs nepārvaldām," Evans pastāstīja VentureBeat. "Darbinieks nezina neko citu vai mēģina atrisināt klienta problēmu… šie dati palīdz apmācīt modeli."
Evanss paskaidroja: “Guess es ne tikai nācu pie padomes ar savām bažām un problēmām. Es teicu:” Nu, lūk, mans risinājums. Es nevēlos liegt cilvēkiem būt produktīviem, guess es arī vēlos to aizsargāt. Kad es atnācu pie tāfeles un paskaidroju, kā šie uzņēmuma pārlūkprogrammas darbā, viņi saka: “Labi, tam ir liela jēga, guess vai jūs tiešām varat to izdarīt?”
Pēc valdes sanāksmes Evans un viņa komanda uzsāka padziļinātu un visaptverošu uzticamības pārbaudes procesu, kura rezultātā Klīrvoters izvēlējās Sala.
Padomju telpas sniedz CISO skaidras un steidzamas pilnvaras: nodrošināt jaunāko AI un aģentu AI lietotņu, rīku un platformu vilni, lai organizācijas varētu nekavējoties palielināt produktivitāti, nezaudējot drošību vai palēninot inovācijas.
Aģentu izvietošanas ātrums visos uzņēmumos ir veicinājis spiedienu nodrošināt vērtību milzīgā ātrumā, kas ir lielāks nekā jebkad agrāk. Kā Džordžs Kurcs, uzņēmuma vadītājs un dibinātājs CrowdStrike, Nesenā intervijā teica: “Mūsdienu kiberuzbrukumu ātrums prasa, lai drošības komandas ātri analizētu milzīgus datu apjomus, lai atklātu, izmeklētu un ātrāk reaģētu. Pretinieki uzstāda rekordus, izlaušanās laiks ir nedaudz vairāk par divām minūtēm, neatstājot iespēju kavēties.”
Produktivitāte un drošība vairs nav atsevišķas joslas; tie ir viens un tas pats ceļš. Pārvietojieties ātri, pretējā gadījumā konkurence un pretinieki paies jums garām, jo ziņojumu dēļi šodien tiek piegādāti CISO.
Walmart CISO saglabā inovāciju intensitāti
Geislers par augstu prioritāti izvirza nepārtrauktu novatorisku jaunu ideju plūsmu Walmart.
“Mūsu lieluma vide prasa īpaši pielāgotu pieeju un, kas interesanti, iesācēju domāšanas veidu. Mūsu komanda bieži atkāpjas un jautā: "Ja mēs būtu jauns uzņēmums un celtu no nulles, ko mēs uzbūvētu?" Geislers turpināja: “Pēdējo 30+ gadu laikā identitātes un piekļuves pārvaldība (IAM) ir piedzīvojusi daudzas iterācijas, un mūsu galvenā uzmanība tiek pievērsta tam, kā modernizēt mūsu IAM kopu, lai to vienkāršotu. Lai gan mūsu princips par mazāko privilēģiju ir atšķirīgs no Zero Belief, tas nemainīsies.”
Walmart ir pārvērtis inovāciju par praktisku, pragmatisku stratēģiju, lai nepārtraukti nostiprinātu savu aizsardzību, vienlaikus samazinot risku, vienlaikus sniedzot būtisku ieguldījumu biznesa izaugsmē. Procesa izveide, kas to var paveikt plašā mērogā aģentu AI laikmetā, ir viens no daudzajiem veidiem, kā kiberdrošība sniedz uzņēmumam biznesa vērtību.
VentureBeat turpina redzēt, ka uzņēmumi, tostarp Clearwater Analytics, Walmart un daudzi citi, ievieš kiberaizsardzību, lai cīnītos pret aģentiem AI kiberuzbrukumiem.
No daudzajām intervijām ar CISO un uzņēmumu drošības komandām atklājas septiņi kaujās pārbaudīti veidi, kā uzņēmumi nodrošina sevi pret iespējamiem aģentu AI uzbrukumiem.
Septiņi veidi, kā CISO tagad nodrošina savus uzņēmumus
No padziļinātām sarunām ar CISO un drošības vadītājiem atklājas septiņas pārbaudītas stratēģijas uzņēmumu aizsardzībai pret nenovēršamiem AI draudiem:
1. Redzamība ir pirmā aizsardzības līnija. “Pieaugošā vairāku aģentu sistēmu izmantošana ieviesīs jaunus uzbrukuma vektorus un ievainojamības, ko varētu izmantot, ja tās jau no paša sākuma nebūs pienācīgi nodrošinātas,” šī gada sākumā VentureBeat stāstīja Nikola Karignana, Darktrace stratēģiskā kiber AI viceprezidente. Precīza, reāllaika uzskaite, kas identificē katru izvietoto sistēmu, izseko lēmumu pieņemšanu un sistēmu savstarpējo atkarību aģenta līmenī, vienlaikus kartējot arī neparedzētas mijiedarbības aģenta līmenī, tagad ir uzņēmuma noturības pamatā.
2. Pastipriniet API drošību tūlīt un organizatoriski attīstiet muskuļu atmiņu, lai tās būtu drošas. Finanšu pakalpojumu, mazumtirdzniecības un banku drošības un riska pārvaldības speciālisti, kuri runāja ar VentureBeat, vēloties palikt anonīmi, uzsvēra, cik svarīgi ir nepārtraukti uzraudzīt risku API slāņos, norādot, ka viņu stratēģija ir izmantot uzlabotu AI drošības pozu pārvaldību (AI-SPM), lai saglabātu redzamību, nodrošinātu atbilstību normatīvajiem aktiem un darbības uzticību sarežģītā vidē. API ir aģenta riska frontes līnijas, un to drošības stiprināšana pārvērš tās no integrācijas punktiem stratēģiskajos izpildes slāņos.
3. Pārvaldīt autonomās identitātes kā stratēģisku prioritāti. “Identitāte tagad ir mākslīgā intelekta drošības vadības plāns. Kad AI aģents pēkšņi piekļūst sistēmām, kas neatbilst tā noteiktajam modelim, mēs to izturamies identiski pret apdraudētiem darbinieka akreditācijas datiem,” nesenajā intervijā ar VentureBeat sacīja CrowdStrike Pretienaidnieku operāciju vadītājs Adams Meijers. Aģentiskā AI laikmetā tradicionālā IAM rokasgrāmata ir novecojusi. Uzņēmumiem ir jāievieš IAM ietvari, kas mērogojas līdz miljoniem dinamisku identitāšu, pastāvīgi nodrošina vismazākās privilēģijas, integrē uzvedības analīzi gan mašīnām, gan cilvēkiem un reāllaikā atceļ piekļuvi. Tikai paceļot identitātes pārvaldību no darbības izmaksu centra par stratēģisku vadības plānu, organizācijas pieradinās autonomo sistēmu ātrumu, sarežģītību un risku.
4. Jauniniet uz reāllaika novērojamību, lai ātri noteiktu draudus. Statiskā reģistrēšana pieder citam kiberdrošības laikmetam. Aģentūras vidē novērojamībai ir jākļūst par dzīvu, nepārtraukti straumētu izlūkošanas slāni, kas aptver visu sistēmas darbību. Uzņēmumiem, kas apvieno telemetriju, analīzi un automatizētu reakciju vienā adaptīvā atgriezeniskās saites cilpā, kas spēj pamanīt un novērst anomālijas sekundēs, nevis stundās, ir vislabākās iespējas izjaukt AI uzbrukumu.
5. Iekļaujiet proaktīvu uzraudzību, lai līdzsvarotu inovāciju ar kontroli. Neviens uzņēmums nekad nav izcēlies ar saviem izaugsmes mērķiem, ignorējot jaunāko tehnoloģiju aizsargmargas, kuras viņi izmantoja, lai sasniegtu šo mērķi. Aģentiskajam AI tas ir nākotnes pamatā, lai no šīs tehnoloģijas gūtu pēc iespējas lielāku vērtību. CISO, kas efektīvi vada šo jauno ainavu, nodrošina, ka cilvēka vidū darbplūsmas tiek izstrādātas jau no paša sākuma. Pārraudzība cilvēku līmenī arī palīdz izveidot skaidrus lēmumu pieņemšanas punktus, kas atklāj problēmas jau pirms to spirāles. Rezultāts? Inovācijas var darboties ar pilnu gāzi, zinot, ka proaktīvā uzraudzība nospiedīs bremzes tieši tik daudz, lai uzņēmums droši noturētos uz pareizā ceļa.
6. Padariet pārvaldību pielāgojamu, lai tā atbilstu AI ātrajai ieviešanai. Statiska, neelastīga pārvaldība tikpat labi varētu būt vakardienas laikraksts, jo tā drukāšanas brīdī ir novecojusi. Aģentu pasaulē, kas pārvietojas ar mašīnu ātrumu, atbilstības politikām ir nepārtraukti jāpielāgojas, iestrādājot tās reāllaika darbības darbplūsmās, nevis glabājot putekļainos plauktos. CISO, kurām ir vislielākā ietekme, saprot, ka pārvaldība nav tikai dokumentu kārtošana; tas ir kods, tā ir kultūra, tā ir tieši integrēta uzņēmuma sirds ritmā, lai ietu kopsolī ar katru jaunu izvietošanu.
7. Inženieru reaģēšana uz incidentiem pirms mašīnas ātruma draudiem. Sliktākais laiks, lai plānotu reaģēšanu uz incidentu? Ja jūsu Energetic Listing un citas pamatsistēmas ir apdraudētas mākslīgā intelekta pārkāpuma dēļ. Progresīvi domājošie CISO veido, pārbauda un uzlabo atbildes rokasgrāmatas, pirms parādās aģentu apdraudējumi, integrējot automatizētus procesus, kas reaģē ar pašu uzbrukumu ātrumu. Gatavība negadījumam nav ugunsdzēsības mācība; tai ir jābūt muskuļu atmiņai vai vienmēr aktīvai disciplīnai, kas ieausti uzņēmuma darbības struktūrā, lai pārliecinātos, ka draudu klātbūtnē komanda ir mierīga, koordinēta un jau soli priekšā.
Aģentiskais AI šobrīd reāllaikā pārkārto draudu ainavu
Kā prognozē Forrester, pirmais lielais aģenta pārkāpums prasīs ne tikai darbavietas; tas atklās ikvienu organizāciju, kas izvēlējās inerci, nevis iniciatīvu, izceļot skarbu uzmanības centrā aizmirstās nepilnības pārvaldībā, API drošībā, identitātes pārvaldībā un reāllaika novērojamībā. Tikmēr kvantu draudi palielina budžeta piešķīrumus, liekot drošības vadītājiem steidzami rīkoties, pirms viņu aizsardzības līdzekļi vienā naktī kļūst novecojuši.
CISO, kas uzvar šajās sacīkstēs, jau plāno savas sistēmas reāllaikā, iestrādājot pārvaldību savā darbības kodolā un iekļaujot proaktīvas reakcijas uz incidentiem ikdienas darbību struktūrā. Uzņēmumi, kas pieņem šo proaktīvo nostāju, pārvērtīs riska pārvaldību par stratēģisku priekšrocību, apsteidzot gan konkurentus, gan pretiniekus.
