Iesniedza Splunk, Cisco uzņēmums
Tā kā mākslīgais intelekts strauji attīstās no teorētiska solījuma līdz darbības realitātei, CISO un CIO saskaras ar būtisku izaicinājumu: kā izmantot AI transformācijas potenciālu, vienlaikus saglabājot cilvēka uzraudzību un stratēģisko domāšanu, ko pieprasa drošība. Aģentiskā AI pieaugums pārveido drošības darbības, taču, lai gūtu panākumus, automatizācija ir jāsabalansē ar atbildību.
Efektivitātes paradokss: automatizācija bez atteikšanās no troņa
Spiediens pieņemt AI ir intensīvs. Organizācijas tiek spiestas samazināt darbinieku skaitu vai novirzīt resursus uz AI vadītām iniciatīvām, bieži vien pilnībā neizprotot, ko šī pārveide ietver. Solījums ir pārliecinošs: AI var samazināt izmeklēšanas laiku no 60 minūtēm līdz tikai 5 minūtēm, potenciāli nodrošinot drošības analītiķu produktivitātes uzlabojumus 10 reizes.
Tomēr kritiskais jautājums nav par to, vai AI var automatizēt uzdevumus, wager gan tas, kuri uzdevumi ir jāautomatizē un kuros cilvēka spriedums joprojām ir neaizstājams. Atbilde ir jāsaprot, ka mākslīgais intelekts ir izcils, paātrinot izmeklēšanas darbplūsmas, taču sanācijas un reaģēšanas darbībām joprojām ir nepieciešama cilvēka apstiprināšana. Sistēmas izmantošana bezsaistē vai galapunkta ievietošana karantīnā var būtiski ietekmēt uzņēmējdarbību. AI, kas veic šo zvanu autonomi, var netīšām izraisīt tos traucējumus, kas tam ir jānovērš.
Mērķis nav aizstāt drošības analītiķus, wager gan atbrīvot viņus vērtīgākam darbam. Izmantojot automatizēto kārtējo brīdinājumu šķirošanu, analītiķi var koncentrēties uz sarkanās komandas/zilās komandas vingrinājumiem, sadarboties ar inženieru komandām sanācijas jomā un iesaistīties proaktīvā draudu meklēšanā. Atrisināmu drošības problēmu netrūkst — trūkst drošības ekspertu, kas tās stratēģiski risinātu.
Uzticības deficīts: sava darba parādīšana
Lai gan pārliecība par AI spēju uzlabot efektivitāti ir augsta, skepticisms par AI vadītu lēmumu kvalitāti joprojām ir ievērojams. Drošības komandām ir nepieciešams vairāk nekā tikai mākslīgā intelekta radīti secinājumi — tām ir nepieciešama pārskatāmība par to, kā šie secinājumi tika izdarīti.
Kad AI konstatē, ka brīdinājums ir labdabīgs, un to aizver, SOC analītiķiem ir jāsaprot izmeklēšanas darbības, kas noveda pie šī noteikšanas. Kādi dati tika pārbaudīti? Kādi modeļi tika identificēti? Kādi alternatīvie skaidrojumi tika apsvērti un izslēgti?
Šī caurskatāmība vairo uzticību AI ieteikumiem, ļauj apstiprināt AI loģiku un rada nepārtrauktas uzlabošanas iespējas. Vissvarīgākais ir tas, ka tas saglabā kritisko cilvēku lokā sarežģītu spriedumu izsaukšanu, kas prasa niansētu izpratni par uzņēmējdarbības kontekstu, atbilstības prasībām un iespējamo kaskādes ietekmi.
Nākotnē, iespējams, tiks izmantots hibrīds modelis, kurā autonomas iespējas ir integrētas vadītajās darbplūsmās un rokasgrāmatās, analītiķiem paliekot iesaistītiem sarežģītu lēmumu pieņemšanā.
Konkurences priekšrocība: Cīņa pret AI ar AI — uzmanīgi
AI drošības jomā piedāvā abpusēji griezīgu zobenu. Kamēr mēs rūpīgi ieviešam AI ar atbilstošām aizsargmargām, pretinieki nesaskaras ar šādiem ierobežojumiem. AI pazemina šķēršļus uzbrucēju iekļūšanai, nodrošinot ātru ekspluatācijas attīstību un ievainojamību atklāšanu plašā mērogā. Tas, kas kādreiz bija sarežģītu apdraudējumu dalībnieku sfēra, drīzumā varētu būt pieejams ar AI rīkiem bruņotiem skriptu bērniem.
Asimetrija ir pārsteidzoša: aizsargiem jābūt pārdomātiem un izvairīgiem no riska, savukārt uzbrucēji var brīvi eksperimentēt. Ja mēs pieļaujam kļūdu, ieviešot autonomas drošības atbildes, mēs riskējam likvidēt ražošanas sistēmas. Ja uzbrucēja AI vadītā izmantošana neizdodas, viņš vienkārši mēģina vēlreiz bez sekām.
Tas rada nepieciešamību AI izmantot aizsardzības nolūkos, taču ar atbilstošu piesardzību. Mums ir jāmācās no uzbrucēju metodēm, vienlaikus saglabājot aizsargmargas, kas neļauj mūsu AI kļūt par ievainojamību. Nesenā parādīšanās ļaunprātīgs MCP (Mannequin Context Protocol) piegādes ķēdes uzbrukumi parāda, cik ātri pretinieki izmanto jauno AI infrastruktūru.
Prasmju dilemma: spēju veidošana, vienlaikus saglabājot pamatkompetences
Tā kā mākslīgais intelekts veic ikdienišķāku izmeklēšanas darbu, rodas satraucošs jautājums: vai drošības speciālistu pamatprasmes laika gaitā atrofēsies? Tas nav arguments pret AI pieņemšanu — tas ir aicinājums izstrādāt apzinātas prasmju attīstības stratēģijas. Organizācijām ir jāsabalansē ar AI nodrošinātā efektivitāte ar programmām, kas uztur pamatkompetences. Tas ietver regulārus vingrinājumus, kas prasa manuālu izmeklēšanu, savstarpēju apmācību, kas padziļina izpratni par pamatā esošajām sistēmām, un karjeras ceļus, kas attīsta lomas, nevis tās novērš.
Atbildība ir dalīta. Darba devējiem ir jānodrošina rīki, apmācība un kultūra, kas ļauj AI papildināt, nevis aizstāt cilvēku zināšanas. Darbiniekiem ir aktīvi jāiesaistās nepārtrauktā mācībā, AI uzskatot par sadarbības partneri, nevis kritiskās domāšanas aizstājēju.
Identitātes krīze: aģenta sprādziena pārvaldīšana
Iespējams, ka visvairāk nenovērtētais izaicinājums ir identitātes un piekļuves pārvaldība aģentu AI pasaulē. IDC lēš, ka līdz 2028. gadam būs 1,3 miljardi aģentu — katrai no tām ir nepieciešama identitāte, atļaujas un pārvaldība. Sarežģītība palielinās eksponenciāli.
Pārāk pieļaujami līdzekļi rada ievērojamu risku. Aģents ar plašu administratīvo piekļuvi var tikt sociāli izstrādāts destruktīvu darbību veikšanai, krāpniecisku darījumu apstiprināšanai vai sensitīvu datu izfiltrēšanai. Tehniskie īsceļi, ko izmanto inženieri "vienkārši liec tam darboties" — pārmērīgu atļauju piešķiršana, lai paātrinātu izvietošanu — radītu ievainojamības, ko pretinieki izmantos.
Uz rīkiem balstīta piekļuves kontrole piedāvā vienu ceļu uz priekšu, piešķirot aģentiem tikai viņiem nepieciešamās īpašās iespējas. Taču pārvaldības sistēmām ir jārisina arī tas, kā LLM paši varētu mācīties un saglabāt autentifikācijas informāciju, iespējams, ļaujot veikt uzdošanās uzbrukumus, kas apiet tradicionālās piekļuves kontroles.
Ceļš uz priekšu: sāciet ar atbilstību un ziņošanu
Šo izaicinājumu vidū viena joma piedāvā tūlītēju, ļoti iedarbīgu iespēju: nepārtrauktu atbilstību un ziņošanu par riskiem. AI spēja patērēt milzīgu daudzumu dokumentācijas, interpretēt sarežģītas prasības un izveidot kodolīgus kopsavilkumus padara to ideāli piemērotu atbilstības un ziņošanas darbam, kas tradicionāli ir patērējis milzīgu analītiķu laiku. Tas ir zema riska, augstas vērtības ieejas punkts AI drošības operācijās.
Datu pamats: ar AI darbināma SOC iespējošana
Neviena no šīm AI iespējām nevar gūt panākumus, ja netiek risinātas galvenās datu problēmas, ar kurām saskaras drošības darbības. SOC komandas cīnās ar apslēptiem datiem un atšķirīgiem rīkiem. Lai gūtu panākumus, ir nepieciešama apzināta datu stratēģija, kurā prioritāte ir pieejamība, kvalitāte un vienoti datu konteksti. Ar drošību saistītiem datiem ir jābūt nekavējoties pieejamiem mākslīgā intelekta aģentiem, tiem jābūt pareizi pārvaldītiem, lai nodrošinātu uzticamību, un bagātinātiem ar metadatiem, kas nodrošina AI nesaprotamu uzņēmējdarbības kontekstu.
Noslēguma doma: Inovācija ar nodomu
Autonomais SOC parādās — nevis kā gaismas slēdzis, lai apgrieztu, wager gan kā evolūcijas ceļojums, kam nepieciešama nepārtraukta pielāgošanās. Lai gūtu panākumus, mums ir jāizmanto AI efektivitātes pieaugums, vienlaikus saglabājot cilvēka spriedumu, stratēģisko domāšanu un ētisko uzraudzību, kas nepieciešama drošībai.
Mēs neaizstāsim drošības komandas ar AI. Mēs veidojam sadarbības, vairāku aģentu sistēmas, kurās cilvēku zināšanas virza mākslīgā intelekta spējas uz rezultātiem, kurus neviens nevarētu sasniegt atsevišķi. Tas ir aģentu AI laikmeta solījums — ja mēs apzināti domājam, kā mēs tur nonāksim.
Tanya Faddoul, Cisco uzņēmuma Splunk viceprezidente produktu jautājumos un klientu stratēģijas vadītāja. Maikls Fanings ir Cisco uzņēmuma Splunk informācijas drošības vadītājs.
Cisco Data Fabric nodrošina nepieciešamo datu arhitektūru, ko nodrošina Splunk Platform — vienota datu struktūra, apvienotas meklēšanas iespējas, visaptveroša metadatu pārvaldība, lai pilnībā atraisītu AI un SOC potenciālu. Uzziniet vairāk par Cisco Data Fabric.
Sponsorētie raksti ir saturs, ko ražo uzņēmums, kas vai nu maksā par ziņu, vai kuram ir biznesa attiecības ar VentureBeat, un tie vienmēr ir skaidri atzīmēti. Lai iegūtu vairāk informācijas, sazinieties gross sales@venturebeat.com.
