Vai vēlaties gudrāku ieskatu iesūtnē? Reģistrējieties mūsu iknedēļas biļeteniem, lai iegūtu tikai to, kas ir svarīgi uzņēmuma AI, datu un drošības vadītājiem. Abonēt tūlīt
Shadow AI ir 670 000 USD problēma, ko vairums organizāciju pat nezina, ka tām ir.
IBM 2025. gada izmaksas par datu pārkāpuma ziņojumušodien izlaists sadarbībā ar Ponemon institūtsatklāj, ka pārkāpumi, kas saistīti ar darbinieku nesankcionētu AI rīku izmantošanu, izmaksā organizācijas vidēji 4,63 miljonus USD. Tas ir gandrīz par 16% vairāk nekā vidējais rādītājs pasaulē – 4,44 miljoni USD.
Pētījums, pamatojoties uz 3470 intervijām 600 pārkāptās organizācijās, atspoguļo to, cik ātri AI adopcija pārsniedz drošības uzraudzību. Kaut arī tikai 13% organizāciju ziņoja par AI saistītiem drošības gadījumiem, 97% no tiem, kas pārkāpti, trūka pareizas AI piekļuves kontroles. Vēl 8% nebija pat pārliecināti, vai viņi tika apdraudēti caur AI sistēmām.
“Dati rāda, ka starp AI pieņemšanu un pārraudzību jau pastāv plaisa, un draudu dalībnieki to sāk izmantot,” sacīja Suja Viswesan, IBM drošības un izpildlaika produktu viceprezidente. “Ziņojumā atklājās, ka AI sistēmām trūkst pamata piekļuves kontroles, atstājot pakļautus ļoti sensitīvus datus un modeļus neaizsargātu pret manipulācijām.”
AI trieciena sērija atgriežas Sanfrancisko – 5. augusts
Nākamais AI posms ir šeit – vai esat gatavs? Pievienojieties līderiem no Block, GSK un SAP, lai apskatītu, kā autonomi aģenti pārveido uzņēmumu darbplūsmas-no reālā laika lēmumu pieņemšanas līdz automatizācijai galīgai līdz galam.
Nostipriniet savu vietu tūlīt – telpa ir ierobežota:
Shadow AI, piegādes ķēdes ir iecienītākie uzbrukuma vektori
Ziņojumā atklāts, ka 60% ar AI saistīto drošības incidentu rezultātā tika iegūti apdraudēti dati, savukārt 31% izraisīja traucējumus organizācijas ikdienas darbībai. Klientu personīgi identificējamā informācija (PII) tika apdraudēta 65% ēnu AI negadījumu. Tas ir ievērojami augstāks nekā vidējais rādītājs 53%. Viena no AI drošības trūkumiem ir pārvaldība – 63% no pārkāptajām organizācijām vai nu trūkst AI pārvaldības politikas, vai arī tās joprojām attīsta.
“Shadow AI ir kā dopings Tour de France; cilvēki vēlas malu, neapzinoties ilgtermiņa sekas,” Itamar Golan, izpilddirektors Ātra drošībapastāstīja VentureBeat. Viņa uzņēmums ir kataloģizējis vairāk nekā 12 000 AI lietotņu un katru dienu atklāj 50 jaunas.
VentureBeat turpina redzēt pretinieku TradeCraft Outpace pašreizējo aizsardzību pret programmatūru un modeļa piegādes ķēdes uzbrukumiem. Nav pārsteidzoši, ka ziņojumā tika atklāts, ka piegādes ķēdes ir primārais AI drošības incidentu uzbrukuma vektors, un 30% ir saistītas ar kompromitētām lietotnēm, API vai spraudņiem. Kā teikts ziņojumā: “Piegādes ķēdes kompromiss bija visizplatītākais AI drošības incidentu iemesls. Drošības gadījumi, kas saistīti ar AI modeļiem un lietojumprogrammām, tika mainīti, taču viens suggestions skaidri apgalvoja, ka augšējais rangs: piegādes ķēdes kompromiss (30%), kas ietver kompromitētas lietotnes, API un spraudņus.”
Ieroči AI izplatās
Ikviens ieroču veids AI, ieskaitot LLM, kas paredzēts, lai uzlabotu TradeCraft, turpina paātrināties. Sešpadsmit procenti pārkāpumu tagad ir saistīti ar uzbrucējiem, kas izmanto AI, galvenokārt AI ģenerētiem pikšķerēšanas (37%) un DeepFake uzbrukumiem (35%). Modeļi, ieskaitot krāpšanu, Spostgpt un Darkgpt, mazumtirdzniecība tikai par 75 USD mēnesī un ir mērķtiecīgi veidotas uzbrukuma stratēģijām, piemēram, pikšķerēšanai, izmantošanai, koda apdzīvošana, ievainojamības skenēšana un kredītkaršu validācija.
Jo precīzāk noregulēts dotais LLM, jo lielāka ir varbūtība, ka tā var būt vērsta uz kaitīgu izejas iegūšanu. Cisco AI drošības ziņojums ziņo, ka precīzi noregulētie LLM 22 reizes biežāk rada kaitīgu izeju nekā bāzes modeļi.
“Pretinieki nav tikai AI izmantošana uzbrukumu automatizēšanai, viņi to izmanto, lai saplūst normālā tīkla trafikā, padarot tos grūtāk atklāt,” Etay Maor, galvenais drošības stratēģis. Kato tīklinesen pastāstīja VentureBeat. “Patiesais izaicinājums ir tas, ka AI darbināmi uzbrukumi nav viens notikums; tie ir nepārtraukts izlūkošanas, izvairīšanās un adaptācijas course of.”
Kā nesenajā VentureBeat intervijā brīdināja Cato Networks izpilddirektors Šlomo Kramers: “Ir īss logs, kurā uzņēmumi var izvairīties no sadrumstalotām arhitektūrām. Uzbrucēji pārvietojas ātrāk nekā integrācijas komandas.”
Pārvaldība Viens no vājumu pretiniekiem izmanto
Starp 37% organizāciju, kas apgalvo, ka tām ir AI pārvaldības politika, tikai 34% veic regulāras revīzijas nesankcionētai AI. Tikai 22% veic pretrunīgu pārbaudi saviem AI modeļiem. DevSecops parādījās kā galvenais faktors, kas samazina pārkāpumu izmaksas, ietaupot organizācijas vidēji 227 192 USD.
Ziņojuma atklājumi atspoguļo to, kā pārvaldības kā zemākas prioritātes atlaišana ietekmē ilgtermiņa drošību. “Lielākajai daļai pārkāpto organizāciju (63%) vai nu nav AI pārvaldības politikas, vai arī tās joprojām izstrādā. Pat ja tām ir politika, mazāk nekā pusei ir AI izvietošanas apstiprināšanas course of un 62% trūkst atbilstošas piekļuves kontroles AI sistēmām.”
Lielākajai daļai organizāciju trūkst būtiskas pārvaldības, lai samazinātu ar AI saistītos riskus, 87% atzīstot politikas vai procesu neesamību. Gandrīz divas trešdaļas pārkāptu uzņēmumu regulāri neizdodas revidēt savus AI modeļus, un vairāk nekā trīs ceturtdaļas neveic pretinieku pārbaudi, atstājot kritisko ievainojamību.
Šis novēlotās reakcijas uz zināmajām ievainojamībām modelis pārsniedz AI pārvaldību līdz pamatdrošības praksei. Kriss Goetts, VP produktu pārvaldība parametru drošībai plkst Ivantiuzsver perspektīvas maiņu: “To, ko mēs šobrīd saucam par“ plākstera pārvaldību ”, būtu precīzāk to nosaukt par ekspozīcijas pārvaldību – vai cik ilgi jūsu organizācija vēlas tikt pakļauta īpašai neaizsargātībai?”
1,9 miljonu ASV dolāru AI dividendes: kāpēc viedā drošība atmaksājas
Neskatoties uz ieroču AI izplatīto raksturu, ziņojumā tiek piedāvāta cerība uz cīņu pret pretinieku pieaugošo tradicionālu. Organizācijas, kas darbojas All-In, izmantojot AI un automatizāciju, ietaupīt USD 1,9 miljonus par pārkāpumu un incidentu risināšanu par 80 dienām ātrāk. Saskaņā ar ziņojumu: “Drošības komandas, kas izmanto AI un automatizāciju, plaši saīsināja pārkāpumu laiku par 80 dienām un samazināja vidējās pārkāpumu izmaksas par USD 1,9 miljoniem, salīdzinot ar organizācijām, kuras neizmantoja šos risinājumus.”
Tas ir pārsteidzoši, cik plašs ir kontrasts. Organizācijas, kas darbināmas ar AI, iztērē 3,62 miljonus dolāru pārkāpumiem, salīdzinot ar 5,52 miljoniem USD tiem, kuriem nav AI, kā rezultātā 52% izmaksu atšķirība. Šīs komandas identificē pārkāpumus 153 dienu laikā, salīdzinot ar 212 dienām tradicionālajām pieejām, un pēc tam tos satur 51 dienā, salīdzinot ar 72 dienām.
“AI rīki izceļas ar strauji analizēt masīvus datus dažādos žurnālos, galapunktos un tīkla trafikā, agri pamanot smalkus modeļus,” atzīmēja Vineet Arora, CTO plkst WinwireApvidū Šī spēja pārveido drošības ekonomiku: lai gan vidējās globālās pārkāpuma izmaksas ir 4,44 miljoni USD, plašie AI lietotāji darbojas 18% zem šī etalona.
Tomēr adopcija turpina cīnīties. Tikai 32% plaši izmanto AI drošību, 40% to izvieto ierobežotā veidā, un 28% to izmanto bez kapacitātes. Nobriedušas organizācijas vienmērīgi sadala AI visā drošības dzīves ciklā, visbiežāk šāda sadalījumā: 30% profilakse, 29% noteikšana, 26% izmeklēšana un 27% reakcija.
Darens Goons, SVP produktu pārvaldība Ivanti, pastiprina to: “AI darbināmi galapunkta drošības rīki var analizēt milzīgu datu daudzumu, lai atklātu anomālijas un prognozētu iespējamos draudus ātrāk un precīzāk nekā jebkurš cilvēku analītiķis.”
Drošības komandas nepietver; Tomēr 77% sakrīt vai pārsniedz viņu uzņēmuma vispārējo AI pieņemšanu. Starp tiem, kas investē pēcspēlē, 45percentizvēlas AI vadītus risinājumus, koncentrējoties uz draudu noteikšanu (36%), negadījumu reakcijas plānošanu (35%) un datu drošības rīkiem (31%).
DevSecops faktors pastiprina pabalstus vēl vairāk, ietaupot papildu USD 227 192, padarot to par galveno izmaksu samazināšanas praksi. Apvienojumā ar AI ietekmi, organizācijas var samazināt pārkāpumu izmaksas par vairāk nekā 2 miljoniem USD, pārveidojot drošību no izmaksu centra uz konkurences diferenciatoru.
Kāpēc ASV kiberdrošības izmaksas sasniedz rekordu, wager pārējā pasaule ietaupa miljoniem
Kiberdrošības ainava 2024. gadā atklāja pārsteidzošo paradoksu: Tā kā globālās pārkāpumu izmaksas samazinājās līdz USD 4,44 miljoniem, viņu pirmais kritums piecu gadu laikā. ASV organizācijas vēroja, kā viņu ekspozīcija strauji palielinās līdz nepieredzētiem USD 10,22 miljoniem par vienu incidentu. Šī atšķirība norāda uz būtisku pārmaiņu par to, kā kiberriski materializējas pāri ģeogrāfiskajām robežām. Veselības aprūpes organizācijas turpina pildīt vissmagāko slogu ar vidējām izmaksām 7,42 miljoni USD par pārkāpumu un izšķirtspējas termiņi, kas stiepjas līdz 279 dienām – ir piecas nedēļas ilgāk nekā viņu vienaudži citās nozarēs.
Darbības nodeva izrādās tikpat smaga: 86% no pārkāptajām organizācijām ziņo par ievērojamiem biznesa traucējumiem, un trīs ceturtdaļas prasa vairāk nekā 100 dienas, lai atjaunotu normālu darbību. Iespējams, ka visvairāk attiecas uz drošības vadītājiem, ir investīciju noguruma rašanās. Pēc pārkāpuma drošības izdevumu saistības ir samazinājušās no 63% līdz tikai 49% salīdzinājumā ar iepriekšējo gadu, liekot domāt, ka organizācijas apšauba reaktīvo drošības ieguldījumu IA. Starp tiem, kas panāca pilnīgu atveseļošanos, tikai 2% izdevās atjaunot savu darbības statusu 50 dienu laikā, savukārt 26% prasīja vairāk nekā 150 dienas, lai atgūtu darbības pamatus. Šie metrika uzsver skarbo realitāti: lai gan globālās organizācijas uzlabo savu spēju ierobežot pārkāpumu izmaksas, ASV uzņēmumi saskaras ar saasinātu krīzi, kuru tradicionālie drošības izdevumi vien nevar atrisināt. Paplašinošā atšķirība prasa būtisku kiberizturības stratēģiju pārdomāšanu, jo īpaši veselības aprūpes sniedzējiem, kas darbojas pēc maksimālā riska un paplašinātu atveseļošanās laika krustošanās.
IBM ziņojums uzsver, kāpēc pārvaldība ir tik kritiska
“Gen AI ir samazinājis šķērsli kibernoziegumu ienākšanai.… Pat zemas sofistikācijas uzbrucēji var izmantot Genai, lai rakstītu pikšķerēšanas skriptus, analizētu ievainojamības un sāktu uzbrukumus ar minimālu piepūli,” piezīmes Kravas automašīna Izpilddirektors un dibinātājs Džordžs Kurts.
Maiks Rīmers, Ivanti lauka CISO, piedāvā cerību: “Gadiem ilgi uzbrucēji ir izmantojuši AI savā labā. Tomēr 2025. gads iezīmēs pagrieziena punktu, jo aizstāvji sāk izmantot AI potenciālu kiberdrošības nolūkos.”
IBM ziņojums sniedz ieskatu, ko organizācijas var izmantot, lai rīkotos nekavējoties:
- Ieviest AI pārvaldību tūlīt – tikai 45% apstiprināšanas procesi AI izvietošanai
- Iegūstiet redzamību ēnu AI – Regulāras revīzijas ir būtiskas, ja 20% cieš no neatļautas AI pārkāpumiem
- Paātrināt drošības AI adopciju – 1,9 miljonu dolāru uzkrājumi attaisno agresīvu izvietošanu
Tā kā ziņojumā secināts: “Organizācijām ir jānodrošina galvenie informācijas drošības darbinieki (CISO), galvenie ieņēmumu amatpersonas (CROS) un galvenie atbilstības virsnieki (CCO) un viņu komandas regulāri sadarbojas. Ieguldījumi integrētās drošības un pārvaldības programmatūrā un procesi, lai šīs starpfunkcionālās ieinteresētās personas varētu automātiski atklāt un pārvaldīt AI.”
Tā kā uzbrucēji ieročo AI un darbinieki rada ēnu rīkus produktivitātei, organizācijas, kas izdzīvo, izmantos AI priekšrocības, vienlaikus stingri pārvaldot tās riskus. Šajā jaunajā ainavā, kur mašīnas kaujas mašīnas ar ātrumu nevar saskaņot, pārvaldība nav saistīta tikai ar atbilstību; Tas ir par izdzīvošanu.
avots
