Kaut arī šāda darbība līdz šim nešķiet norma visā izpirkuma programmatūras ekosistēmā, atklājumi atspoguļo izteiktu brīdinājumu.
“Noteikti ir dažas grupas, kas izmanto AI, lai palīdzētu attīstīt izpirkuma programmatūru un ļaunprātīgu programmatūru, guess, ciktāl tas ir ierakstīts nākotnē, var pateikt, visvairāk Nav, ”saka Allans Liskka, apsardzes firmas analītiķis, kas reģistrēts nākotnē, kurš specializējas izpirkuma programmatūrā.“ Kur mēs redzam, ka vairāk AI tiek plaši izmantota, ir sākotnējā piekļuve. ”
Atsevišķi šonedēļ kiberdrošības uzņēmuma ESET pētnieki apgalvots Lai atklātu “pirmo zināmo AI darbināmu izpirkuma programmatūru”, nodēvēts par Promplock. Pētnieki saka, ka ļaunprātīga programmatūra, kas lielā mērā darbojas uz vietas mašīnā un izmanto Openai atvērtā koda AI modeli, var “ģenerēt ļaunprātīgus LUA skriptus lidojumā” un izmanto tos, lai pārbaudītu failus, uz kuriem hakeri var mērķēt, nozagt datus un izvietot šifrēšanu. ESET uzskata, ka kods ir koncepcijas pierādījums, kas šķietami nav izvietots pret upuriem, guess pētnieki uzsver, ka tas parāda, kā kibernoziegumi sāk izmantot LLM kā daļu no savām instrumentu kopām.
“AI-AiSisted Ransomware izvietošana rada noteiktas problēmas, galvenokārt AI modeļu lieluma un to augsto skaitļošanas prasību dēļ. Tomēr ir iespējams, ka kibernoziegumi atradīs veidus, kā apiet šos ierobežojumus,” ESET ļaunprātīgas programmatūras pētnieki Antons Čerepanovs un Pīters Strycek, kurš atklāja jauno izpirkņu programmatūru, rakstīja e-pastā, kas bija paredzēts. “Runājot par attīstību, ir gandrīz skaidrs, ka draudu dalībnieki aktīvi pēta šo jomu, un mēs, visticamāk, redzēsim vairāk mēģinājumu radīt arvien sarežģītākus draudus.”
Lai arī Promplock nav izmantots reālajā pasaulē, Anthropic atklājumi vēl vairāk uzsver ātrumu, ar kādu kibernoziegumi pāriet uz LLMS veidošanu savā darbībā un infrastruktūrā. AI uzņēmums pamanīja arī citu kibernoziegumu grupu, kuru tā izseko kā GTG-2002, izmantojot Claude kodu, lai automātiski atrastu mērķus uzbrukt, piekļūt upuru tīkliem, izstrādātu ļaunprātīgu programmatūru un pēc tam izslīdēt datus, analizēt, kas ir nozagts, un izstrādā izpirkuma maksu.
Pēdējā mēneša laikā šis uzbrukums ietekmēja “vismaz” 17 organizācijas valdības, veselības aprūpes, neatliekamās palīdzības dienestu un reliģiskās institūcijās, saka Antropic, nenosaucot nevienu no ietekmētajām organizācijām. “Operācija demonstrē saistību ar kibernoziegumu palīdzību,” Anthropic pētnieki rakstīja savā ziņojumā: “kur AI kalpo gan kā tehniskais konsultants, gan aktīvais operators, dodot iespēju uzbrukumiem, kas būtu grūtāki un prasīgi individuāliem dalībniekiem izpildīt manuāli.”
