Sekojiet zdnet: Pievienojiet mūs kā vēlamo avotu Google.
ZDNET galvenie pārņemšana
- AI ir gan kiberdrošības draudi, gan risinājums.
- Etalīni pārbaudīs reālās pasaules kiberdrošības uzdevumu LLM.
- Svīts varētu palīdzēt izstrādātājiem izveidot labākus modeļus.
Pārspīlēts ar kiberdrošības rīka iespējām? Jauna etalona testu komplekta mērķis ir palīdzēt jums tos novērtēt un atrast jums piemērotos.
Arī: navigācija ar AI darbināmiem kiberdraudiem 2025. gadā: 4 ekspertu drošības padomi uzņēmumiem
Kiberdrošības programmatūras firma Crowdstrike ir apvienojusies ar Meta, lai atklātu jaunu atvērtā koda etalonu komplektu, lai pārbaudītu AI modeļu veiktspēju organizācijas drošības operāciju centrā (SOC). Saukts Kiberokrevāls.
“Bez skaidriem etaloniem ir grūti zināt, kuras sistēmas, lietošanas gadījumi un veiktspējas standarti nodrošina patiesu AI priekšrocību pret reālās pasaules uzbrukumiem,” paziņojumā presei rakstīja Crowdstrike.
Šie rīki atšķiras pēc to iespējām un cenām, apgrūtinot kiberdrošības speciālistus zināt, kurus izvēlēties. Jaunajā ietvarā tiek pārbaudīti lielo valodu modeļi (LLM) galvenajos kiberdrošības etalonos, ieskaitot reakciju uz negadījumiem, izpratni par draudu analīzi un ļaunprātīgas programmatūras pārbaudi.
Arī: šis “kritiskais” kursora drošības trūkums varētu pakļaut jūsu kodu ļaunprātīgai programmatūrai – kā to labot
Tāpat kā visi AI modeļa testēšanas ietvari, arī kiberoceval ir paredzēts, lai formalizētu reālās pasaules kiberdrošības uzdevumu LLM novērtēšanu, lai organizācijām sniegtu skaidrāku priekšstatu par noteiktām sistēmu stiprajām un vājībām.
KiberSoceval varētu arī dot AI izstrādātājiem smalkāku izpratni par to, kā uzņēmumu klienti izmanto savus modeļus kiberdrošības uzdevumiem, iespējams, novedot pie specializētākiem un spējīgiem modeļiem.
Kiberdrošības ieroču sacīkstes
AI pieaugums rada jaunus kiberdrošības draudus, taču tas rada arī risinājumus – veidojot sava veida digitālo ieroču sacīksti starp sliktiem aktieriem un SOC. Pirmie ir izmantojuši tehnoloģiju jaunos un nožēlojamos veidos, piemēram, paroļu brutālu piespiešanu, savukārt otrie arvien vairāk austās AI sistēmas savā drošības instrumentu komplektā.
Arī: es izveidoju biznesa plānu ar catgpt, un tas pārvērtās par piesardzības stāstu
Vienā ilustratīvā piemērā nesenajā Mastercard un Monetary Occasions garuma aptaujā tika atklāts, ka daudzi uzņēmumi visā finanšu pakalpojumu nozarē ir ietaupījuši miljonus, izvietojot ar AI darbināmiem kiberdrošības rīkiem pret AI iespējotiem krāpniekiem.
Padomājiet par to kā bioloģisko ieroču rasi, kas notiek jūsu ķermeņa imūnsistēmā. Jūsu baltajām asins šūnām vienmēr ir jānosaka un jācīnās ar kaitīgiem patogēniem, kas savukārt vienmēr attīstās, lai kļūtu nenosakāmāki un imūni pret mūsu slimību cīnītajām zālēm.
Tādā pašā veidā ar AI darbināmu kiberdrošību pastāvīgi jācīnās ar jauniem AI darbināmiem draudiem, padarot arvien nepieciešamus uzticamākus rīkus, kā arī labākus testēšanas ietvarus.
Atvērtā koda pārbaude
Meta jau sen ir sevi kā atvērtā avota AI līderi, kas, piemēram, atšķirībā no patentētajiem modeļiem, piemēram, Openai GPT-5, ļauj izstrādātājiem piekļūt modeļa svaram vai, reti, pat avota kodu, un veidot lietotnes bez maksas uz modeļa.
Arī: nekritiet par AI darbināmiem dezinformācijas uzbrukumiem tiešsaistē – lūk, kā palikt asiem
Uzņēmuma partnerība ar Crowdstrike iezīmē savus jaunākos centienus piedāvāt organizācijām vairāk atvērtā koda iespējām. Pamata pārdošanas solis ir tāds, ka, atbrīvojot LLM novērtēšanas ietvaru komplektu, kas ir brīvi pieejami kiberdrošības speciālistiem testēšanai un precizēšanai, modeļi tiks uzlaboti daudz ātrāk nekā tad, ja novērtēšana būtu atvērta tikai uzņēmumiem, kas veido AI modeļus.
“Izmantojot šos etalonus, un ir atvērti drošībai un AI kopienai, lai turpinātu uzlabot, mēs varam ātrāk strādāt kā nozare, lai atbloķētu AI potenciālu, aizsargājot pret progresīviem uzbrukumiem, ieskaitot AI balstītus draudus,” paziņojumā sacīja Meta jaunās superintelligence laboratorijas nodaļas produktu direktors Vincents Gonguets.
Kā to izmēģināt
Tagad varat piekļūt kiberoceval caur githubatrodiet vairāk informācijas par etaloniem šeitApvidū
