ZDNET galvenie pārņemšana
- APSTIPRINĀJUMA KOMET pārlūks varētu atklāt jūsu privātos datus.
- Uzbrucējs uzvednei varētu pievienot komandas, izmantojot ļaunprātīgu vietni.
- AI jāapstrādā lietotāja un vietnes dati atsevišķi.
Iegūstiet padziļinātu ZDNet AI pārklājumu: Pievienojiet mūs kā vēlamo Google avotu Hroma un hroma pārlūkprogrammās.
Agentic AI pārlūkprogrammas ir karsta jauna tendence AI pasaulē. Tā vietā, lai jums būtu jāpārlūko tīmeklis pats, lai izpildītu konkrētus uzdevumus, jūs sakāt pārlūkprogrammai nosūtīt tā aģentu, lai veiktu jūsu misiju. Wager atkarībā no tā, kuru pārlūku izmantojat, jūs, iespējams, atverat sevi uz drošības riskiem.
A Emuāra ziņojums, kas publicēts trešdienļaudis aiz drosmīgā pārlūka (kas piedāvā savu AI darbināmo palīgu, sauktu par Leo), norādīja uz viņu kolektīvajiem pirkstiem Metllexity jaunajā komētas pārlūkprogrammā. Šobrīd Pieejams publiskai lejupielādeiKomēta ir veidota uz aģentu AI priekšnoteikumu, apsolot, ka jūsu vēlme ir tās komanda.
Arī: kāpēc apjukums notiek pēc Google Chrome – un jā, tas ir nopietni
Vai jums ir jāizvēlas jauns sava iecienītākā olbaltumvielu dzēriena piedāvājums Amazon? Tā vietā, lai to izdarītu pats, vienkārši sakiet Komētai, lai to izdarītu jūsu vietā.
Labi, tad kāda ir liellopu gaļa? Pirmkārt, noteikti ir iespēja kļūdīties. Tā kā AI ir tik pakļauts kļūdām, aģents varētu nepareizi interpretēt jūsu instrukcijas, spert nepareizu soli pa ceļam vai veikt darbības, kuras jūs nenorādījāt. Izaicinājumi reizinās, ja jūs uzticat AI apstrādāt personisko informāciju, piemēram, paroli vai maksājuma informāciju.
Wager lielākais dangers ir tas, kā pārlūkprogramma apstrādā uzvednes saturu, un šeit drosmīgie atrod Komētas vainu. Savā demonstrācijā Courageous parādīja, kā uzbrucēji varētu ievadīt komandas uzvednē, izmantojot viņu pašu radīšanas ļaunprātīgas vietnes. Nespējot nošķirt savu pieprasījumu un uzbrucēja komandas, pārlūks varētu pakļaut jūsu personas datus kompromisam.
Arī: kā atbrīvoties no AI pārskatiem Google meklēšanā: 4 vienkārši veidi
“Ievainojamība, par kuru mēs apspriežam šī ziņa Slēpj to, kā komēta apstrādā tīmekļa lapas saturu, “sacīja Courageous.” Kad lietotāji lūdz to “apkopot šo tīmekļa lapu”, komēta plaisa tīmekļa lapas daļu tieši tās LLM, nenotalot lietotāja instrukcijas un neuzticamu saturu no tīmekļa lapas. Tas ļauj uzbrucējiem iegult netiešas tūlītējas injekcijas kravas, kuras AI izpildīs kā komandas. Piemēram, uzbrucējs varētu piekļūt lietotāja e -pastiem no sagatavota teksta gabala citā cilnē. “
Līdz šim nav zināmi šādu uzbrukumu piemēri savvaļā.
Courageous sacīja, ka uzbrukums, kas parādīts komētā, parāda, ka tradicionālā tīmekļa drošība nav pietiekama, lai aizsargātu cilvēkus, izmantojot aģentu AI. Tā vietā šādiem aģentiem ir nepieciešami jauni drošības un privātuma veidi. Paturot prātā šo mērķi, drosmīgais ieteica veikt vairākus pasākumus.
Pārlūkprogrammai vajadzētu atšķirt lietotāja instrukcijas un vietnes saturuApvidū Pārlūkprogrammai vajadzētu atdalīt pieprasījumus, ko lietotājs iesniedz uzvednē no tīmekļa vietnes piegādātā satura. Tā kā ļaunprātīga vietne vienmēr ir iespēja, šis saturs vienmēr jāuzskata par neuzticamu.
AI modelim vajadzētu nodrošināt, ka uzdevumi atbilst lietotāja pieprasījumamApvidū Visas darbības, kas iesniegtas uzvednei, jāpārbauda, ņemot vērā lietotāju iesniegtās darbības, lai nodrošinātu izlīdzināšanu.
Arī: krāpnieki ir iefiltrējušies Google AI atbildes – kā tās pamanīt
Sensitīviem drošības un privātuma uzdevumiem vajadzētu būt nepieciešama lietotāja atļaujaApvidū AI vienmēr ir nepieciešama lietotāja atbilde, pirms tiek veikti kādi uzdevumi, kas ietekmē drošību vai privātumu. Piemēram, ja aģentam tiek lūgts nosūtīt e -pastu, aizpildīt pirkumu vai pieteikties vietnē, tam vispirms vajadzētu lūgt lietotājam apstiprinājumu.
Pārlūkā vajadzētu izolēt aģentu pārlūkošanu no regulāras pārlūkošanasApvidū Aģentu pārlūkošanas režīms rada dažus riskus, jo pārlūks var lasīt un nosūtīt e -pastus vai apskatīt sensitīvus un konfidenciālus datus vietnē. Šī iemesla dēļ aģentu pārlūkošanas režīmam jābūt skaidrai izvēlei, nevis kaut kam, ko lietotājs var piekļūt nejauši vai bez zināšanām.
Ar drosmīgu atrašanu Komētas vaina, kā ir reaģējusi apjukums? Šeit es tikai dalīšos notikumu grafikā, kā aprakstījis drosmīgais.
- 2025. gada 25. jūlijs: Atklāta un ziņota par neaizsargātību.
- 2025. gada 27. jūlijs: apjukums atzina ievainojamību un ieviesa sākotnējo labojumu.
- 2025. gada 28. jūlijs: atkārtota pārbaude atklāja, ka labojums ir nepilnīgs; Papildu informācija un komentāri tika sniegti apjukumam.
- 2025. gada 11. augusts: vienas nedēļas publiskās informācijas atklāšanas paziņojums, kas nosūtīts uz apjukumu.
- 2025. gada 13. augusts: Galīgā pārbaude apstiprināja, ka ievainojamība, šķiet, ir izlabota.
- 2025. gada 20. augusts: Sīkāka informācija par neaizsargātības informāciju (atjauninājums: Pēc šīs emuāra ziņas publiskošanas pēc šīs emuāra ziņas mēs uzzinājām, ka apjukums joprojām nav pilnībā mazinājis šeit aprakstīto uzbrukumu. Mēs to viņiem esam atkārtoti ziņojuši.)
Tagad bumba atkal ir apjukuma tiesā. Es sazinājos ar uzņēmumu, lai komentētu un atjauninātu stāstu ar jebkuru atbildi.
Arī: labākie drošie pārlūkprogrammas privātumam: pārbaudīts eksperts
“Šī apjukuma komētas neaizsargātība izceļ būtisku izaicinājumu ar aģentu AI pārlūkprogrammām: nodrošinot, ka aģents veic tikai darbības, kas ir saskaņotas ar to, ko lietotājs vēlas,” sacīja Courageous. “Tā kā AI palīgi iegūst jaudīgākas iespējas, netiešie ātrās injekcijas uzbrukumi rada nopietnu risku tīmekļa drošībai.”
