Sekojiet ZDNET: Pievienojiet mūs kā vēlamo avotu Google tīklā.
ZDNET galvenās atziņas
- AI pārlūkprogrammas ir jaudīgas, taču ne vienmēr drošas.
- Eksperti brīdina par pieaugošiem tūlītējas ievadīšanas un datu zādzību riskiem.
- Rūpīgi izmantojiet AI pārlūkprogrammas un aizsargājiet savus datus.
Šis gads noteikti ir bijis mākslīgā intelekta (AI) attīstības gads.
Pēkšņi palaižot OpenAI ChatGPT, uzņēmumi visā pasaulē centās savās darbplūsmās ieviest tērzēšanas robotu un ar to saistītās lietojumprogrammas; akadēmiķiem pēkšņi bija jāsāk pārbaudīt studentu iesniegtos AI plaģiātus; un AI modeļi parādījās visam, sākot no attēla un mūzikas ģenerēšanas līdz erotikai.
Tāpat: vai OpenAI Atlas pārlūks ir Chrome slepkava, ko mēs esam gaidījuši? Izmēģiniet to pats
Miljardi dolāru ir izlieti ne tikai ar AI darbināmos tērzēšanas robotos, wager arī lielos valodu modeļos (LLM) un nišas lietojumprogrammās. AI aģenti un pārlūkprogrammas tagad ir nākamā attīstība.
OpenAI atlants debitē
Otrdien paziņoja, ka OpenAI* ir izlaidusi ChatGPT atlantu, kas aprakstīts kā “pārlūkprogramma ar iebūvētu ChatGPT”.
Wager zem pārsega tas ir daudz vairāk. Pievienojoties Perplexity Comet, Dia un Gemini iespējotajām pārlūkprogrammām Google Chrome, Atlas ir pieejams Mac datorā ar jau solītiem atjauninājumiem, lai uzlabotu jauno pārlūkprogrammu.
OpenAI komanda ir aprakstījusi Atlas kā AI pārlūkprogrammu, kas veidota, izmantojot ChatGPT. Tērzēšanas robots integrējas ar katru jūsu iesniegto meklēšanas vaicājumu un visām atvērtajām cilnēm un var izmantot to saturu un datus, lai atbildētu uz vaicājumiem vai veiktu uzdevumus.
Tāpat: Perplexity piešķirs jums 20 USD par katru draugu, kuru jūs atsauksities uz Comet — kā iegūt naudu
Pamatojoties uz agrīnu testēšanu, piemēram, kad ZDNET redaktore Elyse Betters Picaro uzdeva Atlasam pasūtīt pārtikas preces viņas vārdā no Walmart, pārlūkprogramma ir apsolījusi. Izmantošana ietver pasūtīšanu tiešsaistē, e-pasta rediģēšanu, sarunu kopsavilkumu, vispārīgus vaicājumus un pat GitHub repo analīzi.
“Izmantojot Atlas, ChatGPT var būt jums līdzi jebkurā vietā tīmeklī, palīdzot logā tieši tur, kur atrodaties, izprotot, ko jūs mēģināt darīt, un izpildīt uzdevumus jūsu vietā, nekopējot un ielīmējot vai neizejot no lapas,” OpenAI saka. “Jūsu ChatGPT atmiņa ir iebūvēta, tāpēc sarunās var izmantot iepriekšējās tērzēšanas sarunas un informāciju, lai palīdzētu paveikt jaunas lietas.”
Tomēr Atlas – līdzās citām AI balstītām pārlūkprogrammām – rada drošības un privātuma jautājumus, uz kuriem ir jāatbild.
(Informācijas atklāšana: Ziff Davis, ZDNET mātesuzņēmums, 2025. gada aprīlī iesniedza prasību pret OpenAI, apgalvojot, ka tas pārkāpis Ziff Davis autortiesības apmācībā un AI sistēmu darbībā.)
Ātras injekcijas
Ātras injekcijas ir kļuvušas par jomu, kas kiberdrošības ekspertiem satrauc. A tūlītējs injekcijas uzbrukums notiek, kad draudu dalībnieks manipulē ar LLM, lai tas darbotos kaitīgā veidā. Uzbrukums, kas paredzēts lietotāja datu nozagšanai, var tikt slēpts kā īsts aicinājums, kas ignorē esošos drošības pasākumus un ignorē izstrādātāja norādījumus.
Ir divu veidu tūlītēja ievadīšana: tieša injekcija, kuras pamatā ir lietotāja ievade, vai netieša nolaupīšana, izmantojot lietderīgās slodzes, kas paslēptas saturā, ko LLM skrāpē, piemēram, tīmekļa lapā.
Drosmīgi pētnieki iepriekš atklāja netiešas tūlītējas injekcijas problēmas komētāun pēc šī pētījuma ir atklājuši un atklājuši jauni tūlītēji injekciju uzbrukumi ne tikai komētā, wager arī Fellou.
Tāpat: Bezmaksas AI darbināms Dia pārlūks tagad ir pieejams visiem Mac lietotājiem — Home windows lietotāji var pievienoties gaidīšanas sarakstam
“Aģentu pārlūkprogrammas palīgus var nekavējoties ievadīt neuzticams tīmekļa lapu saturs, padarot tādus aizsardzības veidus kā vienas izcelsmes politika nenozīmīgas, jo palīgs izpilda ar lietotāja autentificētām privilēģijām,” komentēja Courageous. “Tas ļauj vienkāršas instrukcijas dabiskajā valodā vietnēs (vai pat tikai Reddit komentārs) izraisīt starpdomēnu darbības, kas sasniedz bankas, veselības aprūpes pakalpojumu sniedzēju vietnes, korporatīvās sistēmas, e-pasta resursdatorus un mākoņa krātuvi.”
Eksperts Django Net Framework izstrādātājs un līdzveidotājs Saimons Vilisons ir cieši sekojis kustībām AI pārlūkprogrammu pasaulē un joprojām ir “dziļi skeptiskiAģentu un AI aģentu pārlūkprogrammu sektorā kopumā, atzīmējot, ka, atļaujot pārlūkprogrammai veikt darbības jūsu vārdā, pat pieprasot pamata kopsavilkumu par Reddit ziņu, iespējams, tiks veikta datu izfiltrēšana.
ZDNET jautāja OpenAI par drošības pasākumiem, kas ieviesti, lai novērstu tūlītēju injekciju, un vai tiek plānoti turpmāki uzlabojumi. Komanda mūs novirzīja uz palīdzības centrskurā ir izklāstīts, kā lietotāji var iestatīt detalizētas vadīklas, un uz X ziņa autors Dens Stukijs, OpenAI galvenais informācijas drošības darbinieks.
Stuckey saka, ka OpenAI ir “piešķīrusi prioritāti ātrās reaģēšanas sistēmām, lai palīdzētu mums ātri identificēt [and] bloķēt uzbrukumu kampaņas, tiklīdz mēs par tām uzzinām,” un uzņēmums “lielus” iegulda drošības pasākumos, lai novērstu tūlītējus injekcijas uzbrukumus.
Sensitīva datu apstrāde
Vēl viena nozīmīga drošības problēma ir uzticēšanās un tas, vai jūs atļaujat pārlūkprogrammai un LLM piekļūt jūsu personas datiem un tos apstrādāt.
Lai ļautu AI pārlūkprogrammai veikt konkrētus uzdevumus jūsu vietā, iespējams, jums būs jāatļauj pārlūkprogrammai piekļūt konta datiem, atslēgu piekariņiem un akreditācijas datiem.
Saskaņā ar Stuckey teikto, Atlas ir izvēles “atteikšanās režīms”, kas nedod ChatGPT piekļuvi jūsu akreditācijas datiem, un, ja aģents strādā sensitīvā vietnē, “Skatīšanās režīms” pieprasa, lai lietotāji paturētu cilni atvērtu, lai pārraudzītu aģentu darbā.
“[The] aģents apturēs, ja pāriesit promenade no cilnes ar sensitīvu informāciju,” saka izpilddirektors. “Tas nodrošina, ka esat informēts par aģenta veiktajām darbībām un kontrolējat to.
Tāpat: Šis jaunais Google Gemini modelis ritina internetu tāpat kā jūs — kā tas darbojas
Tā ir interesanta ideja, un, iespējams, pēc noklusējuma ir jāiespējo atteikšanās režīms. Tomēr mēs vēl redzam, vai šo informāciju un piekļuvi var droši apstrādāt jebkura AI pārlūkprogramma ilgtermiņā.
Ir arī vērts atzīmēt, ka jaunā atskaite Aikido publicētajā aptaujā, kurā piedalījās 450 CISO, drošības inženieri un izstrādātāji visā Eiropā un ASV, četri no pieciem respondentu uzņēmumiem teica, ka ir piedzīvojuši kiberdrošības incidentu, kas saistīts ar AI kodu. Jaudīga, jauna un spīdīga tehnoloģija ne vienmēr nozīmē drošu.
Alekss Lails, Actuality Defender CTO, ZDNET sacīja, ka pārlūkprogrammai uzticēt pārlūkošanas vēstures kopējo summu un visu pēc tam “ir muļķīga lieta”.
“Nepaiet ne nedēļa, ja šajās pārlūkprogrammās masveidā netiktu atklāts jauns defekts vai ekspluatācija, un, lai gan galvenās/galvenās pārlūkprogrammas tiek pastāvīgi uzlauztas, tās tiek salabotas un labāk uzturētas nekā pašreizējā AI pārlūkprogrammu ekosistēmas ielāpu kopums,” piebilda Lails.
Uzraudzība
Vēl viena aktuāla problēma ir uzraudzība. Lai gan mēs iesakām meklēšanas vaicājumiem izmantot drošu pārlūkprogrammu, lai jūsu darbības netiktu reģistrētas vai izsekotas, AI pārlūkprogrammas pēc konstrukcijas pievieno kontekstu jūsu meklēšanas vaicājumiem, izmantojot papildu jautājumus, tīmekļa lapu apmeklējumu žurnālus un analīzi, uzvednes un daudz ko citu.
Īmons Magvairs, Proton inženierzinātņu, AI un ML direktors, komentēja:
“Meklēšana vienmēr ir bijusi uzraudzība. AI pārlūkprogrammas to vienkārši ir padarījušas personisku. […] Lietotāji tagad kopīgo informāciju, ko viņi nekad neievadītu meklēšanas lodziņā, sākot no veselības problēmām un finansēm līdz attiecībām un biznesa plāniem. Tas nav tikai vairāk datu; tie ir saskaņoti, stāstījuma dati, kas atklāj, kas jūs esat, kā jūs domājat un ko jūs darīsit tālāk.
Tāpat: Opera aģents pārlūks Neon sāk izplatīties lietotājiem — kā pievienoties gaidīšanas sarakstam
Nosaucot meklēšanas, pārlūkošanas un automatizācijas konverģenci par “bezprecedenta” ieskatu lietotāju uzvedībā, Magvaire piebilda, ka “ja vien caurspīdīgums nepanāks iespējas, AI pārlūkošana var kļūt par novērošanas kapitālisma pagaidām intīmāko veidu.”
“Risinājums ir nevis noraidīt inovāciju, wager gan to pārdomāt. AI palīdzībai nav jānāk uz privātuma rēķina. Mums ir vajadzīgas skaidras atbildes uz galvenajiem jautājumiem: cik ilgi dati tiek glabāti, kam tiem ir piekļuve un vai apkopotās darbības joprojām var apmācīt modeļus? Kamēr nav nodrošināta reāla pārredzamība un kontrole, lietotājiem AI pārlūkprogrammas vispirms ir jāuzskata par potenciāliem uzraudzības rīkiem un produktivitātes palīglīdzekļiem.”
Vai man vajadzētu izmantot AI pārlūkprogrammu?
Kā atzīmēja Vilisons, lietojumprogrammu drošībā, “99% ir nesekmīga atzīme”, kā “ja ir veids, kā tikt garām aizsargmargām, neatkarīgi no tā, cik neskaidrs tas ir, motivēts pretinieku uzbrucējs to izdomās.”
Pašlaik AI pārlūkprogrammas lietošanā ir daudz “kā būtu, ja būtu”, un daži drošības un programmēšanas eksperti, piemēram, Vilisonsviņi viņiem neuzticēsies, kamēr “drošības pētnieku bars nebūs viņiem ļoti pamatīgi piekauts”.
Kas zina, iespējams, nulles dienas tūlītējas injekcijas labojumi nākotnē kļūs par atsevišķu kategoriju ikmēneša ielāpu ciklos.
Sarunā ar ZDNET Braiens Grinsteds, Mozilla vecākais galvenais inženieris, sacīja, ka “pašreizējo aģentu pārlūkprogrammu galvenā drošības problēma ir tā, ka pat labākajiem LLM mūsdienās nav iespējas nošķirt uzticamu saturu, kas nāk no lietotāja, un neuzticamu saturu, kas nāk no tīmekļa lapām.”
Tāpat: Es izmantoju Edge kā savu noklusējuma pārlūkprogrammu, taču tā jaunais AI režīms ir neuzticams un kaitinošs
“Nesenie aģentu pārlūkošanas produktu izlaišanas gadījumi ir ziņojuši par tūlītēju injekciju uzbrukumu panākumu līmeni ar zemiem divciparu skaitļiem, kas būtu uzskatāmi par katastrofāliem jebkurā tradicionālajā pārlūkprogrammas funkcijā,” komentēja izpilddirektors. “Mēs neizlaidīsim jaunu JavaScript API, kas ļautu tīmekļa lapai pārņemt pārlūkprogrammas vadību 10% gadījumu, pat ja lapa lūgtu pieklājīgi.”
Grinsteds iesaka, ka, ja vēlaties pārbaudīt AI pārlūkprogrammu, jums vajadzētu izvairīties no piekļuves saviem privātajiem datiem un neuzticama satura ielādes — un ne tikai aizdomīgās vai nedrošās vietnēs, wager arī paturot prātā, ka neuzticami dati var parādīties citādi uzticamās vietnēs, piemēram, produktu pārskatos vai Reddit ziņās.
Turklāt izpilddirektors iesaka pārskatīt drošības iestatījumus, tostarp to, kādus datus jebkura pārlūkprogramma sūta no jūsu ierīces, kam tā tiek izmantota un vai tie tiek saglabāti.
Tas, vai izvēlaties izmantot AI pārlūkprogrammu, ir atkarīgs no jums, lai gan likmes ir augstas, ja plānojat ļaut jaunām, salīdzinoši nepārbaudītām pārlūkprogrammām piekļūt jūsu sensitīvajai informācijai.
Vai vēlaties vairāk stāstu par AI? Pārbaudiet AI līderu sarakstsmūsu iknedēļas biļetens.
