ChatGPT atlants ir ar AI darbināma tīmekļa pārlūkprogramma, kas var rezervēt ceļojumus, pasūtīt pārtikas preces vai veikt izpēti jūsu vārdā. OpenAI saka, ka tas ir tāpat kā personīgā aģenta iebūve jūsu tīmekļa pārlūkprogrammā. Par to ir nobažījušies drošības eksperti.
Lai arī cik ievērojamas ir AI sistēmas, tās ir arī nepilnīgas. Sākot ar halucinācijām un beidzot ar ģīboni, mākslīgais intelekts bieži var nodarīt lietas nepareizi. Tīmekļa pārlūkprogrammas atslēgu nodošana AI rada virkni citu potenciālu problēmu, tostarp tūlītējus injekcijas uzbrukumus, starpliktuves uzbrukumus un vienkāršu nespēju saprast, ka dažas vietnes ir surogātpasts.
“Atlas parāda tās pašas agrīnās stadijas problēmas, ko esam redzējuši citās aģentu stila pārlūkprogrammās,” sacīja Robs T. Lī, pētniecības vadītājs un galvenais AI vadītājs SANS institūtā, kooperatīva kiberdrošības apmācību un izglītības organizācija. “Ir bijuši veiksmīgi tūlītēji injekcijas un novirzīšanas testi. Par godu OpenAI ir ātri pārcēlies uz ziņojumu risināšanu.”
Nepalaidiet garām nevienu no mūsu objektīva tehniskā satura un laboratorijas pārskatiem. Pievienojiet CNET kā vēlamo Google avotu.
AI Atlas izlaišana ir agrīns risinājums jaunā pārlūkprogrammu karā. Citi šajā jomā ienācēji ietver Perplexity’s Comet, Google iekļaušanu Gemini pārlūkā Chrome un Copilot režīmu programmā Microsoft Edge. Lielajiem Huge Tech spēlētājiem, gūstot jebkādu pārsvaru tīmekļa pārlūkprogrammas telpā, tiek iegūti svarīgi lietotāja dati, kurus viņi var izmantot, lai labāk optimizētu savus produktus vai pārdotu mērķtiecīgu reklāmu. Tas ir īpaši svarīgi OpenAI, kas ir ieguldījis miljardiem dolāru AI infrastruktūras attīstībai, vienlaikus uzrādot ierobežotu spēju gūt ieņēmumus, daudz mazāk peļņu. Uzņēmums meklē visas iespējas, ieskaitot reklāmulai palielinātu ieņēmumus, kā arī ļautu ģenerēt pieaugušajiem paredzētu teksta saturu.
(Informācijas atklāšana: Ziff Davis, CNET mātes uzņēmums, aprīlī iesniedza prasību pret OpenAI, apgalvojot, ka tas ir pārkāpis Ziff Davis autortiesības apmācībā un AI sistēmu darbībā.)
OpenAI gadījumā, ja ar AI darbināma tīmekļa pārlūkprogramma kļūst arvien populārāka, tas nozīmē, ka cilvēki ir jāatraida no Chrome, kas pašlaik ir pasaulē populārākā tīmekļa pārlūkprogramma ar 73% tirgus daļu. GlobalStats. ChatGPT Atlas varētu vēl vairāk paplašināt OpenAI ekosistēmu. Lai gan ChatGPT ir kļuvis par visaptverošu terminu AI tērzēšanas robotiem, lai Atlas sasniegtu masveida ieviešanu gan patērētāju, gan uzņēmumu vidē, OpenAI būs jānodrošina, lai tā pārlūkprogramma būtu tikpat droša un uzticama kā Chrome.
Ātras injekcijas, starpliktuves uzbrukumi un daudz kas cits
Ātri injekcijas uzbrukumi ir ievainojamība, kas visvairāk saistīta ar AI darbināmām tīmekļa pārlūkprogrammām. Tas ir ļaunprātīgas izmantošanas veids, kurā slikti dalībnieki AI aģenta vietnē apzināti ievieto ļaunprātīgas instrukcijas. Teksts ir neredzams, slēpts no lietotāja. Taču, tā kā mākslīgais intelekts var analizēt visu vietnes saturu, tas pārņem norādījumus un ignorē drošības vadlīnijas. Slikti norādījumi var novest pie tā, ka mākslīgais intelekts var nopludināt sensitīvu informāciju, mainīt sistēmas iestatījumus vai veikt citas kaitīgas darbības.
“Šeit ir arī plašākas patērētāju bažas, jo tas attiecas tikai uz šāda veida visuresošu datora redzes komponentu, kas saistīts ar katru jūsu tīmekļa pārlūkošanas aspektu,” sacīja Saimons Poultons, mārketinga aģentūras Tinuiti inovāciju un izaugsmes viceprezidents. Poulton uztraucas, ka patērētāji nesapratīs, kā viņu informācija tiek glabāta un cik noturīga šī informācija ir AI.
Tas rada citas Poultona bažas: aģentu cieņu. Kad lietotāji arvien vairāk pierod pie AI sistēmām, viņi sāk atteikties no skepticisma un dod AI lielāku kontroli. Viņš to pielīdzina pirmajai braukšanai Waymo pašbraucošā automašīnā. Sākumā klients var uzmanīgi vērot, lai pārliecinātos, ka automašīna darbojas normāli. Taču pēc desmit minūtēm viņi pārslēgsies uz pārlūkošanu savos tālruņos.
Problēma ir tā, ka AI sistēmas nav ideālas. Pārbaudot Perplexity’s Comet, Poulton redzēja, ka pārlūkprogramma sāka ievadīt viņa paroli e-pasta adreses laukā, piesakoties vietnē. Viņš to spēja uztvert, taču tas parāda, kā AI sistēmas var nepareizi apstrādāt sensitīvu informāciju.
Mazāk zināma ievainojamība ir kopēšanas starpliktuvē uzbrukums. Šajā gadījumā slikts aktieris uzdos AI kopēt ļaunprātīgu saiti personas starpliktuvē. Ja persona nepievērš uzmanību, tā var nejauši ielīmēt saiti savā tīmekļa pārlūkprogrammā un novirzīt sevi uz sliktu vietni. Tieši šie neuzmanības gadījumi var radīt lielas ievainojamības.
“Viens no lielākajiem riskiem, izmantojot LLM kā saskarnes ar internetu, ir tas, ka cilvēki var neizprast savus ierobežojumus un tādējādi tos izmantot neatbilstoši,” sacīja Brauna universitātes datorzinātņu profesore Serēna Būta.
Sales space min, ka LLM kā terapeiti pārsvarā tiek izmantoti, lai gan šīs sistēmas nav pielāgotas šāda veida palīdzībai. “Esmu pārliecināts, ka šī pārlūkprogramma arī radīs halucinācijas, kas var kaitēt cilvēkiem, kuri to nepārvalda efektīvi. OpenAI ir jāuzņemas liela atbildība, lai izglītotu lietotājus par to, kā pareizi izmantot savu programmatūru,” sacīja Būts.
Kad tika lūgts komentārs, OpenAI atsaucās uz nesen publicētu emuāra ieraksts attiecībā uz tūlītējiem injekcijas uzbrukumiem.
“Aizsardzība pret tūlītēju injekciju ir izaicinājums visā AI nozarē un OpenAI galvenā uzmanība, saskaņā ar emuāra ierakstu. “Lai gan mēs sagaidām, ka pretinieki turpinās attīstīt šādus uzbrukumus, mēs veidojam aizsardzību, kas paredzēta lietotāja paredzētā uzdevuma veikšanai pat tad, ja kāds aktīvi mēģina viņus maldināt.”
OpenAI saka, ka tā apmāca AI modeļus, lai tie varētu izmantot instrukciju hierarhija kuras mērķis ir atšķirt uzticamus un neuzticamus norādījumus. Tas ir arī izstrādājis vairākus ar AI darbināmus “monitorus”, kas var identificēt un bloķēt tūlītējus injekcijas uzbrukumus. Atlas nodod vadību lietotājam, atrodoties sensitīvās vietnēs, piemēram, tiešsaistes iepirkšanās pakalpojumos. OpenAI teica, ka tā izmanto arī red-teaming (kad drošības komandas simulē reālās pasaules uzbrukumus, sastādot hakerus pret aizsargiem) ar iekšējām un ārējām komandām un piedāvā veltes cilvēkiem, kuri atrod kļūdas. Vidējā izmaksa ir 784 USD.
Esiet piesardzīgs darbā ar AI pārlūkprogrammām
Neskatoties uz risku, darbinieki ir spiesti pieņemt AI sistēmas. Līdz ar ChatGPT Atlas izlaišanu, 27,7% uzņēmumu ir licis vismaz vienam cilvēkam lejupielādēt ar AI darbinātu tīmekļa pārlūkprogrammunorāda datu drošības uzņēmums Cyberhaven. Iespējams, ka daži no tiem IT speciālisti lejupielādē pārlūkprogrammu, lai to pārbaudītu, taču joprojām ir ievērojams dangers, ka darbinieki darbā izmantos aģentu pārlūkprogrammas.
“Aģentiskās pārlūkprogrammas var vienkāršot un automatizēt vissliktākos iespējamos uzbrukumus, lai nozagtu ārkārtīgi sensitīvus datus par klientiem, personām, pacientiem, sensitīvu produktu dizainu un stingri regulētus datus, kas ietekmē valsts drošību,” sacīja Cyberhaven izpilddirektors Nišants Doši.
Doshi teica, ka šis dangers neaprobežojas tikai ar ChatGPT Atlas un ka, tā kā AI pārlūkprogrammas var darboties darbinieka vārdā, izmantojot viņu akreditācijas datus, lai pārvietotos korporatīvajos rīkos, ir jābūt aizsargmargām.
Pašreizējie AI un IT drošības rīki bieži vien nespēj skaidri noteikt, vai dati ir vai nav sensitīvi un no kurienes tie nāk. “Bez šī svarīgā konteksta viņi nevar precīzi pateikt, vai konkrētais datu gabals ir sensitīvs vai nē. Apvienojiet šo galveno trūkumu ar aģentu pārlūkprogrammu galvenajām priekšrocībām, lai automatizētu darbu, un jūs gaida incidents,” sacīja Doši.
Vai man vajadzētu izmantot ChatGPT Atlas vai ne?
Saskaņā ar Lī no SANS institūta teiktā, privātpersonām ir pareizi izmantot ChatGPT atlantu, ja vien apzināties tā ierobežojumus. Viņš iesaka izvairīties no Atlas sinhronizēšanas ar “finanšu, medicīnisku vai sensitīvu informāciju” vai tiešas koplietošanas ar šīm sistēmām un atspējot nevajadzīgās atļaujas.
Tomēr darbā vislabāk ir rīkoties piesardzīgi. Eksperti teica, ka ChatGPT Atlas ir jāizmanto testēšanas vidēs ar ierobežotu tīkla sasniedzamību. Ir svarīgi arī izsekot visām darbībām un savlaicīgi iekļaut tās uzņēmuma AI pārvaldības sistēmā, sacīja Lī.
Lielāks jautājums ir par to, vai jums ir nepieciešams ChatGPT atlants. Lai gan iespējas ir lieliskas, ja jums tas pastāvīgi jāuzrauga, lai pārliecinātos, ka tas darbojas pareizi, vai tas tiešām ir tā vērts? Visticamāk, jūs esat pietiekami iepazinies ar internetu, lai kaut ko darītu pats, pat ja tas prasa smadzenēs izmantot dažas papildu sinapses.
“Ir ļoti grūti pamatot, kāpēc kāds to izmantotu tieši tagad,” sacīja Poultons, kurš uzskata, ka viņš var ātrāk noklikšķināt uz vietnēm. “Tas ir novitātes faktors. Wager no kurienes rodas patiesā patērētāja pieredzes vieglums? Tas nemainās. Man tas nerada nekādu vērtību.”
TL;DR
Patērētāji var izmantot ChatGPT Atlas, tikai rīkojieties piesardzīgi. Neizmantojiet to darba datoros bez IT apstiprinājuma, jo var būt dažas ievainojamības. Lietojot to, sekojiet līdzi, kā tā izmanto sensitīvu informāciju, piemēram, paroles, lai pārvietotos pa vietnēm un veiktu uzdevumus. Drošības labad izvairieties no bankām vai citām sensitīvām vietnēm.
