Drīz jūs varēsit vēl vieglāk integrēt Anthropic Chatbot savā tiešsaistes dzīvē. Klods par hromujauns paplašinājums, kas implantē AI modeli tieši tīmekļa pārlūkā, ļaus lietotājiem analizēt un apkopot tīmekļa lapas ekrānā, otrdien paziņojumā presei paziņoja uzņēmums.
Paplašinājumam, kas pašlaik tiek izmēģināts ar 1000 abonentiem MAX plānā, kas mēnesī maksā 200 USD, ir gan analīzes, gan aģentu iespējas. Tas ne tikai apkopos jūsu e -pastus un analizēs produktus, kurus iepērkaties tiešsaistē, guess arī var rīkoties jūsu vārdā. Tas ietver palīdzību pārvaldīt kalendārus, plānot sanāksmes vai pārbaudīt jaunas vietnes funkcijas.
Ir iemesls, kāpēc Antropic, Kloda veidotājs, ir piesardzīgs attiecībā uz plašāku izlaidumu: drošību.
Tikpat jaudīgas kā AI sistēmas, tās nav bez ievainojamībām. Drosmīgi, vēl viens tīmekļa pārlūks ar AI iespējām, pagājušajā nedēļā publicēja ziņojumu, ka Matlexity komētas AI tīmekļa pārlūks bija jutīgs pret tūlītēju injekcijas uzbrukumiem. (Kopš tā laika apjukums ir izveidojis šo jautājumu.) Antropisks atzīst to pašu risku.
Ātra injekcija ir metode, ar kuras palīdzību kāds mēģina likt AI darīt lietas, kuras tā nebija ieprogrammēta. Izmantojot gudru valodu, sliktais aktieris var apiet aizsardzību un padarīt AI nejauši nodot pieteikšanās akreditācijas datus vai citu sensitīvu informāciju. Ļaunprātīgas instrukcijas var paslēpt vietnēs kā neredzamu tekstu, tāpēc, kad AI analizē tīmekļa lapas saturu, tas varētu uzņemties un aktivizēt šo norādījumu, to nezinot.
Anthropic testēšanā tika atklāts, ka Hroma Claude bez drošības mazinājumiem sekos ļaunprātīgām instrukcijām 23,6% laika. Lai to apkarotu, antropiski pievienoja vietnes līmeņa atļaujas, lai lietotāji varētu atsaukt piekļuvi noteiktām vietnēm iestatījumos.
Turklāt Claude for Chrome pirms augsta riska darbību veikšanas lūgs lietotājiem, piemēram, kaut ko iegādājoties vai koplietojot personas datus. Piesardzības nolūkos Antropic saka, ka tas ir bloķēts Klodam strādāt pie paaugstināta riska kategorijām, piemēram, finanšu pakalpojumiem, pieaugušo satura un pirātiska satura. Šīs drošības mazināšanas samazināja uzbrukuma panākumu līmeni no 23,6% līdz 11,2%.
“Mēs esam sākuši veidot un pārbaudīt uzlabotus klasifikatorus, lai noteiktu aizdomīgus mācību modeļus un neparastus datu piekļuves pieprasījumus -pat tad, kad tie rodas šķietami likumīgos kontekstos,” savā emuāra ierakstā sacīja Antropic.
Anthropic atsaucās uz tā emuāra ierakstu, kad tika lūgts komentēt.
Claude for Chrome nāk, jo citi AI sacensību spēlētāji sāk veidot rīkus, lai AI nogādātu tīmekļa pārlūkos. AI meklētājprogrammu apjukums izlaida savu hromium balstītu AI tīmekļa pārlūku Comet, lai izvēlētos lietotājus šī gada sākumā. Google arī paziņoja par Gemini Chrome, kas ir pieejama Google AI Professional un Extremely abonentiem, šī gada sākumā. Microsoft Edge ir iebūvēts kopilots, tāpat kā drosmīgs ar Leo un Opera ar Aria.
Tā kā AI uzņēmumi konkurē ar līdzīgiem produktiem, lietotāji galu galā atradīs AI, kas viņiem patīk visvairāk un pieturēsies pie tā. Iegulējot savu iecienīto tērzētavu interneta pārlūkā, šī konkrētā AI kļūs vairāk integrēta jūsu ikdienas darbībā, iespējams, padarot to apgrūtinošu pārslēgšanai. AI var arī iegūt daudz datu par jums, izmantojot pārlūka lietošanu, kas var Labāk informējiet veidus, kā mērķēt uz jums ar reklāmuApvidū
