Anthropic palaiž Claude AI aģentu, kas dzīvo Chrome

Anthropic sāk pētījumu priekšskatījumu par pārlūka AI aģentu, kuru darbina tā Claude AI modeļi, uzņēmums paziņots otrdien. Aģents Claude Chrome tiek ieviests 1000 abonentu grupā Anthropic Max plānā, kas maksā no 100 līdz 200 USD mēnesī. Uzņēmums arī atver a gaidīšanas saraksts citiem ieinteresētajiem lietotājiem.

Pievienojot Chrome paplašinājumu, atlasiet lietotāji tagad var tērzēt ar Claude blakusvāģa logā, kas uztur kontekstu par visu, kas notiek viņu pārlūkprogrammā. Lietotāji var arī dot Claude aģentam atļauju veikt pasākumus pārlūkprogrammā un viņu vārdā veikt dažus uzdevumus.

Pārlūkprogramma ātri kļūst par nākamo AI Labs kaujas laukumu, kuru mērķis ir izmantot pārlūka integrācijas, lai piedāvātu vairāk netraucētu savienojumu starp AI sistēmām un to lietotājiem. Nesen Saplexity uzsāka savu pārlūkprogrammu Comet, kurā ir AI aģents, kas lietotājiem var izkraut uzdevumus. Tiek ziņots, ka Openai ir tuvu sava pārlūka palaišanai, par kuru tiek baumots, ka tam ir līdzīgas funkcijas kā komētai. Tikmēr pats Google pēdējos mēnešos ir uzsācis Dvīņu integrāciju ar Chrome.

Sacensības, kas saistītas ar AI darbināmu pārlūkprogrammu izstrādi, ir īpaši aktuāla, ņemot vērā Google draudošo konkurences lietu, kurā galīgais lēmums tiek gaidīts jebkurā dienā. Lietas federālais tiesnesis ir ierosinājis, ka viņš var piespiest Google pārdot savu pārlūku hromu. Appratne iesniedza nelūgtu 34,5 miljardu dolāru lielu piedāvājumu Chrome, un Openai izpilddirektors Sems Altmans ieteica, ka viņa uzņēmums būtu gatavs arī to iegādāties.

Otrdienas emuāra ierakstā Antropic brīdināja, ka AI aģentu pieaugums ar pārlūka piekļuvi rada jaunus drošības riskus. Pagājušajā nedēļā Courageous’s drošības komanda paziņoja, ka atklāja, ka Komētas pārlūka aģents varētu būt neaizsargāts netiešie uzvednes iesmidzināšanas uzbrukumikur slēptais kods vietnē varētu pievilināt aģentu, izpildot ļaunprātīgas instrukcijas, kad tas apstrādāja lapu.

(Applicity komunikāciju vadītājs Džesijs Dveijers e -pastā TechCrunch pastāstīja, ka ir fiksēta drosmīga ievainojamība.)

Anthropic saka, ka tā cer izmantot šo pētījumu priekšskatījumu kā iespēju noķert un risināt jaunus drošības riskus, tomēr uzņēmums jau ir ieviesis vairākas aizsardzības pret ātru injekcijas uzbrukumiem. Uzņēmums saka, ka tās iejaukšanās samazināja tūlītēju injekcijas uzbrukumu panākumu līmeni no 23,6% līdz 11,2%.

Piemēram, Antropic saka, ka lietotāji var ierobežot Kloda pārlūka aģentu no piekļuves noteiktām vietnēm lietotnes iestatījumos, un uzņēmumam pēc noklusējuma ir bloķēts Klods piekļūt vietnēm, kas piedāvā finanšu pakalpojumus, pieaugušo saturu un pirātu saturu. Uzņēmums arī saka, ka Kloda pārlūkprogrammas aģents lūgs lietotāja atļauju, pirms “veicot paaugstināta riska darbību veikšanu, piemēram, publicēšanu, pirkšanu vai dalīšanas personas datus”.

Šis nav antropisks pirmais iedziļināšanās AI modeļos, kas var kontrolēt datora ekrānu. 2024. gada oktobrī uzņēmums uzsāka AI aģentu, kas varētu kontrolēt jūsu datoru – tomēr testēšana tajā laikā atklāja, ka modelis bija diezgan lēns un neuzticams.

Kopš tā laika aģentu AI modeļu iespējas ir diezgan uzlabojušās. TechCrunch ir noskaidrojis, ka mūsdienu pārlūku izmantojošie AI aģenti, piemēram, Comet un Chatgpt aģents, ir diezgan uzticami, lai lietotājiem izkrautu vienkāršus uzdevumus. Tomēr daudzas no šīm aģentiskajām sistēmām joprojām cīnās ar sarežģītākām problēmām.