Sekojiet zdnet: Pievienojiet mūs kā vēlamo avotu Google.
ZDNET galvenie pārņemšana
- Klods AI tagad var izveidot un rediģēt dokumentus un citus failus.
- Funkcija varētu apdraudēt jūsu sensitīvos datus.
- Pārraugiet katru mijiedarbību ar AI, lai saņemtu aizdomīgu izturēšanos.
Populārākie ģeneratīvie AI pakalpojumi zināmā mērā var strādāt ar jūsu personīgajiem vai ar darbu saistītajiem datiem un failiem. Otrādi? Tas var ietaupīt laiku un darbu gan mājās, gan darbā. Negatīvie? Izmantojot piekļuvi sensitīvai vai konfidenciālai informācijai, AI var pievilināt dalīties ar šiem datiem ar nepareiziem cilvēkiem.
Arī: Claude var jums izveidot PDFS, slaidus un izklājlapas jums tagad tērzēšanā
Jaunākais piemērs ir Antropic’s Claude AI. Otrdien uzņēmums paziņoja, ka tā AI tagad var izveidot un rediģēt vārdu dokumentus, Excel izklājlapas, PowerPoint slaidus un PDFS tieši Kloda vietne un darbvirsmas lietotnēs Windows un MacOS. Vienkārši aprakstiet, ko vēlaties uzvednē, un Klods, cerams, sniegs vēlamos rezultātus.
Pagaidām šī funkcija ir pieejama tikai Klods MakssKomanda un uzņēmuma abonenti. Tomēr Antropic sacīja, ka nākamajās nedēļās tas kļūs pieejams pro lietotājiem. Lai piekļūtu jaunajai faila izveidošanas funkcijai, dodieties uz iestatījumiem un eksperimentālajā kategorijā atlasiet “Jauninātas failu izveidošanas un analīzes” opciju.
Antropiski brīdina par riskiem
Izklausās pēc noderīgas prasmes, vai ne? Bet pirms ienirt, ņemiet vērā, ka šāda veida mijiedarbībā ir saistīti riski. Tā Otrdienas ziņu izlaidumsPat Antropic atzina, ka “šī funkcija dod Claude internetam piekļuvi failu izveidošanai un analīzei, kas var apdraudēt jūsu datus.”
Arī: AI aģenti draudēs cilvēkiem sasniegt savus mērķus, atrod Antropisko ziņojumu
Uz Atbalsta lapauzņēmums dziļāk iedziļinājās iespējamajos riskos. Funkcija, kas veidota, ņemot vērā zināmu drošību, nodrošina Claude ar smilšu kastes vidi, kurai ir ierobežota piekļuve internetam, lai procesam varētu lejupielādēt un izmantot JavaScript paketes.
Bet pat ar šo ierobežoto piekļuvi internetam uzbrucējs varētu izmantot tūlītēju iesmidzināšanu un citus trikus, lai pievienotu instrukcijas, izmantojot ārējos failus vai vietnes, kas triecien Claude, lai palaistu ļaunprātīgu kodu vai lasītu sensitīvus datus no savienota avota. Turpmāk kodu varētu ieprogrammēt, lai izmantotu smilšu kastes vidi, lai izveidotu savienojumu ar ārēju tīklu un noplūdes datiem.
Kāda aizsardzība ir pieejama?
Kā jūs varat aizsargāt sevi un savus datus no šāda veida kompromisiem? Vienīgais paziņojums, ko piedāvā Antropic, ir uzraudzīt Klodu, strādājot ar faila izveides funkciju. Ja jūs to pamanāt, izmantojot vai piekļūstiet datiem negaidīti, pārtrauciet to. Varat arī ziņot par problēmām, izmantojot īkšķu lejupslīdi.
Arī: AI bezmaksas tīmekļa nokasīšanas dienas var būt beigušās, pateicoties šim jaunajam licencēšanas protokolam
Tas neizklausās pārāk noderīgi, jo tas liek lietotājam slogu novērot ļaunprātīgus vai aizdomīgus uzbrukumus. Bet tas ir līdzvērtīgs kursam ģeneratīvajai AI nozarei šajā brīdī. Ātra injekcija ir pazīstams un draņķīgs veids, kā uzbrucēji var ievietot ļaunprātīgu kodu AI uzvednē, dodot viņiem iespēju kompromitēt sensitīvus datus. Tomēr AI pakalpojumu sniedzēji ir lēni cīnījušies pret šādiem draudiem, pakļaujot lietotājus risku.
Mēģinot apkarot draudus, Antropic ieskicēja vairākas funkcijas Claude lietotājiem.
- Jums ir pilnīga kontrole pār faila izveidošanas funkciju, tāpēc jebkurā laikā varat to ieslēgt un izslēgt.
- Izmantojot funkciju, varat uzraudzīt Kloda progresu un apturēt tās darbības, kad vien vēlaties.
- Jūs varat pārskatīt un revidēt Kloda veiktās darbības smilšu kastes vidē.
- Jūs varat atspējot publisku sarunu koplietošanu, kas ietver visu informāciju no funkcijas.
- Jūs varat ierobežot visu Claude izpildīto uzdevumu ilgumu un laiku, kas atvēlēts vienam smilšu kastes konteineram. To darot, var palīdzēt izvairīties no cilpām, kas varētu norādīt uz ļaunprātīgu darbību.
- Tīkla, konteinera un krātuves resursi ir ierobežoti.
- Varat iestatīt noteikumus vai filtrus, lai atklātu tūlītēju iesmidzināšanas uzbrukumus un apturētu tos, ja tie tiek atklāti.
Arī: Microsoft pieskaras antropicam AI vārdos un Excel, signalizējot attālumu no Openai
Varbūt šī funkcija nav domāta jums
“Mēs esam veikuši šo funkciju sarkano komandu un drošības pārbaudi,” teikts Antropic izlaidumā. “Mums ir nepārtraukts process, lai pastāvīgi pārbaudītu drošības pārbaudi un sarkans, kas apkopo šo funkciju. Mēs mudinām organizācijas novērtēt šīs aizsardzības pret viņu īpašajām drošības prasībām, izlemjot, vai iespējot šo funkciju.”
Šis galīgais teikums var būt labākais padoms no visiem. Ja jūsu bizness vai organizācija izveido Claude faila izveidi, jūs to vēlēsities novērtēt pret jūsu pašu drošības aizsardzību un pārbaudīt, vai tas pāriet uz pulcēšanos. Ja nē, tad varbūt šī funkcija nav paredzēta jums. Izaicinājumi var būt vēl lielāki mājas lietotājiem. Kopumā izvairieties no personisku vai sensitīvu datu dalīšanas savās uzvednēs vai sarunās, uzmanieties no neparastas AI izturēšanās un regulāri atjauniniet AI programmatūru.
