Sekojiet ZDNET: Pievienojiet mūs kā vēlamo avotu Google tīklā.
ZDNET galvenās atziņas
- Operētājsistēmā Home windows 11 tiek pievienoti AI aģenti, kas var veikt darbības jūsu vārdā.
- Otrā pilota aģenti rada potenciālus drošības un privātuma riskus.
- Sagaidiet testēšanu un papildu drošības kontroles, pirms funkcija kļūst publiska.
Katrs datordrošības lēmums galu galā ir saistīts ar uzticības jautājumu. Vai jums vajadzētu instalēt šo programmu, kuru gatavojaties lejupielādēt no nepazīstamas vietnes? Vai esat pārliecināts, ka jūsu e-pasta ziņojumi nonāk tieši adresātam, nepārtverot? Vai ir droši sniegt šim tirgotājam savas kredītkartes informāciju?
Drīzumā datoru, kuros darbojas operētājsistēma Home windows 11, īpašniekiem būs vēl viens jautājums, kas jāpievieno šim sarakstam: vai jums vajadzētu uzticēties šim Copilot aģentam, lai tas jūsu vārdā iedziļinās jūsu failos un mijiedarbosies ar lietotnēm?
Arī paša OpenAI atbalsta robotam nav ne jausmas, kā darbojas ChatGPT
Lūk, kā Microsoft apraksta līdzekli Copilot Actions, ko izlaiž testēšanai Home windows Insider programmas dalībniekiem.
Copilot Actions ir AI aģents kas pabeidz uzdevumus jūsu vietā, mijiedarbojoties ar jūsu lietotnēm un failiem, izmantojot redzējumu un uzlabotu spriešanu, lai klikšķinātu, rakstītu un ritinātu tāpat kā to darītu cilvēks.
Tādējādi aģenti no pasīviem palīgiem tiek pārveidoti par aktīviem digitālajiem līdzstrādniekiem, kas var veikt sarežģītus uzdevumus, lai uzlabotu efektivitāti un produktivitāti, piemēram, atjaunināt dokumentus, kārtot failus, rezervēt biļetes vai sūtīt e-pastus. Kad aģentam ir piešķirta piekļuve, integrējot ar Home windows, aģents var izmantot jūsu datorā jau esošās priekšrocības, piemēram, lietotnes un datus, lai paveiktu uzdevumus jūsu vietā.
Tie ir diezgan lieli uzticības lēmumi. Lai aģentam atļautu mijiedarboties ar jūsu personīgajiem failiem, ir nepieciešams lēciens ticībā. Tāpat arī ideja ļaut aģentam darboties jūsu vārdā lietotnēs, kurās, domājams, esat pierakstījies, izmantojot kādus drošus akreditācijas datus.
Mācīšanās no pagātnes
Pēdējo reizi, kad Microsoft ieviesa nozīmīgu AI funkciju ar šāda līmeņa piekļuvi jūsu personas datiem, tas … neizdevās labi. Drošības pētnieki nosodīja Home windows atsaukšanas līdzekli, tas tika aizkavēts vairākus mēnešus un beidzot tika atsākts ar lielām privātuma un drošības izmaiņām. Galu galā pagāja gandrīz gads, pirms šī funkcija nonāca publiskās ēkās.
Šoreiz Microsoft neizmanto šādas iespējas. Pirms Copilot Actions funkcijas publiskās debijas, uzņēmuma vadītāji pielika lielas pūles, lai uzsvērtu tā apņemšanos ievērot privātuma un drošības kontroli.
Arī: kā iegūt bezmaksas Home windows 10 drošības atjauninājumus līdz 2026. gada oktobrim
Iesācējiem šī funkcija tiek ieviesta kā priekšskatījums “eksperimentālajā režīmā” tikai klientiem, kuri ir izvēlējušies Home windows Insider programmu Home windows pirmsizlaides versijām.
Funkcija pēc noklusējuma ir atspējota un ir iespējota tikai tad, kad lietotājs pārslēdz slēdzi Eksperimentālās aģenta funkcijas sadaļā Home windows Iestatījumi > Sistēma > AI komponenti > Aģenta rīki.
Aģentiem, kas integrējas sistēmā Home windows, ir jābūt ciparparakstam no uzticama avota, tāpat kā izpildāmajām programmām. Šim piesardzības pasākumam būtu jārada iespēja atsaukt un bloķēt ļaunprātīgos aģentus.
Aģenti darbosies ar atsevišķu standarta kontu, kas tiek nodrošināts tikai tad, kad lietotājs iespējo šo līdzekli. Vismaz pagaidām aģenta kontam būs piekļuve ierobežotam tā saukto zināmo mapju kopumam reģistrētā lietotāja profilā, tostarp dokumentiem, lejupielādēm, darbvirsmai un attēliem. Lietotājam ir skaidri jāpiešķir atļauja piekļūt failiem citās vietās.
Arī Microsoft Copilot AI tagad var iegūt informāciju tieši no Outlook, Gmail un citām lietotnēm
Visas šīs darbības notiks ierobežotā vidē, ko sauc par Aģenta darbvietaar savu darbvirsmu un tikai ierobežotu piekļuvi lietotāja darbvirsmai. Principā šāda veida izpildlaika izolācija un detalizēta atļauju kontrole ir līdzīga esošajiem līdzekļiem, piemēram, Home windows Sandbox.
In a emuāra ieraksts Izceļot šīs drošības funkcijas, Dana Huanga, korporatīvā Home windows drošības viceprezidente, sacīja:[A]n aģents sāks ar ierobežotām atļaujām un iegūs piekļuvi tikai tiem resursiem, kuriem jūs skaidri piešķirat atļauju, piemēram, vietējiem failiem. Aģenta darbībām ir skaidri noteiktas robežas, un tas nevar veikt izmaiņas jūsu ierīcē bez jūsu iejaukšanās. Šo piekļuvi var atsaukt jebkurā laikā.”
Šāda veida funkcijas drošības likmes ir augstas. Kā atzīmēja Huangs, “[A]Gentic AI lietojumprogrammas rada jaunus drošības riskus, piemēram, savstarpējas uzvednes ievadīšanu (XPIA), kur lietotāja saskarnes elementos vai dokumentos iegultais ļaunprātīgs saturs var ignorēt aģenta norādījumus, izraisot neparedzētas darbības, piemēram, datu izfiltrēšanu vai ļaunprātīgas programmatūras instalēšanu.” Un, protams, vienmēr pastāv dangers, ka ar AI darbināms aģents pārliecinoši veiks nepareizu darbību.
Arī šis jaunais Copilot triks ietaupīs jums daudz laika operētājsistēmā Home windows 11 — lūk, kā to izdarīt
Intervijā Microsoft pārstāvis Pīters Vaksmens apstiprināja, ka uzņēmuma drošības pētnieki aktīvi “sarkano komandu” veido Copilot Actions funkciju, lai gan viņš atteicās apspriest jebkādus konkrētus scenārijus, ko viņi ir pārbaudījuši.
Microsoft teica, ka šī funkcija tiks nepārtraukti attīstīta eksperimentālā priekšskatījuma periodā, un “precīzāki drošības un privātuma kontroles pasākumi” tiks nodrošināti pirms funkciju izlaišanas sabiedrībai.
Vai ar šiem brīdinājumiem un atrunām pietiks, lai apmierinātu bēdīgi skeptisko drošības pētnieku kopienu? Mēs gatavojamies uzzināt.
Vai vēlaties sekot manam darbam? Pievienojiet ZDNET kā uzticamu avotu Google tīklā.
