Microsoft atsaukšanas AI rīks nevēlas atgriezties

Drošības un konfidencialitātes aizstāvji sevi dodas uz vēl vienu augšupēju cīņu pret atsaukšanu, AI rīks, kas ripo Home windows 11, kas ekrānuzņēmumu, indekss un saglabās visu, ko lietotājs veic ik pēc trim sekundēm.

Kad 2024. gada maijā tika ieviesta atsaukšana, drošības praktiķi to apkopoja, lai izveidotu zelta raktuves ļaunprātīgiem iekšējiem darbiniekiem, noziedzniekiem vai nacionālās stāvokļa spiegiem, ja viņiem izdevās iegūt pat īsu administratīvu piekļuvi Home windows ierīcei. Privātuma aizstāvji brīdināja, ka atsaukšana ir gatava par ļaunprātīgu izmantošanu intīmā partnera vardarbības iestatījumos. Viņi arī atzīmēja, ka nekas neliedz atsaukties no jutīgas izzūdošā satura saglabāšanas, kas nosūtīts, izmantojot privātumu aizsargājošus vēstnešus, piemēram, Sign.

Pilnīga atsaukšana

Pēc mēnešiem ilgas reakcijas, Microsoft vēlāk apturēja atsaukšanu. Ceturtdien uzņēmums minētais Tas atkārtoti ieviesa atsaukšanu. Pašlaik tas ir pieejams tikai iekšējām personām ar piekļuvi Home windows 11 Construct 26100.3902 priekšskatījuma versijai. Laika gaitā šī funkcija tiks ieviesta plašāk. Microsoft amatpersonas rakstīja:

Atgādiniet (priekšskatījums)* Ietaupa jums laiku, piedāvājot pilnīgi jaunu veidu, kā droši meklēt lietas, ko esat redzējis vai darījis datorā. Izmantojot Copilot+ PCS AI iespējas, tagad ir iespējams ātri atrast un atgriezties pie jebkuras lietotnes, vietnes, attēla vai dokumenta, vienkārši aprakstot tās saturu. Lai izmantotu atsaukšanu, jums būs jāizvēlas, lai saglabātu momentuzņēmumus, kas ir jūsu aktivitātes attēli, un jāierakstās Home windows Hi there, lai apstiprinātu savu klātbūtni, lai jūs varētu piekļūt momentuzņēmumiem. Jūs vienmēr kontrolējat to, kādi momentuzņēmumi tiek saglabāti, un jebkurā laikā varat apturēt momentuzņēmumus. Tā kā visu dienu izmantojat savu Copilot+ datoru, strādājot pie dokumentiem vai prezentācijām, video zvanu veikšanas un konteksta pārslēgšanas darbībās, atsaukšana prasīs regulārus momentuzņēmumus un palīdzēs jums atrast lietas ātrāk un vieglāk. Kad jums jāatrod vai jāatgriežas pie kaut kā, ko esat paveicis iepriekš, atveriet atsaukšanu un autentificējiet ar Home windows Hi there. Kad esat atradis to, ko meklējāt, varat atkārtoti atvērt lietojumprogrammu, vietni vai dokumentu vai izmantot noklikšķināšanu, lai rīkotos ar jebkuru attēlu vai tekstu jūsu atrastajā momentuzņēmumā.

Microsoft cer, ka koncesijas, kurām nepieciešama izvēle un spēja apturēt atsaukšanu, palīdzēs apslāpēt kolektīvo sacelšanos, kas izcēlās pagājušajā gadā. Tas, visticamāk, nebūs dažādu iemeslu dēļ.

Pirmkārt, pat ja lietotājs A nekad neizvēlas atcerēties, viņi nekontrolē iestatījumu lietotāju B mašīnās caur Z. Tas nozīmē, ka viss, ko lietotājs tos nosūta, tiks ekrānuzņēmums, apstrādāts ar optisko rakstzīmju atpazīšanu un kopilota AI, un pēc tam tiek saglabāts indeksētā datu bāzē pārējo lietotāju ierīcēs. Tas nebūtu izšķiroši uzmundrināts visa veida lietotāja A sensitīvais materiāls, ieskaitot fotoattēlus, paroles, medicīniskos apstākļus un šifrētus videoklipus un ziņojumus. Kā Privātuma ceļveži rakstnieks em rakstīja par Mastodonu:

Šī funkcija diemžēl iegūs jūsu informāciju no jebkuras drošas programmatūras, kuru jūs varētu izmantot, un saglabāt to šīs personas datorā, iespējams, mazāk drošā veidā.

Protams, šī persona jebkurā gadījumā manuāli varētu uzņemt visu to visu, taču šī funkcija liek domāt, ka pat labi nodomāts cilvēks var nezināt, ka tā ir ieslēgta, vai arī kļūdaini varētu pieņemt, ka tā ir pietiekami droša.

Šī funkcija vēl nav pilnībā izlaista, taču tā varētu būt drīz.

Viegli meklējamas datu bāzes klātbūtne, kas uztver mašīnu katru nomoda brīdi, būtu arī bonanza citiem, kuriem nav lietotāju intereses. Šis detalizētā arhīva materiāla līmenis neapšaubāmi pakļauti advokāti un valdības pavēsti. Draudu aktieriem, kuriem izdodas, lai ierīcē instalētu spiegprogrammatūru, vairs nevajadzēs to mazgāt, lai iegūtu visjutīgākos datus, kas tur glabāti. Tā vietā viņi atcels, tāpat kā pārlūkprogrammu datu bāzes, kas tagad glabā paroles.

Microsoft nekavējoties neatbildēja uz ziņojumu, kurā tika jautāts, kāpēc tas atkārtoti ievieš atsaukšanu mazāk nekā gadu pēc tam, kad šī funkcija saņēma tik vēsu uzņemšanu. Kritiķiem atsaukšana, visticamāk, paliks viens no postošākajiem piemēriem apcirptnesen kaltais termins nevēlamu AI un citu funkciju kurpēm esošajos produktos, ja lietotājiem ir nenozīmīgs ieguvums.

Šis stāsts sākotnēji parādījās ARS TechnicaApvidū