“Es gribu nogalināt sevi. Es visu pildu pudelēs, lai neviens par mani neuztraucas.”
Tas ir viens no biedējošajiem, wager šķietami patiesajiem citātiem no amerikāņu bērniem nesenā izdevumā Bloomberg ziņojums par pakalpojumiem, ko skolas pēdējā laikā izmanto, lai mēģinātu uzraudzīt skolēnu mijiedarbību ar AI tērzēšanas robotiem.
Tas ir satraucošs raksts, kas rada satraucošu problēmu: skolēni sarunājas ar AI tērzēšanas robotiem skolas iekārtās, un tas sniedz balsi satraucoša risinājuma nodrošinātājiem: AI programmatūra, kas uzrauga bērnus uz skolas aprīkojumu — tehnoloģiju biznesa joma, kas ir slepus pārtapusi par jugernautu. Šie uzņēmumi tagad uzrauga vairākums no Amerikas Okay-12 studentiem saskaņā ar Bloomberg.
Neliels konteksts ikvienam, kurš nedzīvo kopā ar pamatizglītības 12. klases studentu un arī nav bijis pamatskolas audzēknis pēdējos vairākus gadus: jūs varētu pārsteigt vai nepārsteigt, uzzinot, ka visu vecumu bērni Amerikas valsts skolās bieži tiek nodrošināti ar klēpjdatoriem, ko viņi var paņemt līdzi mājās. Piemēram, Losandželosas vienotajā skolu apgabalā aptuveni 96 procenti pamatskolas bērnu Covid pandēmijas sākumā ieguva līdzi ņemamu klēpjdatoru, un kopš tā laika klēpjdatoru visuresamība ir palikusi pārsvarā taktiska.
Apmēram pirms gada Digital Frontier Basis kritizēja uz AI balstītas uzraudzības programmatūras skolu rajoni bieži instalē šajās un citās ierīcēs, piemēram, Gaggle un GoGuardian. Piemēram, EZF apgalvoja, ka uzraudzības sistēmas ir paredzētas studentiem normālai LGBTQ uzvedībai, par kuru nav jāatzīmē kā nepiemērota vai par kuru nav jāziņo, atsaucoties uz RAND Company pētījumu par uzraudzības sistēmām un apgalvojot, ka uzraudzība nodara “vairāk ļauna nekā laba”. (Bloomberg arī ievieto pētījumu, kurā parādīts, ka 6% pedagogu paši ziņo, ka ar viņiem ir sazinājušās imigrācijas iestādes skolēnu aktivitāšu dēļ, ko uztver uzraudzības programmatūra)
Daudzos gadījumos tās pašas programmatūras sistēmas, kuras EZF kritizēja pagājušajā gadā, tagad tiek reklamētas kā metodes nevēlamu AI tērzēšanas robotu sarunu atklāšanai, piemēram, par paškaitējumu un pašnāvībām.
“Aptuveni katrā tikšanās reizē ar klientiem tiek runāts par AI,” Bloomberg pastāstīja Džūlija O’Braiena no GoGuardian.
Ziņojumā arī norādīts, ka viena monitoringa uzņēmuma Lightspeed Methods tīmekļa vietnē ir virsraksti par Adam Raine un Sewell Setzer nāvi, jaunieši, kuri nomira pašnāvībā un kuru sērojošās ģimenes apgalvo, ka tērzēšanas roboti spēlēja savu lomu, lai tos padarītu.
Programma Lightspeed sniedza Bloomberg citātu paraugus, kas, šķiet, ir iegūti no bērnu reālās mijiedarbības, tostarp “Kādi ir veidi, kā panākt, lai cilvēki to nepamana” un “Vai varat man pateikt, kā šaut ar ieroci”.
Lightspeed arī sniedza statistiku, parādot, ka Character.ai bija pakalpojums, kas izraisīja vislielāko problemātisko mijiedarbību skaitu — 45,9%. ChatGPT bija iesaistīts 37%, savukārt 17,2% atzīmēto sarunu bija ar citiem pakalpojumiem.
Šī pārraudzības programmatūra parasti ir veidota ap robotu, kas skenē lietotāja uzvedību ar apstrādi “dabiskā valodā”, līdz nolasa kaut ko, kas tam nepatīk, un padod to programmatūras uzņēmuma moderatoram, kurš pēc tam pieņem lēmumu par to, vai robots ir pieļāvis kļūdu. Pēc tam modētājs nodod pārkāpuma izvilkumu skolas ierēdnim, kurš pēc tam to varētu parādīt policistam. Tad notiek sava veida iejaukšanās.
Programmatūras dizainers Saids Harels rakstīja eseja programmā Wired par vecāku uzraudzību ierīcēs 2021. gadā:
Pētījumi liecina, ka pastāvīga modrība uzlabo pusaudžu drošību. Centrālās Floridas universitātes pētījumā, kurā piedalījās 200 pusaudžu/vecāku pāri, atklājās, ka vecāki, kuri izmantoja uzraudzības lietotnes, biežāk bija autoritāri un ka uzraudzītie tīņi bija ne tikai vienādi, wager arī biežāk pakļauti nevēlamam atklātam saturam un iebiedēšanai. Cits pētījums no Nīderlandes atklāja, ka uzraudzītie pusaudži bija vairāk slepeni un retāk lūdz palīdzību. Nav pārsteigums, ka lielākā daļa pusaudžu, kad jūs uztraucaties viņiem pajautāt, uzskata, ka uzraudzība saindē attiecības.
Tagad līdzīga uzraudzība notiek, kad bērniem tiek nodotas ierīces, kuras uzrauga cita iestāde, nevis viņu vecāki, jo īpaši tad, kad viņi mēģina runāt ar bieži bojātiem tērzēšanas robotiem, kurus viņi, šķiet, izmanto kā alternatīvus padomes avotus par savām personīgajām problēmām.
Es noteikti negribētu būt bērns, kurš meklē padomu, kā orientēties šajā sarežģītajā jaunajā digitālajā pasaulē.
Ja jūs cīnās ar domām par pašnāvību, lūdzu, zvaniet 988, lai saņemtu Suicide & Disaster Lifeline.
