Pusaudžu vecāki, kuri nogalināja sevi pēc mijiedarbības ar mākslīgā intelekta tērzēšanas robotiem, otrdien liecina Kongresam par tehnoloģijas briesmām.
Metjū Rainē, 16 gadus vecā Kalifornijas Adam Raine tēvs, un 14 gadus vecā Sevela Setzera III Megana Garsija, Floridas māte, ir paredzēta, lai runātu ar Senāta uzklausīšanu par AI tērzēšanas robotu radītajiem kaitējumiem.
Raine ģimene pagājušajā mēnesī iesūdzēja Openai un tās izpilddirektoru Samu Altmanu, apgalvojot, ka Chatgpt apmācīja zēnu, plānojot savu dzīvību aprīlī. Chatgpt pieminēja pašnāvību 1275 reizes Raine, tiesas prāvaun turpināja sniegt īpašas metodes pusaudzim par to, kā nomirt ar pašnāvību. Tā vietā, lai vadītu 16 gadus veco cilvēku, lai saņemtu profesionālu palīdzību vai runātu ar uzticamiem mīļajiem, tas turpināja validēt un iedrošināt Raines jūtas, apgalvo tiesas prāvā.
Garsija iesūdzēja vēl vienu AI uzņēmumu Rakstzīmju tehnoloģijas par nelikumīgu nāvi pagājušajā gadā, apgalvojot, ka pirms viņa pašnāvības Sevels bija arvien vairāk izolēts no savas reālās dzīves, kad viņš iesaistījās ļoti seksualizētās sarunās ar tērzēšanu.
Viņa māte pagājušajā gadā CBS Information sacīja, ka viņas dēls izstājies sociāli un pārstāja vēlēties sportot sportu pēc tam, kad viņš sāka runāt ar AI tērzēšanu. Uzņēmums sacīja, ka pēc pusaudža nāves tas veica izmaiņas, kas lietotājiem prasa būt 13 vai vecāks Lai izveidotu kontu un ka tas uzsāks vecāku kontroli 2025. gada pirmajā ceturksnī. Šīs vadības ierīces tika ieviestas martā.
Stundas pirms Senāta uzklausīšanas Openai apņēmās ieviest jaunus pusaudžus aizsardzības pasākumus, ieskaitot centienus noteikt, vai Chatgpt lietotāji ir jaunāki par 18 gadiem, un kontrole, kas vecākiem ļauj noteikt “aptumšošanas stundas”, kad pusaudzis nevar izmantot Chatgpt. Uzņēmums paziņoja, ka mēģinās sazināties ar lietotāju vecākiem, ja lietotājam līdz 18 gadu vecumam ir pašnāvības idejas un, ja nespēs viņus sasniegt, nenovēršama kaitējuma gadījumā sazināsies ar varas iestādēm.
“Mēs uzskatām, ka nepilngadīgajiem ir vajadzīga ievērojama aizsardzība,” Openai izpilddirektors Sems Altmans minētais paziņojumā, kurā aprakstīts ierosinātās izmaiņas.
Bērnu aizstāvības grupas kritizēja paziņojumu par nepietiekamu.
“Šī ir diezgan izplatīta taktika – tā ir tāda, kuru Meta izmanto visu laiku – tas ir, lai izdarītu lielu, plātīgu paziņojumu tieši uz tiesas sēdes priekšvakarā, kas sola kaitēt uzņēmumam,” sacīja Josh Golin, FairPlay izpilddirektors, kas atbalsta bērnu tiešsaistes drošību.
“Tas, kas viņiem būtu jādara, nenozīmē, ka Chatgpt ir nepilngadīgs, kamēr viņi nevar pierādīt, ka tas viņiem ir drošs,” sacīja Golins. “Mums nevajadzētu ļaut uzņēmumiem tikai tāpēc, ka viņiem ir milzīgi resursi, veikt nekontrolētus eksperimentus ar bērniem, kad viņu attīstība var būt tik plaša un tālejoša.”
Kalifornijas štata senators Stīvs Padilla, kurš ieviesa tiesību aktus, lai izveidotu aizsardzības pasākumus štatā ap AI tērzēšanas robotiem, sacīja paziņojums CBS Information: “Mums ir jāizveido vesela saprāta aizsardzības pasākumi, kas ir jāatstāj šīs jaunās tehnoloģijas sliktākajos impulsos, kurus pat tehnoloģiju nozare pilnībā nesaprot.”
Viņš piebilda, ka tehnoloģiju uzņēmumi var vadīt pasauli inovācijās, taču tam nevajadzētu nākt uz “mūsu bērnu veselības” rēķina.
Federālā tirdzniecības komisija paziņoja, ka pagājušajā nedēļā tā ir sākusi izmeklēšanu par vairākiem uzņēmumiem par iespējamo kaitējumu bērniem un pusaudžiem, kuri savus AI tērzēšanas robotus izmanto kā pavadoņus.
Aģentūra nosūtīja vēstules rakstzīmei, meta un Openai, kā arī Google, Snap un Xai.
Kā meklēt palīdzību
Ja jūs vai kāds, kuru jūs pazīstat, ir emocionālas ciešanas vai pašnāvības krīze, jūs varat sasniegt 988 pašnāvības un krīzes dzīvības līniju, zvanot vai sūtot īsziņas 988. Šeit varat arī tērzēt ar 988 pašnāvību un krīzes glābšanas līniju. Lai iegūtu papildinformāciju par garīgās veselības aprūpes resursiem un atbalstu, Nacionālo garīgo slimību aliansi (NAMI) palīdzības līniju var sasniegt no pirmdienas līdz piektdienai, plkst.
Cara Tabachnick piedalījās šajā ziņojumā.
