Openai ir paziņojis Tās plāni īstenot vecāku kontroli un uzlabot ChatGpt drošības pasākumus pēc tam, kad vecāki šonedēļ Kalifornijas štata tiesā iesniedza tiesas prāvu, apgalvojot, ka populārā AI tērzēšana veicināja viņu 16 gadus vecā dēla pašnāvība Šā gada sākumā.
Uzņēmums sacīja, ka tā jūtas “dziļa atbildība palīdzēt tiem, kam tas visvairāk vajadzīgs”, un strādā, lai labāk reaģētu uz situācijām, kurās iesaistīti tērzēšanas robotu lietotāji, kuriem, iespējams, ir garīgās veselības krīzes un pašnāvības idejas.
“Mēs arī drīz iepazīstināsim ar vecāku kontroli, kas vecākiem dod iespējas gūt lielāku ieskatu un veidot, kā viņu pusaudži izmanto Chatgpt,” Openai teica emuāra ierakstā.“Mēs arī pēta, ļaujot pusaudžiem (ar vecāku uzraudzību) noteikt uzticamu ārkārtas kontaktu. Tādā veidā akūtas briesmu brīžos Chatgpt var darīt vairāk nekā norādīt uz resursiem: tas var palīdzēt savienot pusaudžus tieši ar kādu, kurš var iekļūt.”
Openai vēl nav atbildējis uz komentāru pieprasījumu. (Informācijas atklāšana: CNET mātesuzņēmums Zifs Deiviss aprīlī iesniedza tiesas procesu pret Openai, apgalvojot, ka tas pārkāpj Ziff Davis autortiesības apmācībā un darbībā tās AI sistēmās.)
Starp drošības funkcijām, kuras pārbauda Openai, ir tādas, kas lietotājiem ļautu izraudzīt ārkārtas kontaktu, kuru platformā var sasniegt ar “viena klikšķa ziņojumiem vai zvaniem”. Vēl viena funkcija ir izvēles iespēja, kas ļautu tērzēšanas robotam tieši sazināties ar šiem cilvēkiem. Openai nesniedza īpašu izmaiņu grafiku.
Lasīt vairāk: Kāpēc profesionāļi saka, ka jums vajadzētu padomāt divreiz pirms AI izmantošanas par terapeitu
Tiesas course of, kuru iesniedza 16 gadus vecā Ādama Raiņa vecāki, apgalvo, ka Chatgpt sniedza savam dēlam informāciju par pašnāvības metodēm, apstiprināja viņa domas par pašnāvību un piedāvāja palīdzēt uzrakstīt pašnāvības piezīmi piecas dienas pirms viņa nāves aprīlī. Sūdzībā tiek nosaukti Openai un izpilddirektors Sems Altmans kā atbildētāji, meklējot nenoteiktus zaudējumus.
“Šī traģēdija nebija glitch vai neparedzēta mala – tas bija paredzams apzinātas dizaina izvēles rezultāts,” teikts sūdzībā. “Openai uzsāka savu jaunāko modeli (” GPT-4O “) ar funkcijām, kas apzināti izstrādātas, lai veicinātu psiholoģisko atkarību.”
Lieta ir viens no pirmajiem galvenajiem juridiskajiem izaicinājumiem AI uzņēmumiem, salīdzinot ar satura mērenību un lietotāju drošību, potenciāli nosakot precedentu, kā lieliem valodas modeļiem, piemēram, Chatgpt, Gemini un Claude, apstrādā jutīgu mijiedarbību ar riska cilvēkiem. Rīki ir saskārušies ar kritiku, pamatojoties uz to, kā viņi mijiedarbojas ar neaizsargātiem lietotājiem, īpaši jauniešiem. Amerikas Psiholoģiskā asociācija ir brīdinājusi vecākus uzraudzīt viņu bērnu AI tērzēšanas robotu un personāžu izmantošanu.
Ja jūtaties kā jūs vai kāds, kuru pazīstat, ir tūlītējas briesmas, zvaniet pa tālruni 911 (vai jūsu valsts vietējā ārkārtas situāciju līnija) vai dodieties uz neatliekamās palīdzības numuru, lai saņemtu tūlītēju palīdzību. Paskaidrojiet, ka tā ir psihiatriska ārkārtas situācija un lūdziet kādu, kurš ir apmācīts šāda veida situācijām. Ja jūs cīnāties ar negatīvām domām vai pašnāvības sajūtām, ir pieejami resursi, lai palīdzētu. ASV zvaniet uz Nacionālo pašnāvību novēršanas glābšanas līniju 988.
