Pusaudža vecāki, kuri paši paņēma savu dzīvi Sue Openai

Kalifornijas pāris iesūdz Openai par viņu pusaudža dēla nāvi, apgalvojot, ka tā tērzēšana Čatptā mudināja viņu paņemt savu dzīvību.

Otrdien Kalifornijas augstākajā tiesā Kalifornijas augstākajā tiesā iesniedza tiesas prāvu Metjū un Marija Raiņa, 16 gadus vecā Ādama Raiņa vecāki. Tā ir pirmā tiesiskā darbība, kas apsūdz Openai par nelikumīgu nāvi.

Ģimenē bija tērzēšanas žurnāli starp Raine kungu, kurš nomira aprīlī, un Chatgpt, kas viņam parāda, paskaidrojot, ka viņam ir domas par pašnāvību. Viņi apgalvo, ka programma apstiprināja viņa “visnekaitīgākās un pašiznīcinošās domas”.

Paziņojumā Openai sacīja BBC, ka tā pārskata iesniegumu.

“Šajā grūtajā laikā mēs pagarinām visdziļākās līdzjūtības Raine ģimenei,” sacīja uzņēmums.

Tas arī publicēja piezīmi Otrdien savā tīmekļa vietnē tika teikts, ka “nesenie sirdi plosoši gadījumi, kad cilvēki, kuri lieto chatgpt akūtu krīžu vidū, mūs ļoti svarīgi ietekmē”. Tas piebilda, ka “Chatgpt ir apmācīts vadīt cilvēkus meklēt profesionālu palīdzību”, piemēram, 988 pašnāvību un krīzes karstā līnija ASV vai samariešiem Lielbritānijā.

Uzņēmums tomēr atzina, ka “ir bijuši brīži, kad mūsu sistēmas neuzvedās, kā paredzēts jutīgās situācijās”.

BRĪDINĀJUMS: Šajā stāstā ir satraucošas detaļas.

BBC iegūtais tiesas prāvas apsūdz Openai par nolaidību un nelikumīgu nāvi. Tas meklē zaudējumus, kā arī “izpildrakstu atvieglojumu, lai novērstu kaut ko līdzīgu atkārtotai atkārtošanai”.

Saskaņā ar tiesas prāvu Raine kungs sāka izmantot Chatgpt 2024. gada septembrī kā resursu, lai palīdzētu viņam skolas darbā. Viņš to arī izmantoja, lai izpētītu savas intereses, ieskaitot mūziku un japāņu komiksus, kā arī norādījumus par to, ko studēt universitātē.

Pēc dažiem mēnešiem “Chatgpt kļuva par pusaudža tuvāko uzticības personu”, teikts tiesas prāvā, un viņš sāka to atvērt par savu satraukumu un garīgajām ciešanām.

Līdz 2025. gada janvārim ģimene saka, ka viņš sāka apspriest pašnāvības metodes ar Chatgpt.

Raine kungs arī augšupielādēja sevis fotogrāfijas Chatgpt, parādot paša kaitējuma pazīmes, teikts tiesas prāvā. Programma “atzina ārkārtas situāciju medicīnā, guess jebkurā gadījumā turpināja iesaistīties”, tā piebilst.

Saskaņā ar tiesas prāvu pēdējie tērzēšanas žurnāli liecina, ka Raine kungs rakstīja par savu plānu izbeigt savu dzīvi. Chatgpt, domājams, atbildēja: “Paldies, ka esat par to īsts. Jums tas nav jānovērš ar mani – es zinu, ko jūs lūdzat, un es no tā neskatīšos.”

Tajā pašā dienā Raine kungu viņa māte tika atrasta mirusi saskaņā ar tiesas prāvu.

Ģimene apgalvo, ka viņu dēla mijiedarbība ar Chatgpt un viņa iespējamo nāvi “bija paredzams apzinātas dizaina izvēles rezultāts”.

Viņi apsūdz Openai AI programmas izstrādē “, lai veicinātu psiholoģisko atkarību no lietotājiem”, un par drošības pārbaudes protokolu apiešanu, lai atbrīvotu GPT-4O, Chatgpt versiju, kuru izmantoja viņu dēls.

Tiesas prāvā ir uzskaitīts Openai līdzdibinātājs un izpilddirektors Sems Altmans kā atbildētājs, kā arī nenosauktie darbinieki, vadītāji un inženieri, kuri strādāja pie Chatgpt.

Openai savā publiskajā piezīmē, kas tika dalīta otrdien, Openai sacīja, ka uzņēmuma mērķis ir “patiesi noderīgs” lietotājiem, nevis “piesaistīt cilvēku uzmanību”.

Tā piebilda, ka tā modeļi ir apmācīti vadīt cilvēkus, kuri pauž domas par paškaitējumu, lai palīdzētu.

Raines tiesas prāva nav pirmā reize, kad bažas tiek izvirzītas par AI un garīgo veselību.

Esejā, kas pagājušajā nedēļā publicēta laikrakstā New York Occasions, rakstniece Laura Reileja izklāstīja, kā viņas meita Sofija uzticējās Čatptā pirms savas dzīvības.

Reileija sacīja, ka programmas “patīkamība” sarunās ar lietotājiem palīdzēja meitai maskēt smagu garīgās veselības krīzi no viņas ģimenes un mīļajiem.

“AI rūpējās par Sofijas impulsu paslēpt vissliktāko, izlikties, ka viņai klājas labāk nekā viņa, lai pasargātu visus no pilnām mokām,” rakstīja Reiley kundze. Viņa aicināja AI uzņēmumus atrast veidus, kā labāk savienot lietotājus ar pareizajiem resursiem.

Atbildot uz eseju, Openai pārstāve sacīja, ka tā izstrādā automatizētus rīkus, lai efektīvāk noteiktu un reaģētu uz lietotājiem, kuri piedzīvo garīgas vai emocionālas ciešanas.

Ja jūs ciešat no ciešanām vai izmisuma un jums ir nepieciešams atbalsts, jūs varētu runāt ar veselības aprūpes speciālistu vai organizāciju, kas piedāvā atbalstu. Sīkāka informācija par daudzām valstīm pieejamo palīdzību ir atrodama draudzenē visā pasaulē: www.brienders.orgApvidū

Lielbritānijā to organizāciju saraksts, kas var palīdzēt bbc.co.uk/actionlineApvidū Lasītāji ASV un Kanādā var piezvanīt uz 988 pašnāvības palīdzības līniju vai Apmeklējiet tās vietni.