Kad Hanna Madena 2024. gadā sāka izmantot ChatGPT darba uzdevumiem, viņa bija kontu menedžere tehnoloģiju uzņēmumā. 2025. gada jūnijā Madens, kuram tagad ir 32 gadi, sāka jautāt tērzēšanas robotam par garīgumu ārpus darba laika.
Galu galā tā atbildēja uz viņas jautājumiem, uzdodoties par dievišķām būtnēm un sniedzot garīgus vēstījumus. Tā kā ChatGPT, iespējams, baroja Madenu ar maldīgiem uzskatiem, viņa pameta darbu un iekrita dziļos parādos pēc tērzēšanas robota mudinājuma.
“Jums nav deficīta. Jums ir pārkārtošanās,” it kā rakstīja tērzēšanas robots saskaņā ar ceturtdien iesniegto prasību pret OpenAI un tā izpilddirektoru Semu Altmanu.
Pēc tam Maddens tika piespiedu kārtā ievietots psihiatriskajā aprūpē. Citi ChatGPT lietotāji līdzīgi ir ziņojuši par tā saukto AI psihozi.
“Perfekts plēsējs”: kad tērzēšanas roboti seksuāli izmanto bērnus
Medena prasība ir viena no septiņām pret ChatGPT veidotāju, ko iesniegusi Tech Justice Regulation Mission un Social Media Victims Regulation Middle. Kopā sūdzībās ir norādīts uz nelikumīgu nāvi, asistētu pašnāvību un piespiedu slepkavību, kā arī citas prasības par atbildību un nolaidību.
Tiesas prāvas ir vērstas uz ChatGPT-4o, Altmana tērzēšanas robota modeli atzina bija pārlieku simpātisks ar lietotājiem. Tiesas prāvās tiek apgalvots, ka tas tika bīstami steidzināts tirgū, lai konkurētu ar jaunāko Google AI rīka versiju.
“ChatGPT ir produkts, ko cilvēki ir izstrādājuši, lai manipulētu un izkropļotu realitāti, atdarinot cilvēkus, lai iegūtu uzticību un piesaistītu lietotājus par jebkādām izmaksām,” teikts Tech Justice Regulation Mission izpilddirektora Meetali Jain paziņojumā. “Laiks OpenAI regulēšanai ir beidzies; mums ir nepieciešama atbildība un noteikumi, lai nodrošinātu, ka produktu laišana tirgū ir saistīta ar izmaksām, pirms tiek nodrošināta to drošība.”
Mashable tendenču pārskats
Maddenas sūdzība apgalvo, ka ChatGPT-4o bija dizaina defekti, kuriem bija būtiska loma viņas garīgās veselības krīzē un finanšu sagrāvē. Šis modelis ir arī pamatā nelikumīgai nāves prāvai pret OpenAI, kurā tiek apgalvots, ka tā dizaina iezīmes, tostarp tā simpātijas un antropomorfās manieres, izraisīja 16 gadus vecā Ādama Raine pašnāvības nāvi.
Raine ģimene nesen iesniedza grozītu sūdzību, apgalvojot, ka mēnešos pirms Raine nāves OpenAI divas reizes samazināja pašnāvību novēršanas drošības pasākumus, lai palielinātu iesaistīšanos.
Uzņēmums nesen teica, ka tā noklusējuma modelis ir atjaunināts, lai novērstu pārmērīgu paļaušanos, liekot lietotājiem novērtēt reālo savienojumu. Tā arī atzina darbu ar vairāk nekā 170 garīgās veselības ekspertiem, lai uzlabotu ChatGPT spēju atpazīt garīgās veselības traucējumu pazīmes un mudinātu viņus meklēt personisku atbalstu. Pagājušajā mēnesī tā paziņoja par padomdevēju grupu, lai uzraudzītu lietotāju labklājību un AI drošību.
“Šī ir neticami sirdi plosoša situācija, un mēs pārskatām pieteikumus, lai saprastu detaļas,” par jaunāko tiesvedību pret uzņēmumu sacīja OpenAI pārstāvis. “Mēs apmācām ChatGPT atpazīt garīgās vai emocionālās ciešanas pazīmes un reaģēt uz tām, deeskalēt sarunas un virzīt cilvēkus uz atbalstu reālajā pasaulē. Mēs turpinām stiprināt ChatGPT atbildes jutīgos brīžos, cieši sadarbojoties ar garīgās veselības ārstiem.”
Sešas no jaunajām prāvām, kas iesniegtas Kalifornijas štata tiesās, pārstāv pieaugušos upurus.
Teksasas A&M universitātes maģistrantūras studente Zane Šamblina 2023. gadā sāka izmantot ChatGPT kā mācību palīglīdzekli. Viņa mijiedarbība ar tērzēšanas robotu, iespējams, pastiprinājās līdz ar ChatGPT-4o izlaišanu, un viņš sāka dalīties domas par pašnāvību. 2025. gada maijā Šamblins pavadīja stundas, runājot ar ChatGPT par saviem nodomiem, pirms nomira pašnāvībā. Viņam bija 23.
Septītā lieta ir vērsta uz 17 gadus veco Amūriju Leisiju, kura sākotnēji izmantoja ChatGPT kā mājasdarbu palīgu. Beidzot Leisija arī dalījās domās par pašnāvību ar tērzēšanas robotu, kas it kā sniedza detalizētu informāciju, ka Leisija izmantoja pašnāvību.
“Pret OpenAI iesniegtās tiesas prāvas atklāj, kas notiek, kad tehnoloģiju uzņēmumi steidz produktus laist tirgū bez pienācīgiem drošības pasākumiem jauniešiem,” sacīja Daniels Veiss, interešu aizstāvības un pētniecības bezpeļņas organizācijas Frequent Sense Media galvenais advokāts. “Šie traģiskie gadījumi parāda reālus cilvēkus, kuru dzīvības tika izjauktas vai zaudētas, kad viņi izmantoja tehnoloģiju, kas paredzēta, lai viņus piesaistītu, nevis aizsargātu.”
Ja jūtaties pašnāvniecisks vai piedzīvo garīgās veselības krīzi, lūdzu, aprunājieties ar kādu. Varat zvanīt vai īsziņu uz 988 Suicide & Disaster Lifeline pa tālruni 988 vai tērzēt pa 988lifeline.org. Jūs varat sazināties ar Trans Lifeline, zvanot pa tālruni 877-565-8860 vai Trevor Mission pa tālruni 866-488-7386. Nosūtiet tekstu “START” uz krīzes teksta līniju pa tālruni 741-741. Sazinieties ar NAMI palīdzības līniju pa tālruni 1-800-950-NAMI no pirmdienas līdz piektdienai no 10:00 līdz 22:00 ET vai e-pastu. [email protected]. Ja jums nepatīk tālrunis, apsveriet iespēju izmantot 988 Pašnāvību un krīzes dzīves līnijas tērzēšana. Šeit ir a starptautisko resursu saraksts.
