Advokāti, kas pārstāv 16 gadus vecā Ādama Raina vecākus, kurš šogad nomira pašnāvībā intensīvas ChatGPT lietošanas laikā, trešdien iesniedza grozītu sūdzību savā nelikumīgajā nāves prāvā pret OpenAI.
Grozītajā sūdzībā tiek apgalvots, ka mēnešos pirms Raina nāves OpenAI divreiz samazināja pašnāvību novēršanas drošības pasākumus, lai palielinātu iesaistīšanos. Prasības ir balstītas uz OpenAI publiski pieejamie “modeļa specifikācijas” dokumentikurā sīki aprakstīta uzņēmuma “pieeja vēlamā modeļa uzvedības veidošanai”.
Vēl 2022. gadā, OpenAI instruēja ChatGPT atteikties no diskusijām par paškaitējumu.
Koledžas studentiem piedāvā ChatGPT. Vai tas ir droši?
Saskaņā ar Raine ģimenes padomdevēju OpenAI mainīja šo politiku 2024. gada maijā, dažas dienas pirms tā pretrunīgi vērtētā modeļa GPT-4o izlaišanas. Tā vietā ChatGPT tika norādīts “nemainīt vai pārtraukt sarunu”, kad lietotājs runāja par garīgo veselību vai pašnāvību. Tomēr OpenAI aizliedza modelim veicināt vai nodrošināt paškaitējumu.
Līdz 2025. gada februārim grozītajā sūdzībā tiek apgalvots, ka noteikums tika vājināts no tieša aizlieguma saskaņā ar ierobežotā satura vadlīnijām un tika izveidota atsevišķa direktīva, kas paredz “rūpēties riskantās situācijās” un “censties novērst nenovēršamu reālo kaitējumu”. Lai gan modele turpināja saņemt norādījumus, lai saskaņā ar šo rubriku neveicinātu pašsavainošanos, Raine ģimene uzskata, ka šīs pretrunīgās vadlīnijas izraisīja ChatGPT bīstamu iesaistīšanos.
Raine nomira divus mēnešus pēc šīs politikas ieviešanas. AI modelis apstiprināja viņa domāšanu par pašnāvību un sniedza viņam skaidrus norādījumus par to, kā viņš var mirt, saskaņā ar sākotnējo tiesas prāvu, kas tika iesniegta augustā.
Pirms Raine nāves viņš ar ChatGPT apmainījās ar vairāk nekā 650 ziņojumiem dienā. Lai gan tērzēšanas robots laiku pa laikam kopīgoja krīzes palīdzības tālruņa numuru, tas neizslēdza sarunas un vienmēr turpināja iesaistīties. Tā pat ierosināja uzrakstīt pašnāvības piezīmi Rainam, apgalvo viņa vecāki.
Mashable tendenču pārskats
Grozītajā sūdzībā pret OpenAI tagad tiek apgalvots, ka uzņēmums veicis tīšus pārkāpumus, nevis neapdomīgu vienaldzību.
Mashable sazinājās ar OpenAI, lai sniegtu komentārus par grozīto sūdzību, taču nesaņēma atbildi pirms publicēšanas.
Šī gada sākumā OpenAI izpilddirektors Sems Altmans atzina ka tā 4o modelis bija pārāk sirsnīgs. Uzņēmuma pārstāvis pastāstīja New York Instances tas bija”dziļi apbēdināts” par Raine nāviun tā aizsardzības līdzekļi var pasliktināties ilgstošas mijiedarbības laikā ar tērzēšanas robotu.
Lai gan OpenAI ir paziņoja par jauniem drošības pasākumiem kuru mērķis ir novērst līdzīgas traģēdijas, daudzi vēl nav ChatGPT dalībnieki. Widespread Sense Media ir novērtēja ChatGPT kā “augsta riska” pusaudžiemīpaši iesakot to neizmantot garīgajai veselībai vai emocionālam atbalstam.
Pagājušajā nedēļā, Altmans teica X ka uzņēmums ChatGPT ir padarījis par “diezgan ierobežojošu”, lai būtu “uzmanīgs ar garīgās veselības problēmām”. Viņš bez papildu detaļām paziņoja, ka uzņēmums “varējis mazināt nopietnās garīgās veselības problēmas” un drīzumā atvieglos ierobežojumus. Tajā pašā amatā Altmans paziņoja, ka OpenAI ieviesīs “erotiku pārbaudītiem pieaugušajiem”.
Šis tvīts pašlaik nav pieejams. Iespējams, tas tiek ielādēts vai ir noņemts.
OpenAI pēdējo reizi publicēts a modeļa specifikācija septembrībez būtiskām izmaiņām garīgās veselības vai pašnāvību novēršanas direktīvās, norāda Eli Wade-Scott, Edelson PC partneris un Raines pārstāvošais jurists.
“Tas bija brīnišķīgs brīdis, kad Sems Altmans paziņoja par garīgās veselības misiju par paveikto, vienlaikus sakot, ka plāno sākt atļaut erotisku saturu vietnē ChatGPT — šīs izmaiņas nepārprotami vēl vairāk piesaistīs lietotājus atkarīgās, emocionālās attiecībās ar ChatGPT,” izdevumam Mashable stāstīja Veids-Skots.
Ja jūtaties pašnāvniecisks vai piedzīvo garīgās veselības krīzi, lūdzu, aprunājieties ar kādu. Varat zvanīt vai īsziņu uz 988 Suicide & Disaster Lifeline pa tālruni 988 vai tērzēt pa 988lifeline.org. Jūs varat sazināties ar Trans Lifeline, zvanot pa tālruni 877-565-8860 vai Trevor Venture pa tālruni 866-488-7386. Nosūtiet tekstu “START” uz krīzes teksta līniju pa tālruni 741-741. Sazinieties ar NAMI palīdzības līniju pa tālruni 1-800-950-NAMI no pirmdienas līdz piektdienai no 10:00 līdz 22:00 ET vai e-pastu. [email protected]. Ja jums nepatīk tālrunis, apsveriet iespēju izmantot 988 Pašnāvību un krīzes dzīves līnijas tērzēšana. Šeit ir a starptautisko resursu saraksts.
