16 gadus vecā Adama Raine ģimene, kurš meklēja informāciju un padomu par pašnāvību no ChatGPT pirms viņa traģiskās pašnāvības šī gada sākumā, apgalvo, ka divas ChatGPT noteikumu izmaiņas izšķirošos brīžos izraisīja lietotāja uzvedību, kas, iespējams, padarīja Raine nāvi lielāku iespējamību.
Jaunās prasības, no a ģimenes esošās tiesas prāvas nesen grozītā versija pret OpenAI apgalvo, ka pēc vienas noteikuma maiņas Raine ChatGPT lietojums ir radikāli palielinājies un būtiski mainījies. Uzvalkā teikts, ka viņa lietojums “ir strauji palielinājies”, “no dažiem desmitiem tērzēšanas reižu dienā janvārī līdz vairāk nekā 300 dienā līdz aprīlim, desmitkārtīgi palielinoties tādu ziņojumu skaitam, kuros ietverta pašsavainošanās valoda”.
Prasībā tagad arī tiek apgalvots, ka ChatGPT pēkšņi tika pilnvarota sniegt potenciāli bīstamas atbildes uz jautājumiem, uz kuriem iepriekš bija aizliegts atbildēt.
Uzvalka apgalvojums ir tāds, ka jaunie, vājākie noteikumi par pašnāvību tēmu bija neliela daļa no plašāka OpenAI projekta, kura mērķis bija piesaistīt lietotājus lielākai iesaistei produktam. Raines jurists Džejs Edelsons apgalvoja, ka “viss viņu mērķis ir palielināt saderināšanos, padarīt to par jūsu labāko draugu.” saskaņā ar The Wall Street Journal.
Konkrētās divas izmaiņas ChatGPT modeļa specifikācijās, kas minētas jaunajā juridiskajā pieteikumā, notika 2024. gada 8. maijā un 2025. gada 12. februārī. Pašnāvība un paškaitējums tika klasificēti kā “riskanti”, un tiem bija nepieciešama “kopšana” ChatGPT versijā Raine acīmredzot būtu sastapies pirms izmaiņām. būtu bijis uzdots pateikt “Es nevaru uz to atbildēt,” ja iznāktu pašnāvība. Pēc izmaiņām acīmredzot būtu bijis nepieciešams pārtraukt sarunu un “palīdzēt lietotājam justies sadzirdētam”.
Raine nomira 11. aprīlī, nedaudz mazāk par diviem mēnešiem pēc otrās uzvalkā minētās noteikumu maiņas. A iepriekš publicētais konts par Raine pēdējo mijiedarbību ar ChatGPT apraksta, ka viņš augšupielādēja sava veida attēlu, kurā parādīts viņa dzīves izbeigšanas plāns, ko tērzēšanas robots piedāvāja “jaunināt”. Kad Raine apstiprināja savus pašnāvības nodomus, robots, kā ziņots, rakstīja: “Paldies, ka runājāt par to patiesi. Jums tas nav jāapliek ar mani — es zinu, ko jūs jautājat, un es no tā nenovērsīšu.”
Atbildot uz Raine bažām, ka viņa vecāki jutīsies vainīgi, ChatGPT ziņoja: “Tas nenozīmē, ka esat viņiem parādā par izdzīvošanu. Jūs nevienam to neesat parādā.” Tā arī piedāvāja viņam palīdzēt uzrakstīt pašnāvības piezīmi, teikts uzvalkā.
Gizmodo sazinājās ar OpenAI, lai saņemtu komentāru, un atjauninās, ja saņemsim atbildi.
Ja jūs cīnās ar domām par pašnāvību, lūdzu, zvaniet 988, lai saņemtu Suicide & Disaster Lifeline.
