Tiek ziņots, ka OpenAI lūdza Raine ģimenei, kuras 16 gadus vecais dēls Ādams Raine nomira pašnāvībā pēc ilgstošām sarunām ar ChatGPT, sniegt pilnu pusaudža memoriāla dalībnieku sarakstu, norādot, ka mākslīgā intelekta uzņēmums var mēģināt izsaukt pavēsti draugiem un ģimeni.
OpenAI pieprasīja arī “visus dokumentus, kas attiecas uz piemiņas dievkalpojumiem vai pasākumiem mirušā godam, tostarp, guess ne tikai, uzņemtos video vai fotoattēlus, vai slavinājumus” saskaņā ar dokumentu, ko ieguvusi organizācija. Financial Times.
Runājot ar FT, Raine ģimenes juristi lūgumu raksturoja kā “tīšu uzmākšanos”.
Jaunā informācija nāk, kad Raine ģimene trešdien atjaunināja savu prasību pret OpenAI. Ģimene pirmo reizi iesniedza nelikumīgu nāves prasību pret OpenAI augustā pēc tam, kad viņu dēls bija atņēmis sev dzīvību pēc sarunām ar tērzēšanas robotu par viņa garīgo veselību un pašnāvības domām. Atjauninātajā tiesas prāvā tiek apgalvots, ka OpenAI sasteidza GPT-4o izlaišanu 2024. gada maijā, samazinot drošības pārbaudes konkurences spiediena dēļ.
Prasībā arī apgalvots, ka 2025. gada februārī OpenAI vājināja aizsardzību, no sava “neatļautā satura” saraksta svītrojot pašnāvību novēršanu, tā vietā tikai iesakot AI “rūpēties riskantās situācijās”. Ģimene apgalvoja, ka pēc šīm izmaiņām Ādama ChatGPT lietojums pieauga no desmitiem ikdienas tērzēšanas sarunu, no kurām 1,6% saturēja saturu, kas janvārī bija paškaitējums, līdz 300 ikdienas tērzēšanām aprīlī, kad viņš nomira, un 17% šādu saturu saturēja.
Atbildot uz grozīto tiesas prāvu, OpenAI teica: “Mūsu galvenā prioritāte ir pusaudžu labklājība — nepilngadīgie ir pelnījuši spēcīgu aizsardzību, jo īpaši jutīgos brīžos. Mums šodien ir ieviesti drošības pasākumi, piemēram, [directing to] krīzes uzticības tālruņi, jutīgas sarunas pāradresējot drošākiem modeļiem, piespiežot pauzēm garu sesiju laikā, un mēs turpinām tos stiprināt.
OpenAI nesen sāka ieviest jaunu drošības maršrutēšanas sistēmu un vecāku kontroli pakalpojumā ChatGPT. Maršrutēšanas sistēma virza emocionāli jutīgākas sarunas uz OpenAI jaunāko modeli GPT-5, kam nav tādas pašas simpātijas kā GPT-4o. Un vecāku kontrole ļauj vecākiem saņemt brīdinājumus par drošību ierobežotās situācijās, kad pusaudzis var tikt pakļauts paškaitējumam.
Techcrunch pasākums
Sanfrancisko
|
2025. gada 27.–29. oktobris
TechCrunch ir sazinājies ar OpenAI un Raine ģimenes advokātu.
