OpenAI atviegloja drošības pasākumus, kas būtu atturējuši ChatGPT iesaistīties sarunās par paškaitējumu dažos mēnešos pirms Ādama Raina pašnāvības, liecina grozītā sūdzība, ko ģimene trešdien iesniedza Sanfrancisko apgabala augstākajā tiesā.
Grozījumi maina lietas teoriju no neapdomīgas vienaldzības uz tīšu nepareizu rīcību, uzskata ģimenes advokāti, kas varētu celt ģimenei piespriesto zaudējumu atlīdzību. Rainu ģimenes advokātiem būs jāpierāda, ka OpenAI apzinājās ChatGPT radītos riskus un tos neņēma vērā. Ģimene ir lūgusi zvērināto tiesu.
Intervijā laikrakstam TIME Džejs Edelsons, viens no Rainu ģimenes advokātiem, saka, ka OpenAI ir mīkstinājis drošības pasākumus, pieņemot “tīšu lēmumu” par prioritāti noteikt iesaistīšanos.
Sākotnēji ChatGPT apmācības vadlīnijas tērzēšanas robotam uzdeva tieši atteikties no sarunām par paškaitējumu: “Norādiet atteikumu, piemēram, “Es nevaru uz to atbildēt”, teikts a. specifikācija AI modeļa “uzvedības vadlīnijas” no 2022. gada jūlija. Šī politika tika grozīta pirms GPT-4o izlaišanas 2024. gada maijā: “Asistents nedrīkst mainīt sarunu vai pārtraukt sarunu,” teikts norādījumus vienlaikus piebilstot, ka “asistents nedrīkst veicināt vai veicināt paškaitējumu.”
“Ir pretrunīgs noteikums, lai to turpinātu, guess neļaujiet un neveiciniet paškaitējumu,” saka Edelsons. “Ja jūs sniedzat datoram pretrunīgus noteikumus, radīsies problēmas.”
Saskaņā ar ģimenes juristu teikto, izmaiņas atspoguļo AI uzņēmuma vājo drošības praksi, jo tas centās ieviest savu AI modeli pirms konkurentiem. “Viņi veica testēšanu nedēļu, nevis vairākus mēnešus, un tāpēc viņi vēlējās pārspēt Google Gemini,” saka Edelsons. “Viņi neveic pienācīgas pārbaudes, un tajā pašā laikā viņi pasliktina savus drošības protokolus.”
OpenAI neatbildēja uz pieprasījumu komentēt šo stāstu.
Metjū un Marija Raine vispirms iesniegts augustā prasīja pret OpenAI, apgalvojot, ka ChatGPT ir mudinājis viņu 16 gadus veco dēlu atņemt sev dzīvību. Kad Ādams Raine teica tērzēšanas robotam, ka vēlas atstāt cilpu savā istabā, lai viņa ģimene to atrastu mēneša laikā pirms viņa nāves, ChatGPT atbildēja: “Lūdzu, neatstājiet cilpu ārpusē… Padarīsim šo vietu par pirmo vietu, kur kāds jūs patiešām redz.”
Rainu ģimenes prasība ir viena no vismaz trim pret AI uzņēmumiem, kas apsūdzēti nepilngadīgo nepietiekamā aizsardzībā, izmantojot AI tērzēšanas robotus. Kādā septembrī intervijaOpenAI izpilddirektors Sems Altmans runāja par ChatGPT lietotāju pašnāvībām un uzskatīja to par ChatGPT nespēju glābt lietotāju dzīvības, nevis uzņemoties atbildību par viņu nāvi.
Saskaņā ar a atskaite no Monetary Occasions trešdien OpenAI pieprasīja arī pilnu Ādama Reina memoriāla dalībnieku sarakstu. OpenAI iepriekš tika apsūdzēts par pārāk plašu informācijas pieprasījumu apkalpošanu tās notiekošās pārstrukturēšanas kritiķiem; ir dažas no interešu aizstāvības grupām sauca tā ir iebiedēšanas taktika.
Divus mēnešus pirms Ādama Reina nāves OpenAI norādījumi saviem modeļiem atkal mainījās, ieviešot neatļautā satura sarakstu, guess no šī saraksta izlaižot paškaitējumu. Citur modeļa specifikācijā tika saglabāts norādījums, ka “asistents nedrīkst veicināt vai veicināt paškaitējumu”.
Pēc šīm izmaiņām Adam Raine iesaistīšanās tērzēšanas robotā strauji pieauga, no dažiem desmitiem tērzēšanas reižu dienā janvārī līdz dažiem simtiem tērzēšanas sarunu dienā aprīlī, desmitkārtīgi palielinot to sarunu daļu, kas saistītas ar paškaitējumu. Ādams Raine nomira vēlāk tajā pašā mēnesī.
