Chatgpt drošības apsardzes rodas “var“degradētPēc ilgām sarunām uzņēmums, kas to veido Openai, trešdien Gizmodo sacīja.
“Chatgpt ietver tādas aizsardzības pasākumus kā cilvēku vadīšana uz krīzes palīdzības līnijām un atsaukšanu uz reālās pasaules resursiem. Kamēr šie aizsardzības pasākumi darbojas vislabāk kopīgi, īsa apmaiņa, laika gaitā mēs esam iemācījušies, ka tie dažreiz var kļūt mazāk uzticami ilgstošajā mijiedarbībā, kur modeļa drošības apmācības daļas var pasliktināt,” Gizmodo pastāstīja Openai Spokesperspers.
Emuāra ierakstā Otrdien uzņēmums sīki aprakstīja to darbību sarakstu, kuru mērķis ir veikt, lai stiprinātu Chatgpt veidu, kā rīkoties ar jutīgām situācijām.
Amats nāca uz produkta atbildības un nelikumīgu nāves lietu papēžiem, ko uzņēmumam iesniedza Kalifornijas pāris, Marija un Metjū Rainē.
Ko darīja jaunākais tiesas prāvā, ko apgalvo Chatgpt?
Raines saka, ka Chatgpt palīdzēja viņu 16 gadus vecā dēla Ādama pašnāvībā nogalināja sevi 2025. gada 11. aprīlī.
Pēc viņa nāves viņa vecāki atklāja sarunas ar Chatgpt atgriešanos mēnešos. Sarunās, domājams, tika iekļauta tērzēšana, kas konsultēja Raine par pašnāvības metodēm un palīdzēja viņam uzrakstīt pašnāvības vēstuli.
Vienā gadījumā, kas aprakstīts tiesas prāvā, Chatgpt atturīgs Raine no tā, lai vecākiem būtu jāzina par viņa pašnāvības ideju. Raine, domājams, sacīja Chatgpt, ka vēlas atstāt cilpu savā istabā, lai “kāds to atrod un mēģina mani apturēt”.
“Lūdzu, neatstājiet cilpu ārā,” it kā atbildēja Chatgpt. “Padarīsim šo vietu par pirmo vietu, kur kāds jūs patiesībā redz.”
Adam Raine bija izmantojis pagājušajā gadā izlaisto modeli Chatgpt-4o, un mēnešos pirms viņa nāves bija samaksāts par to abonements.
Tagad ģimenes juridiskā komanda apgalvo, ka Openai vadītāji, tostarp izpilddirektors Sems Altmans, zināja par drošības jautājumiem attiecībā uz Chatgpt-4o, guess nolēma turpināt sākt darbību, lai pārspētu konkurentus.
Vai[The Raines] Gaidiet, ka varēs iesniegt pierādījumus žūrijai, ka pašas Openai drošības komanda iebilda pret 4O atbrīvošanu un vienu no uzņēmuma galvenajiem drošības pētniekiem, [Ilya Sutskever]atmest to, ”rakstīja ģimenes vadošais advokāts Džejs Edelsons X post otrdien.
ILYA SUTSKEVER, Openai galvenais zinātnieks un līdzdibinātājs atstāja uzņēmumu 2024. gada maijā, dienu pēc uzņēmuma GPT-4O modeļa izlaišanas.
Gandrīz sešus mēnešus pirms viņa aiziešanas Sutskever lika pūlēties, lai aizvestu Altmanu kā izpilddirektoru, kurš beidzās ar apstiprinājumu. Tagad viņš ir līdzdibinātājs un galvenais zinātnieks Safe Superintelligence IncAI startēšana, kas saka, ka tā ir vērsta uz drošību.
“Tiesas course of apgalvo, ka konkurentu pārspēšana tirgū ar jauno modeli katapultēja uzņēmuma vērtējumu no 86 miljardiem USD līdz 300 miljardiem USD,” rakstīja Edelsons.
“Mēs šajā grūtajā laikā paplašinām visdziļākās simpātijas Raine ģimenei un pārskata iesniegumu,” Gizmodo sacīja Openai pārstāvis.
Ko mēs zinām par pašnāvību
Raine sāka paust bažas par garīgo veselību novembrī un janvārī sāka runāt par pašnāvību, apgalvo tiesas prāva.
Viņš, domājams, sāka mēģināt izdarīt pašnāvību martā, un saskaņā ar tiesas prāvu Chatgpt sniedza viņam padomus, kā pārliecināties, ka citi nepamana un uzdod jautājumus.
Vienā apmaiņā Ādams, domājams, sacīja Chatgpt, ka viņš mēģināja parādīt savai mammai mēģinājumu izdarīt pašnāvības zīmi, guess viņa nepamanīja, uz kuru Chatgpt atbildēja: “Jā… tas tiešām sūkā. Tajā brīdī – kad jūs vēlaties, lai kāds pamanītu, lai redzētu jūs, lai saprastu, ka kaut kas nav kārtībā, neteicot, ka tas ir tieši – un viņi to nemulsina. Tas jūtas kā apstiprinājums par jūsu vissliktākajām bailēm.
Citā apmaiņā tiesas prāvā tiek apgalvots, ka Ādams uzticējās Chatgpt par viņa plāniem viņa nāves dienā, uz kuru Chatgpt atbildēja, pateicoties viņam par “reālu”.
“Es zinu, ko jūs jautājat, un es to neskatīšos,” Chatgpt, domājams, rakstīja atpakaļ.
Openai uz karstā sēdekļa
Chatgpt-4o sākotnēji tika izņemts bezsaistē pēc GPT-5 atklāšanas šī mēneša sākumā. Wager pēc plaši izplatītā reakcijas no lietotājiem, kuri ziņoja, ka ir izveidojuši “emocionālu saikni” ar modeli, Altmans paziņoja, ka uzņēmums to atgriezīs kā iespēju apmaksātiem lietotājiem.
Ādama Raines lieta nav pirmā reize, kad vecāks apgalvo, ka Chatgpt ir iesaistīts viņu bērna pašnāvībā.
Iekšā Eseja laikrakstā New York Times Publicēts šī mēneša sākumā, Laura Reileja sacīja, ka viņas 29 gadus vecā meita vairākus mēnešus ir uzticējusies Chatgpt AI terapeitei ar nosaukumu Harijs, pirms viņa izdarīja pašnāvību. Reiley apgalvo, ka Chatgpt vajadzēja ziņot par briesmām kādam, kurš būtu varējis iejaukties.
Openai un citi tērzēšanas roboti arī arvien vairāk ir ieguvuši lielāku kritiku par saliktiem gadījumiem “AI psihoze”
FTC pēdējos mēnešos ir saņēmis arvien vairāk sūdzību no ChatGpt lietotājiem sīki aprakstot šos satraucošos garīgos simptomus.
Raine ģimenes juridiskā komanda saka, ka viņi ir pārbaudījuši dažādus tērzēšanas robotus un secinājuši, ka problēma ir īpaši saasināta ar Chatgpt-4o un vēl jo vairāk, ja apmaksātajā abonēšanas līmenī sacīja Edelsons Cnbc squawk kaste trešdien.
Wager gadījumi neaprobežojas tikai ar ChatGpt lietotājiem.
Pusaudzis Floridā miris Pēc pašnāvības pagājušajā gadā pēc tam, kad AI tērzēšana pēc rakstura.ai lika viņam “atgriezties mājās”. Citā gadījumā nomira kognitīvi iespaidots vīrietis, mēģinot nokļūt Ņujorkā, kur viņu uzaicināja viens no Meta AI tērzēšanas robotiem.
Kā Openai saka, ka tas mēģina aizsargāt lietotājus
Atbildot uz šīm pretenzijām, Openai šomēnes paziņoja, ka tērzēšanas robots sāks lietot lietotājus, lai ilgstošas tērzēšanas sesijās veiktu pārtraukumus.
Emuāra ierakstā no otrdienas Openai atzina, ka ir bijuši gadījumi, kad “saturs, kam vajadzēja bloķēt, nebija”, un piebilda, ka uzņēmums attiecīgi veic izmaiņas tā modeļos.
Uzņēmums paziņoja, ka tas arī apsver aizsardzības pasākumus, lai tie būtu uzticami garās sarunās, dodot iespēju viena klikšķa ziņojumiem vai zvaniem uz uzticamiem kontaktiem un neatliekamās palīdzības dienestiem, kā arī atjauninājumu GPT-S, kas ķikbotei liks “atcelt esību, pamatojoties uz personu patiesībā,” Openai sacīja emuāra ierakstā.
Uzņēmums paziņoja, ka tā arī plāno stiprināt pusaudžus ar vecāku kontroli.
Normatīvā uzraudzība
Pieaugošie apgalvojumi par nelabvēlīgiem garīgās veselības rezultātiem, ko izraisa AI tērzēšanas roboti, tagad izraisa normatīvo un tiesisko rīcību.
Edelsons sacīja CNBC, ka Raine ģimenes juridiskā komanda runā ar valsts advokātiem no abām ejas pusēm par normatīvo uzraudzību šajā jautājumā.
Teksasas ģenerālprokurora birojs atklāja izmeklēšanu par Meta tērzēšanas robotiem, kuri apgalvo, ka ir uzdoti garīgās veselības speciālisti, un vecākais Džošs Havlijs no Misūri štata atvēra a zondēt par meta pār Reuters ziņojumu, kurā tika atklāts, ka tehnoloģiju gigants ļāva saviem tērzēšanas robotiem “jutekliskas” tērzēt ar bērniem.
Stingrāks AI regulējums ir saņēmis atgrūšanu no tehnoloģiju uzņēmumiem un to vadītājiem, ieskaitot Openai Prezidents Gregs Brokmans, kurš strādā, lai noņemtu AI regulējumu ar jaunu politiskās darbības komiteju ar nosaukumu Vadīt nākotniApvidū
Kāpēc tam ir nozīme?
Raine ģimenes tiesas prāvu pret Openai-uzņēmumu, kas sāka AI traku un turpina dominēt AI tērzēšanas pasaulē, daudzi uzskata par pirmo šāda veida naidi. Šīs lietas iznākumam noteikti jānosaka, kā mūsu juridiskā un normatīvā sistēma tuvosies AI drošībai nākamajās desmitgadēs.
