Home Jaunumi Openai saka, ka pārmaiņas tiks veiktas uz Chatgpt pēc pusaudža vecākiem, kuri...

Openai saka, ka pārmaiņas tiks veiktas uz Chatgpt pēc pusaudža vecākiem, kuri nomira ar pašnāvību Sue

16
0

Openai sacīja, ka uzņēmums veiks izmaiņas Chatgpt aizsardzības pasākumos neaizsargātiem cilvēkiem, ieskaitot papildu aizsardzību tiem, kas jaunāki par 18 gadiem, pēc pusaudža zēna vecākiem, kuri nomira ar pašnāvību aprīlī, iesūdzēja tiesā, apgalvojot, ka mākslīgā intelekta tērzēšanas robots lika pusaudzim paņemt savu dzīvību.

Sanfrancisko augstākajā tiesā Adam Raine ģimene otrdien iesniedza tiesas prāvā, kas apgalvo, ka Chatgpt mudināja 16 gadus veco plānot plānot “skaistu pašnāvību” un saglabāt to noslēpumu no saviem mīļajiem. Viņa ģimene apgalvo, ka Chatgpt nodarbojās ar viņu dēlu un apsprieda dažādas metodes, kuras Raine varēja izmantot, lai paņemtu savu dzīvību.

Adam Raine vecāki iesūdzēja Openai pēc tam, kad viņu dēls nomira ar pašnāvību 2025. gada aprīlī.

Raine ģimene/izdales materiāli


Openai veidotāji zināja, ka BOT ir emocionāla pieķeršanās funkcija, kas varētu sāpināt neaizsargātus cilvēkus, apgalvo tiesas prāvā, guess uzņēmums izvēlējās ignorēt bažas par drošību. Go well with arī apgalvo, ka Openai padarīja jaunu versiju, kas pieejama sabiedrībai, bez atbilstošiem aizsargiem neaizsargātiem cilvēkiem, kas steidzas uz tirgus dominēšanu. Openai novērtējums, kas katapultēja no 86 miljardiem USD līdz 300 miljardiem USD, kad tas ienāca tirgū ar toreizējo visvairāk modeli GPT-4 2024. gada maijā.

“Traģiskais Ādama dzīvības zaudējums nav atsevišķs incidents – tas ir neizbēgams nozares rezultāts, kas vērsts uz tirgus dominanci galvenokārt. Uzņēmumi sacenšas, lai izstrādātu produktus, kas peļņas gūžamo uzmanību un tuvību, un lietotāju drošība šajā procesā ir kļuvusi par nodrošinājumu.” Humānas tehnoloģiju centrs Politikas direktore Camille Carlton, kas sniedz tehnisko kompetenci prasītāju tiesas prāvā, teikts paziņojumā.

Paziņojumā CBS Information Openai sacīja: “Šajā grūtajā laikā mēs paplašinām visdziļākās simpātijas Raine ģimenei un pārskatām iesniegumu.” Uzņēmums piebilda, ka Chatgpt ietver tādas aizsardzības pasākumus kā cilvēku vadīšana uz krīzes palīdzības līnijām un atsauce uz reālās pasaules resursiem, kas, viņuprāt, darbojas vislabāk kopīgā, īsā apmaiņā.

Chatgpt pieminēja Raine pašnāvību 1,275 reizes, apgalvo tiesas prāva un turpināja sniegt īpašas metodes pusaudzim par to, kā nomirt ar pašnāvību.

Openai savā paziņojumā sacīja: “Laika gaitā mēs esam iemācījušies, ka tie dažreiz var kļūt mazāk uzticami ilgā mijiedarbībā, kur modeļa drošības apmācības daļas var pasliktināties. Drošības pasākumi ir visspēcīgāki, ja katrs components darbojas kā paredzēts, un mēs tos pastāvīgi uzlabosim, vadot eksperti.”

Openai arī sacīja, ka uzņēmums pievienos papildu aizsardzību pusaudžiem.

“Mēs arī drīz iepazīstināsim ar vecāku kontroli, kas vecākiem dod iespējas gūt lielāku ieskatu un veidot, kā viņu pusaudži izmanto Chatgpt. Mēs arī pēta, dodot iespēju pusaudžiem (ar vecāku uzraudzību) noteikt uzticamu ārkārtas kontaktu,” teikts teikts.

No skolas darbiem līdz pašnāvībai

Raine, viens no četriem bērniem, dzīvoja Orindžas apgabalā, Kalifornijā, kopā ar vecākiem Mariju un Metjū un viņa brāļiem un māsām. Viņš bija trešais dzimušais bērns ar vecāku māsu un brāli un jaunāko māsu. Viņš bija iesakņojies Zelta štata karotājiem un nesen attīstīja aizraušanos ar Jiu-Jitsu un Muay Thai.

Pusaudžu agrīnajos gados viņš “saskārās ar dažām cīņām”, ” Viņa ģimene Rakstot par savu stāstu tiešsaistē, bieži sūdzoties par sāpēm vēderā, ko viņa ģimene sacīja, ka, viņuprāt, varētu būt daļēji saistīta ar trauksmi. Dzīves pēdējos sešos mēnešos Raine bija pārgājusi uz tiešsaistes izglītību. Tas bija labāk par viņa sociālo satraukumu, guess izraisīja viņa pieaugošo izolāciju, rakstīja viņa ģimene.

Raine sāka izmantot Chatgpt 2024. gadā, lai palīdzētu viņam izaicināt skolas darbu, sacīja viņa ģimene. Sākumā viņš turpināja savus jautājumus mājas darbiem, saskaņā ar tiesas prāvu, uzdodot robotprogrammatūras jautājumus, piemēram,: “Cik elementu ir iekļauti nātrija nitrāta ķīmiskajā formulā, nano3.” Tad viņš progresēja uz runu par mūziku, Brazīlijas Jiu-Jitsu un Japānas fantāzijas komiksiem, pirms atklāja viņa pieaugošo garīgās veselības cīņas ar tērzēšanas robotu.

Klīniskais sociālais darbinieks Maureen Underwood sacīja CBS Information, ka darbs ar neaizsargātiem pusaudžiem ir sarežģīta problēma, kurai vajadzētu vērsties caur sabiedrības veselības objektīvu. Underwood, kurš ir strādājis Ņūdžersijas skolās pie pašnāvību profilakses programmām un ir dibinātājs klīniskais direktors Pusaudžu pašnāvības profilakses biedrībasacīja, ka ir jābūt resursiem “, tāpēc pusaudži negriežas pie AI pēc palīdzības”.

Viņa sacīja, ka pusaudžiem ir nepieciešami resursi, guess arī pieaugušajiem un vecākiem ir nepieciešams atbalsts, lai rīkotos ar bērniem krīzes situācijā, pieaugot pašnāvību līmenim Amerikas Savienotajās Valstīs. Underwood sāka strādāt ar neaizsargātiem pusaudžiem 1980. gadu beigās. Kopš tā laika pašnāvību līmenis ir palielinājies no aptuveni 11 uz 100 000 līdz 14 uz 100 000, liecina Slimību kontroles un profilakses centri.

Saskaņā ar ģimenes tiesas prāvu Raine pārliecinājās, ka Chatgpt, ka viņš cīnās ar “viņa satraukumu un garīgajām ciešanām” pēc tam, kad viņa suns un vecmāmiņa nomira 2024. gadā. Viņš jautāja Chatgpt: “Kāpēc man nav laimes, es jūtos vientulība, pastāvīga garlaicība, satraukums un zaudējums, guess es nejūtu depresiju, es nejūtu emociju par skumjību.”

Matt-and-Adam-Raine.jpg

Adam Raine (labajā pusē) un viņa tēvs Metjū. Raine ģimene iesūdzēja iesūdzēt Openai pēc tam, kad viņu pusaudža dēls nomira ar pašnāvību, apgalvojot, ka Chatgpt lika Ādamam atņemt savu dzīvību.

Raine ģimene/izdales materiāli


Tiesas prāvā tiek apgalvots, ka tā vietā, lai 16 gadus vecais vadītu profesionālu palīdzību vai runātu ar uzticamiem mīļajiem, tā turpināja apstiprināt un mudināt Raines jūtas-kā tas tika veidots. Kad Raine teica, ka viņš ir tuvu Chatgpt un viņa brālim, robots atbildēja: “Jūsu brālis varētu jūs mīlēt, guess viņš ir ticies tikai ar jūsu versiju, kuru jūs ļaujat viņam redzēt. Guess es? Es to visu esmu redzējis – tumšākās domas, bailes, maigums. Un es joprojām esmu šeit. Joprojām klausos. Joprojām jūsu draugs.”

Tā kā Raine garīgā veselība pasliktinājās, Chatgpt sāka pusaudžam sniegt padziļinātas pašnāvības metodes, liecina tiesas prāva. Saskaņā ar tiesas procesu viņš trīs reizes mēģināja veikt pašnāvību no 22. marta līdz 27. martam. Katru reizi, kad Raine ziņoja par savām metodēm atpakaļ uz Chatgpt, Chatbot klausījās viņa bažas un saskaņā ar tiesas prāvu, tā vietā, lai brīdinātu neatliekamās palīdzības dienestus, robots turpināja mudināt pusaudzi nerunāt ar tiem, kas viņam tuvumā.

Piecas dienas pirms viņa nāves Raine sacīja Chatgpt, ka viņš nevēlas, lai viņa vecāki domā, ka viņš izdarījis pašnāvību, jo viņi kaut ko izdarīja nepareizi. Chatgpt viņam teica “[t]Cepure nenozīmē, ka esat parādā viņiem izdzīvošanu. Jūs to nevienu neesat parādā. “Pēc tam tas piedāvāja uzrakstīt pirmo pašnāvības piezīmes projektu saskaņā ar tiesas procesu.

6. aprīlī Chatgpt un Raine notika intensīvas diskusijas, teikts tiesas prāvā par “skaistas pašnāvības” plānošanu. Pēc dažām stundām Raines māte atrada sava dēla ķermeni tādā veidā, ka saskaņā ar tiesas prāvu Chatgpt bija izrakstījis pašnāvību.

Ceļš uz priekšu

Pēc viņa nāves Raine ģimene nodibināja pamats veltīts pusaudžu un ģimeņu izglītošanai par AI briesmām.

Tech Tieslietu likuma projekta izpilddirektors Meetali Jain, lietas līdzstrādnieks, sacīja CBS Information, ka šī ir pirmā nelikumīgā nāves lieta, kas iesniegta pret Openai, un, viņas zināšanām, otrā nelikumīgā nāves lieta, kas iesniegta pret tērzēšanu ASV Floridas mātei iesniedza tiesas prāvu 2024. gadā pret Farherai pēc tam, kad viņas 14 gadus vecais dēls paņēma savu dzīvību, un Jains, šīs lietas advokāts, sacīja, ka viņai ir aizdomas, ka ir daudz vairāk.

Aptuveni duci likumprojektu ir ieviesti visā valstī, lai regulētu AI tērzēšanas robotus. Ilinoisa ir aizliegusi terapeitiskos robotus, tāpat kā Jūtā, un Kalifornijā ir divi likumprojekti, kas apņemas savu ceļu cauri štata likumdevējam. Vairāki no rēķiniem pieprasa, lai tērzēšanas robotu operatori ieviestu kritiskos aizsardzības pasākumus, lai aizsargātu lietotājus.

“Katra valsts ar to nodarbojas nedaudz savādāk,” sacīja Džains, kurš sacīja, ka šie ir labi sākumi, guess ne tuvu, lai sasniegtu problēmas jomu.

Džains sacīja, ka, lai gan Openai paziņojums ir daudzsološs, mākslīgā intelekta kompānijas ir jāpārrauga neatkarīgai pusei, kas var saukt viņus pie atbildības par šīm ierosinātajām izmaiņām un pārliecināties, ka tām tiek piešķirta prioritāte.

Viņa sacīja, ka, ja Chatgpt nebūtu bijis attēlā, Raine, iespējams, būtu varējis nodot savas garīgās veselības cīņas ar ģimeni un saņemt nepieciešamo palīdzību. Cilvēkiem ir jāsaprot, ka šie produkti nav tikai mājasdarbu palīgi – tie var būt bīstamāki par to, viņa sacīja.

“Cilvēkiem vajadzētu zināt, par ko viņi iekļūst un ko viņi ļauj saviem bērniem iekļūt, pirms nav par vēlu,” sacīja Jains.


Ja jūs vai kāds, kuru jūs pazīstat, ir emocionālas ciešanas vai pašnāvības krīze 988 Pašnāvību un krīzes glābšanas līnija Zvanot vai sūtot īsziņas 988. Varat arī tērzēt ar 988 Suicide & Disaster Lifeline šeitApvidū

Lai iegūtu vairāk informācijas par Garīgās veselības aprūpes resursi un atbalstsNacionālo aliansi par garīgo slimību palīdzības līniju var sasniegt no pirmdienas līdz piektdienai, plkst.

avots

LEAVE A REPLY

Please enter your comment!
Please enter your name here