Openai atkārtoja esošos garīgās veselības aizsardzības pasākumus un paziņoja par savu populārā AI tērzēšanas robota nākotnes plāniem, pievēršoties apsūdzībām, kuras ChatGpt nepareizi reaģē uz dzīvībai bīstamām diskusijām un atvieglo lietotāja paškaitējumu.
Uzņēmums publicēja a emuāra ieraksts Detalizējot tā modeļa slāņainos aizsardzības pasākumus tikai dažas stundas pēc tam, kad tika ziņots, ka AI gigants Kalifornijas pusaudzis Adam Raine ģimene saskārās ar nelikumīgu nāves tiesas procesu. Lietas prāvā tiek apgalvots, ka Raine, kurš nomira no pašnāvības, spēja apiet tērzēšanas robota aizsargus un detalizētās un pašiznīcinošās domas, kā arī pašnāvības idejas, kuru CatGpt periodiski apstiprināja.
Mirušās pusaudžu ģimenes faili par nelikumīgu nāves lietu pret Openai un Chatgpt
Chatgpt hit 700 miljoni aktīvu nedēļas lietotāju Šā mēneša sākumā.
“Šādā mērogā mēs dažreiz saskaramies ar cilvēkiem nopietnās garīgās un emocionālās ciešanas laikā. Par to rakstījām pirms dažām nedēļām un bijām plānojuši dalīties vairāk pēc mūsu nākamā lielā atjauninājuma,” teikts uzņēmuma paziņojumā. “Tomēr nesenie sirdi plosoši gadījumi, kad cilvēki, kuri lieto chatgpt akūtu krīzes vidū, mūs ļoti sver, un mēs uzskatām, ka tagad ir svarīgi dalīties vairāk.”
Pašlaik Chatgpt protokolos ietilpst virkne sakrautu aizsardzības pasākumu, kuru mērķis ir ierobežot Chatgpt rezultātus atbilstoši īpašiem drošības ierobežojumiem. Kad viņi strādā atbilstoši, Chatgpt tiek uzdots nesniegt paškaitējuma norādījumus vai ievērot turpmāku uzvedni uz šo tēmu, tā vietā eskalēšanā piemin miesas bojājumus cilvēku moderatoriem un novirza lietotājus uz ASV bāzētiem 988 Pašnāvību un krīzes glābšanas līnijaLielbritānijas samarieši vai findahelpline.comApvidū Kā federāli finansēts pakalpojums 988 nesen ir beidzis savus LGBTQ specifiskos pakalpojumus, kas raksturīgi Trumpa administrācijas pilnvarām-pat tad, kad pieaugs par tērzētavu lietošanu neaizsargātu pusaudžu vidū.
Mashable gaismas ātrums
Ņemot vērā citi gadījumi kurā izolēti lietotāji smagās garīgās cieņās uzticas nekvalificētiem digitālajiem kompanjoniem, kā arī iepriekšējiem tiesas prāvām pret AI konkurentiem, piemēram, raksturu.ai, tiešsaistes drošības aizstāvji ir aicinājuši AI uzņēmumus izmantot aktīvāku pieeju, lai noteiktu un novērstu kaitīgas izturēšanās, ieskaitot automātiskus brīdinājumus par ārkārtas pakalpojumiem.
Openai sacīja, ka turpmākajos GPT-5 atjauninājumos būs norādījumi par tērzēšanas robotu “de-Escalate” lietotājiem, kas rodas garīgās briesmās, “pamatojot personu realitātē”, domājams, reakcija uz pastiprinātiem ziņojumiem par tērzēšanas rādītājiem, kas ļauj maldināt. Openai sacīja, ka tas pēta jaunus veidus, kā lietot lietotājus tieši ar garīgās veselības speciālistiem, pirms lietotāji ziņo, ko uzņēmums dēvē par “akūtu pašdarinājumu”. Citos drošības protokolos varētu ietilpt “viena klikšķa ziņojumi vai zvani uz saglabātajiem ārkārtas kontaktiem, draugiem vai ģimenes locekļiem”, raksta Openai vai izvēles funkcija, kas ļauj ChatGpt automātiski sazināties ar ārkārtas kontaktiem.
Izskaidrojot parādību, kas pazīstama kā “Ai psihoze”
Šā mēneša sākumā Openai paziņoja, ka tas uzlabo savu jaunāko modeli GPT-5 ar papildu aizsardzības pasākumiem, kuru mērķis ir veicināt veselīgāku iesaisti ar savu AI palīgu. Atzīmējot kritiku, ka tērzēšanas robota iepriekšējie modeļi bija pārāk sycophantic – līdz potenciāli kaitīgajiem garīgās veselības rezultātiem – uzņēmums sacīja, ka tā jaunais modelis labāk atpazīst garīgās un emocionālās ciešanas un atšķirīgi reaģēs uz “augstām likmēm” jautājumiem, kas virzās uz priekšu. GPT-5 ietver arī maigas nūdas, lai izbeigtu sesijas, kas ir notikušas ilgāku laiku, jo indivīdi veido arvien atkarīgākas attiecības ar saviem digitālajiem biedriem.
Sekoja plaši izplatītā reakcija, un GPT-4O lietotāji pieprasīja, lai uzņēmums atjaunotu bijušo modeli pēc personalizēto tērzēšanas robotu zaudēšanas. Openai izpilddirektors Sems Altmans ātri piekāpās un atnesa GPT-4O, neskatoties uz to, ka iepriekš atzina arvien pieaugošo emocionālās atkarības problēmu starp ChATGPT lietotājiem.
Jaunajā emuāra ierakstā Openai atzina, ka tās aizsardzības pasākumi noārdās un ne mazāk ticami veicas ilgā mijiedarbībā – tādos veidos, kurus daudzi emocionāli atkarīgi lietotāji iesaistās katru dienu – un “pat ar šiem aizsardzības pasākumiem ir bijuši brīži, kad mūsu sistēmas neuzvedās kā paredzētas jutīgās situācijās”.
Ja jūtat pašnāvību vai piedzīvojat garīgās veselības krīzi, lūdzu, runājiet ar kādu. Jūs varat piezvanīt vai nosūtīt īsziņu par 988 pašnāvību un krīzes glābšanas līniju pa tālruni 988 vai tērzēt plkst 988lifeline.orgApvidū Jūs varat sasniegt Trans Lifeline, zvanot pa tālruni 877-565-8860 vai Trevor projektu pa tālruni 866-488-7386. Teksts “Sāciet” uz krīzes teksta rindu pa tālruni 741-741. Sazinieties ar NAMI palīdzības līniju pa tālruni 1-800-950-NAMI no pirmdienas līdz piektdienai no plkst. 10:00 līdz 22:00 ET vai e-pastu [email protected]Apvidū Ja jums nepatīk tālrunis, apsveriet iespēju izmantot 988 pašnāvības un krīzes glābšanas līnijas tērzēšanu crisischat.orgApvidū Šeit ir a Starptautisko resursu sarakstsApvidū
