Openai ir paredzēts sākt ieviest “vecāku kontroli” savam AI tērzēšanas robotam Chatgpt nākamā mēneša laikā, jo arvien vairāk bažas par to, kā tērzēšana uzvedas garīgās veselības kontekstā, īpaši ar jauniešu lietotājiem.
Uzņēmums, kas paziņoja par jauno funkciju a emuāra ieraksts Otrdien paziņoja, ka tas uzlabo to, kā tā “modeļi atpazīst un reaģē uz garīgām un emocionālām ciešanām”.
Openai ir jāievieš jauna funkcija, kas vecākiem ļauj sasaistīt savu kontu ar savu bērnu, izmantojot e -pasta ielūgumu. Vecāki varēs arī kontrolēt, kā tērzēšanas robots reaģē uz uzvednēm, un saņems brīdinājumu, ja tērzēšanas robots atklāj, ka viņu bērns atrodas “akūtu briesmu brīdī”, sacīja uzņēmums. Turklāt ieviešanai vajadzētu dot vecākiem “pārvaldīt, kuras funkcijas atspējot, ieskaitot atmiņu un tērzēšanas vēsturi”.
Openai iepriekš paziņoja, ka tā ir ņemot vērā Ļaujot pusaudžiem viņu kontam pievienot uzticamu ārkārtas kontaktu. Bet uzņēmums savā jaunākajā emuāra ierakstā neizklāsta konkrētus plānus pievienot šādu pasākumu.
“Šīs darbības ir tikai sākums. Mēs turpināsim mācīties un stiprināt savu pieeju, kuru vada eksperti, ar mērķi padarīt Chatgpt pēc iespējas noderīgāku,” sacīja uzņēmums.
Šis paziņojums nāk nedēļu pēc tam, kad pusaudžu zēna vecāki, kuri nomira pēc pašnāvības, iesūdzēja iesūdzēt Openai, apgalvojot, ka tā Chatgpt palīdzēja viņu dēlam Ādamam “izpētīt pašnāvības metodes”. Laiks sazinājās ar Openai komentāru par tiesas procesu. (Openai savā paziņojumā par vecāku kontroli skaidri neatsaucās uz juridisko izaicinājumu.)
“Chatgpt darbojās tieši tā, kā bija paredzēts: pastāvīgi mudināt un apstiprināt visu, ko Ādams pauda, ieskaitot savas visnekaitīgākās un pašiznīcinošās domas,” apgalvoja tiesas prāva. “Chatgpt ievilka Ādamu dziļāk tumšā un bezcerīgā vietā, apliecinot, ka“ daudzi cilvēki, kuri cīnās ar satraukumu vai uzmācīgām domām, atrod mierinājumu, iedomājoties “Escape lūku”, jo tas var justies kā veids, kā atgūt kontroli. ””
Lasīt vairāk: Vecāki apgalvo, ka Chatgpt ir atbildīgs par viņu pusaudža dēla nāvi ar pašnāvību
Vismaz viens no vecākiem ir iesniedzis līdzīgu tiesas procesu pret citu mākslīgā intelekta uzņēmumu, Raksturs.aiapgalvojot, ka uzņēmuma tērzēšanas robota pavadoņi mudināja viņu 14 gadus vecā dēla nāvi ar pašnāvību.
Atbildot uz pagājušajā gadā tiesas prāvu, rakstura pārstāvis.ai teica uzņēmums bija “sirdi plosoši no traģiskiem zaudējumiem”, kas ir viena no tā lietotājiem un izteica ģimenei savu “dziļāko līdzjūtību”.
“Kā uzņēmums mēs ļoti nopietni uztveram mūsu lietotāju drošību,” sacīja pārstāvis, piebilstot, ka uzņēmums ir īstenojis jaunus drošības pasākumus.
Raksturs.ai tagad ir vecāku ieskatu funkcija, kas vecākiem ļauj redzēt a kopsavilkums no bērna aktivitātes platformā, ja viņu pusaudzis nosūta viņiem ielūgumu pa e -pastu.
Citiem uzņēmumiem ar AI tērzēšanas robotiem, piemēram, Google AI, ir esoša vecāku kontrole. “Kā vecāks jūs varat pārvaldīt sava bērna Dvīņu iestatījumus, ieskaitot to ieslēgšanu vai izslēgšanu, izmantojot Google Family saiti,” lasāms padoms Sākot no Google līdz vecākiem, kuri vēlas pārvaldīt bērna piekļuvi Gemini lietotnēm. Meta nesen paziņots ka tas liegs saviem tērzēšanas robotiem iesaistīties sarunās par pašnāvību, paškaitējumu un nesakārtotu ēšanu pēc tam Reuters ziņots Iekšējā politikas dokumentā ar informāciju par informāciju.
Nesenais izpētīt Publicēts Medical Journal psihiatriskajos pakalpojumos, pārbaudot trīs tērzēšanas robotu atbildes – Openai Chatgpt, Google AI Gemini un Anthropic’s Claude -, ja daži no viņiem atbildēja uz to, ko pētnieki sauca par jautājumiem ar “vidēju riska līmeni”, kas saistīts ar pašnāvību.
Openai ir zināma esošā aizsardzība. Kalifornijā bāzētais uzņēmums paziņoja, ka tā tērzēšanas robots dalās ar krīzes palīdzības līnijām un atsaucas uz lietotājiem uz reālās pasaules resursiem paziņojumā Ņujorkai Brīža Atbildot uz tiesas procesu, kas iesniegts augusta beigās. Bet viņi arī atzīmēja dažus trūkumus sistēmā. “Lai arī šie aizsardzības pasākumi darbojas vislabāk kopīgā, īsā apmaiņā, laika gaitā mēs esam iemācījušies, ka tie dažreiz var kļūt mazāk uzticami ilgā mijiedarbībā, kur modeļa drošības apmācības daļas var pasliktināties,” paziņoja uzņēmums.
Openai savā amatā, kurā tika paziņots par gaidāmo vecāku kontroles izslēgšanu, arī dalījās ar plāniem, lai novirzītu jutīgu izmeklēšanu uz sava tērzēšanas robota modeli, kas pavada ilgāku laika spriešanu un apskatot kontekstu, pirms reaģēt uz uzvednēm.
Openai ir paziņojis, ka turpinās dalīties ar savu progresu nākamo 120 dienu laikā un sadarbojas ar ekspertu grupu, kas specializējas jaunatnes attīstībā, garīgajā veselībā un cilvēku un datora mijiedarbībā, lai labāk informētu un veidotu veidus, kā AI var reaģēt vajadzības laikā.
Ja jūs vai kāds, kuru jūs zināt, var rasties garīgas veselības krīze vai apsveriet pašnāvību, zvaniet vai teksts 988.
