OpenAI izlaists jauni dati pirmdien ilustrējot, cik daudzi no ChatGPT lietotājiem cīnās ar garīgās veselības problēmām, un par to runājot ar AI tērzēšanas robotu. Uzņēmums saka, ka 0,15% no ChatGPT aktīvajiem lietotājiem konkrētajā nedēļā ir “sarunas, kas ietver skaidrus potenciālas pašnāvības plānošanas vai nodomu rādītājus”. Ņemot vērā, ka ChatGPT katru nedēļu ir vairāk nekā 800 miljoni aktīvo lietotāju, kas nozīmē vairāk nekā miljonu cilvēku nedēļā.
Uzņēmums saka, ka līdzīgs lietotāju procentuālais daudzums uzrāda “paaugstinātu emocionālo pieķeršanos ChatGPT” un simtiem tūkstošu cilvēku iknedēļas sarunās ar AI tērzēšanas robotu uzrāda psihozes vai mānijas pazīmes.
OpenAI saka, ka šāda veida sarunas pakalpojumā ChatGPT ir “ārkārtīgi reti sastopamas”, un tāpēc tās ir grūti izmērāmas. Tomēr OpenAI lēš, ka šīs problēmas katru nedēļu skar simtiem tūkstošu cilvēku.
OpenAI dalījās ar informāciju kā daļu no plašāka paziņojuma par saviem nesenajiem centieniem uzlabot modeļu reakciju uz lietotājiem ar garīgās veselības problēmām. Uzņēmums apgalvo, ka tā jaunākais darbs pie ChatGPT ietvēra konsultācijas ar vairāk nekā 170 garīgās veselības ekspertiem. OpenAI saka, ka šie klīnicisti novēroja, ka jaunākā ChatGPT versija “reaģē atbilstošāk un konsekventāk nekā iepriekšējās versijas”.
Pēdējo mēnešu laikā vairāki stāsti ir atklājuši, kā AI tērzēšanas roboti var negatīvi ietekmēt lietotājus cīnās ar garīgās veselības problēmām. Pētnieki jau iepriekš ir noskaidrojuši, ka mākslīgā intelekta tērzēšanas roboti var novest dažus lietotājus uz maldu trušu caurumiem, galvenokārt pastiprinot bīstamus uzskatus, izmantojot simpātijas.
Garīgās veselības problēmu risināšana programmā ChatGPT ātri kļūst par OpenAI eksistenciālu problēmu. Pašlaik uzņēmumu iesūdz tiesā 16 gadus veca zēna vecāki, kurš nedēļas laikā pirms viņa pašnāvības atklāja savas domas par pašnāvību ChatGPT. Kalifornijas un Delavēras štatu ģenerālprokurors, kas varētu bloķēt uzņēmuma plānoto restrukturizāciju, arī brīdināja OpenAI, ka tā vajadzības aizsargāt jauniešus kuri izmanto savus produktus.
Šā mēneša sākumā OpenAI izpilddirektors Sems Altmans ziņojumā par X apgalvoja, ka uzņēmums ir “varējis mazināt nopietnas garīgās veselības problēmas” ChatGPT, lai gan viņš nesniedza konkrētu informāciju. Pirmdien izplatītie dati, šķiet, ir pierādījums šim apgalvojumam, lai gan tie rada plašākas problēmas par problēmas izplatību. Tomēr Altmans sacīja, ka OpenAI atvieglos dažus ierobežojumus, pat ļaujot pieaugušajiem lietotājiem sākt erotiskas sarunas ar AI tērzēšanas robotu.
Techcrunch pasākums
Sanfrancisko
|
2025. gada 27.–29. oktobris
Pirmdienas paziņojumā OpenAI apgalvo, ka nesen atjauninātā GPT-5 versija reaģē ar “vēlamām atbildēm” uz garīgās veselības problēmām par aptuveni 65% vairāk nekā iepriekšējā versija. Novērtējumā, kurā tika pārbaudītas mākslīgā intelekta atbildes reakcijas uz pašnāvnieciskām sarunām, OpenAI saka, ka tā jaunais GPT-5 modelis ir par 91% atbilstošs uzņēmuma vēlamajai uzvedībai, salīdzinot ar 77% iepriekšējā GPT-5 modelī.
Uzņēmums arī saka, ka jaunākā GPT-5 versija arī ilgākās sarunās labāk atbilst OpenAI aizsardzības pasākumiem. OpenAI iepriekš ir atzīmējis, ka tā aizsardzības līdzekļi bija mazāk efektīvi garās sarunās.
Papildus šiem centieniem OpenAI saka, ka tas tiek pievienots jauni vērtējumi lai novērtētu dažas no nopietnākajām garīgās veselības problēmām, ar kurām saskaras ChatGPT lietotāji. Uzņēmums saka, ka tā sākotnējā drošības pārbaude AI modeļiem tagad ietvers emocionālās paļaušanās un ar pašnāvību nesaistītas garīgās veselības ārkārtas situācijas.
Arī OpenAI nesen ir ieviesis vairāk kontrole vecākiem bērnu, kuri izmanto ChatGPT. Uzņēmums saka, ka tas veido vecuma prognozēšanas sistēmu, lai automātiski noteiktu bērnus, kuri izmanto ChatGPT, un ieviestu stingrākus aizsardzības pasākumus.
Tomēr nav skaidrs, cik noturīgas būs garīgās veselības problēmas saistībā ar ChatGPT. Lai gan šķiet, ka GPT-5 ir uzlabojums salīdzinājumā ar iepriekšējiem AI modeļiem drošības ziņā, joprojām šķiet, ka ChatGPT atbildes ir daļa, ko OpenAI uzskata par “nevēlamu”. OpenAI joprojām padara savus vecākus un mazāk drošus AI modeļus, tostarp GPT-4o, pieejamus miljoniem tā maksājošo abonentu.
