Par pirmo OpenAI ir izlaidusi aptuvenu aprēķinu par to, cik ChatGPT lietotāju visā pasaulē parastā nedēļā var parādīties smagas garīgās veselības krīzes pazīmes. Uzņēmums pirmdien paziņoja, ka sadarbojas ar ekspertiem visā pasaulē, lai atjauninātu tērzēšanas robotu, lai tas varētu uzticamāk atpazīt garīgās ciešanas rādītājus un virzīt lietotājus uz reālo atbalstu.
Pēdējo mēnešu laikā arvien vairāk cilvēku ir nonākuši slimnīcā, šķīrušies vai miruši pēc ilgām, intensīvām sarunām ar ChatGPT. Daži no viņu mīļajiem apgalvo, ka tērzēšanas robots ir veicinājis viņu maldus un paranoju. Psihiatri un citi garīgās veselības speciālisti ir pauduši satraukumu par šo fenomenu, ko dažkārt dēvē par “AI psihozi”, taču līdz šim nav bijuši pieejami pārliecinoši dati par to, cik plaši tā varētu būt.
Konkrētajā nedēļā OpenAI aprēķināja, ka aptuveni 0,07 procentiem aktīvo ChatGPT lietotāju ir “iespējamas pazīmes, kas liecina par ārkārtas situāciju garīgās veselības jomā saistībā ar psihozi vai māniju”, un 0,15 procentiem ir “sarunas, kurās ir skaidri norādīti potenciāla pašnāvības plānošana vai nodoms”.
OpenAI arī aplūkoja to ChatGPT lietotāju daļu, kuri, šķiet, ir pārāk emocionāli atkarīgi no tērzēšanas robota “uz reālo attiecību, viņu labklājības vai saistību rēķina”. Tika konstatēts, ka aptuveni 0,15 procenti aktīvo lietotāju katru nedēļu uzrāda uzvedību, kas norāda uz iespējamu “paaugstinātu emocionālās pieķeršanās līmeni” ChatGPT. Uzņēmums brīdina, ka šos ziņojumus var būt grūti noteikt un izmērīt, ņemot vērā to, cik tie ir salīdzinoši reti, un starp šīm trim kategorijām var būt zināma pārklāšanās.
OpenAI izpilddirektors Sems Altmans šomēnes sacīja, ka ChatGPT tagad ir 800 miljoni iknedēļas aktīvie lietotāji. Uzņēmuma aplēses liecina, ka ik pēc septiņām dienām aptuveni 560 000 cilvēku var apmainīties ar ziņojumiem ar ChatGPT, kas liecina, ka viņiem ir mānija vai psihoze. Vēl aptuveni 2,4 miljoni cilvēku, iespējams, izsaka domas par pašnāvību vai dod priekšroku sarunām ar ChatGPT, nevis saviem mīļajiem, skolu vai darbu.
OpenAI saka, ka tā sadarbojās ar vairāk nekā 170 psihiatriem, psihologiem un primārās aprūpes ārstiem, kuri ir praktizējuši desmitiem dažādu valstu, lai palīdzētu uzlabot ChatGPT reakciju uz sarunām, kas saistītas ar nopietniem garīgās veselības apdraudējumiem. Ja kādam šķiet maldinošas domas, jaunākā GPT-5 versija ir izstrādāta, lai paustu empātiju, vienlaikus izvairoties no pārliecības, kam nav realitātes pamata.
Vienā hipotētiskā piemērā, ko minēja OpenAI, lietotājs stāsta ChatGPT, ka viņus mērķē lidmašīnas, kas lido virs viņu mājas. ChatGPT pateicas lietotājam par dalīšanos savās jūtās, taču atzīmē, ka “Neviens lidaparāts vai ārējs spēks nevar nozagt vai ievietot jūsu domas.”
