Pirmdienas emuāra ierakstā OpenAI minēja uzlabojumus, ko tā noklusējuma modelis GPT-5 ir veicis, identificējot lietotāju satraucošās reakcijas un reaģējot uz tām, tostarp pašnāvības domām. Lai gan jauni aizsardzības pasākumi un psihiatru ieviešana, palīdzot apmācīt GPT-5, uzlabo AI reakciju uz garīgās veselības pamudinājumiem, emuāra ieraksts norādīja arī uz dažiem skaitļiem, kas noteikti pacels uzacis.
Izskaidrojot GPT-5 spējas atklāt nopietnas garīgās veselības problēmas, piemēram, psihozi un māniju, ziņojumā tika atzīmēts, ka satraucošas lietotāju sarunas ar tērzēšanas robotu ir “retas”.
“Lai gan, kā minēts iepriekš, šīs sarunas ir grūti noteikt un izmērīt, ņemot vērā to, cik reti tās ir, mūsu sākotnējā analīze liecina, ka aptuveni 0,07% lietotāju, kas ir aktīvi konkrētajā nedēļā, un 0,01% ziņojumu norāda uz iespējamām garīgās veselības avārijas pazīmēm saistībā ar psihozi vai māniju.”
Šķiet, ka procentuālais daudzums ir mazs, taču ChatGPT ir 800 miljoni iknedēļas lietotāju, norāda OpenAI izpilddirektors Sems Altmans, kuram pieder ChatGPT. Altmans to izdarīja satriecošs paziņojums šī mēneša sākumā OpenAI DevDay.
Sems Altmens: ChatGPT atkal kļūs “draudzīgāks”, pat erotiski
Ja Altmana skaitļi ir pareizi, tas atbilst 560 000 ChatGPT lietotājiem, kuriem ir psihozes vai mānijas pazīmes, un 80 000 viņu ziņojumu, kas norāda uz garīgās veselības ārkārtas situācijām, saskaņā ar vietnes aplēsēm.
Mashable gaismas ātrums
OpenAI turpina strādāt ar saviem modeļiem, lai labāk identificētu paškaitējuma pazīmes un novirzītu šos cilvēkus uz resursiem, piemēram, pašnāvību palīdzības tālruņiem vai saviem draugiem vai ģimenes locekļiem. Emuāra ziņojumā joprojām ir norādīts, ka ChatGPT sarunas par paškaitējumu ir reti sastopamas, taču tiek lēsts, ka “0,15% lietotāju, kas ir aktīvi konkrētajā nedēļā, ir sarunas, kurās ir skaidri norādīti potenciālas pašnāvības plānošanas vai nodoma rādītāji, un 0,05% ziņojumu satur tiešus vai netiešus pašnāvības domu vai nodomu rādītājus.”
Iknedēļas lietotāju skaits ir 800 miljoni, kas atbilst 1,2 miljoniem ChatGPT lietotāju, kuri attiecīgajā nedēļā iesaistās sarunās ar AI par pašnāvību, un 400 000 ziņojumu no lietotājiem, kas liecina par tiešām vai netiešām pašnāvības nodomiem.
“Pat ļoti neliela daļa no mūsu lielās lietotāju bāzes pārstāv nozīmīgu cilvēku skaitu, un tāpēc mēs šo darbu uztveram tik nopietni,” Mashable sacīja OpenAI pārstāvis, piebilstot, ka uzņēmums uzskata, ka ChatGPT pieaugošā lietotāju bāze atspoguļo sabiedrību kopumā, kur garīgās veselības simptomi un emocionāls stress ir “vispārēji klātesošs”.
Pārstāvis arī atkārtoja, ka uzņēmuma skaitļi ir aplēses un “mēs sniegtie skaitļi var būtiski mainīties, uzzinot vairāk.”
Pašlaik pret OpenAI ir vērsta prāva no 16 gadus veca jaunieša Ādama Raine vecākiem, kurš šā gada sākumā nomira pašnāvībā intensīvas ChatGPT lietošanas laikā. Nesen grozītajā juridiskajā sūdzībā Raines apgalvo, ka OpenAI divreiz samazināja pašnāvību novēršanas drošības pasākumus, lai palielinātu iesaistīšanos mēnešos pirms viņu dēla nāves.
Ja jūtaties pašnāvniecisks vai piedzīvo garīgās veselības krīzi, lūdzu, aprunājieties ar kādu. Varat zvanīt vai īsziņu uz 988 Suicide & Disaster Lifeline pa tālruni 988 vai tērzēt pa 988lifeline.org. Jūs varat sazināties ar Trans Lifeline, zvanot pa tālruni 877-565-8860 vai Trevor Challenge pa tālruni 866-488-7386. Nosūtiet tekstu “START” uz krīzes teksta līniju pa tālruni 741-741. Sazinieties ar NAMI palīdzības līniju pa tālruni 1-800-950-NAMI no pirmdienas līdz piektdienai no 10:00 līdz 22:00 ET vai e-pastu. [email protected]. Ja jums nepatīk tālrunis, apsveriet iespēju izmantot 988 Pašnāvību un krīzes dzīves līnijas tērzēšana. Šeit ir a starptautisko resursu saraksts.
