OpenAI to apgalvo 10% pasaules iedzīvotāju pašlaik izmanto ChatGPT katru nedēļu. In a ziņojumu publicēja Pirmdien OpenAI izceļ to, kā tā izturas pret lietotājiem, kuriem ir garīga stresa pazīmes, un uzņēmums apgalvo, ka 0,07% tā iknedēļas lietotāju novēroja “psihiskās veselības ārkārtas situācijas, kas saistītas ar psihozi vai māniju”, 0,15% izteica “pašsavainošanās vai pašnāvības” risku, wager 0,15% – “emocionālās paļaušanās uz AI” pazīmes. Tas ir gandrīz trīs miljoni cilvēku.
Pastāvīgi cenšoties parādīt, ka tā cenšas uzlabot aizsargmargas nelaimē nonākušiem lietotājiem, OpenAI koplietots sīkāka informācija par savu darbu ar 170 garīgās veselības ekspertiem, lai uzlabotu to, kā ChatGPT reaģē uz cilvēkiem, kuriem nepieciešams atbalsts. Uzņēmums apgalvo, ka ir par 65–80% samazinājis “atbildes, kas neatbilst mūsu vēlamajai uzvedībai”, un tagad spēj labāk mazināt sarunas un vajadzības gadījumā virzīt cilvēkus uz profesionālu aprūpi un krīzes palīdzības tālruņiem. Tas ir arī pievienojis vairāk “maigu atgādinājumu” veikt pārtraukumus ilgu sesiju laikā. Protams, tas nevar likt lietotājam sazināties ar atbalsta dienestu, kā arī nebloķēs piekļuvi, lai piespiestu pārtraukt.
Uzņēmums arī publicēja datus par to, cik bieži cilvēki saskaras ar garīgās veselības problēmām, sazinoties ar ChatGPT, šķietami, lai uzsvērtu, cik mazu procentuālo daļu no kopējā lietojuma veido šīs sarunas. Saskaņā ar uzņēmuma rādītājiem “0,07% lietotāju, kas ir aktīvi konkrētajā nedēļā, un 0,01% ziņojumu norāda uz iespējamām garīgās veselības avārijas pazīmēm, kas saistītas ar psihozi vai māniju.” Tas ir aptuveni 560 000 cilvēku nedēļā, pieņemot, ka paša uzņēmuma lietotāju skaits ir pareizs. Uzņēmums arī apgalvoja katru nedēļu apstrādāt aptuveni 18 miljardus ziņojumu uz ChatGPT, tādējādi 0,01% atbilst 1,8 miljoniem ziņojumu par psihozi vai māniju.
Viena no citām uzņēmuma galvenajām jomām, kurā uzsvars tika likts uz drošību, bija uzlabot atbildes reakciju uz lietotājiem, kuri izsaka vēlmi kaitēt sev vai izdarīt pašnāvību. Saskaņā ar OpenAI datiem aptuveni 0,15% lietotāju nedēļā izsaka “tiešus potenciālas pašnāvības plānošanas vai nodoma rādītājus”, kas veido 0,05% ziņojumu. Tas būtu aptuveni 1,2 miljoni cilvēku un deviņi miljoni ziņojumu.
Pēdējā joma, uz kuru uzņēmums koncentrējās, cenšoties uzlabot savu reakciju uz garīgās veselības jautājumiem, bija emocionālā paļaušanās uz AI. OpenAI lēš, ka aptuveni 0,15% lietotāju un 0,03% ziņojumu nedēļā “norāda uz potenciāli paaugstinātu emocionālās pieķeršanās līmeni ChatGPT”. Tas ir 1,2 miljoni cilvēku un 5,4 miljoni ziņojumu.
OpenAI pēdējos mēnešos ir veikusi pasākumus, lai mēģinātu nodrošināt labākas aizsargmargas, lai aizsargātu pret iespējamību, ka tā tērzēšanas robots nodrošina vai pasliktina personas garīgās veselības problēmas pēc 16 gadus veca jaunieša nāves, kurš saskaņā ar nelikumīgas nāves prāva no vēlīnā pusaudža vecākiem lūdza ChatGPT padomu, kā piesiet cilpu pirms atņemšanas sev. Taču tā patiesumu ir vērts apšaubīt, ņemot vērā, ka tajā pašā laikā uzņēmums paziņoja par jaunām, ierobežojošākām tērzēšanas iespējām nepilngadīgajiem lietotājiem, kā arī paziņoja, ka tas ļaus pieaugušajiem piešķirt ChatGPT vairāk personības un iesaistīties tādās lietās kā erotikas veidošanās — funkcijas, kas šķietami palielinātu cilvēka emocionālo pieķeršanos un paļaušanos uz tērzēšanas robotu.
