Otrdien Openai paziņots Plāno ieviest vecāku kontroli ChatGpt un Maršrutētās garīgās veselības sarunās ar simulētajiem spriešanas modeļiem, ievērojot to, ko uzņēmums ir dēvējis par “sirdi plosošiem gadījumiem” lietotājiem, kuri piedzīvo krīzes, izmantojot AI palīgu. Pārcelšanās notiek pēc vairākiem paziņotajiem gadījumiem, kad Chatgpt it kā neizdevās atbilstoši iejaukties, kad lietotāji pauda domas par pašnāvību vai piedzīvoja garīgās veselības epizodes.
“Šis darbs jau ir veikts, bet mēs vēlamies proaktīvi priekšskatīt savus plānus nākamajām 120 dienām, tāpēc jums nevajadzēs gaidīt palaišanu, lai redzētu, kur mēs dodamies,” Openai rakstīja otrdien publicētajā emuāra ierakstā. “Darbs turpināsies krietni pēc šī laika perioda, bet mēs centāmies centīgi uzsākt pēc iespējas vairāk no šiem uzlabojumiem šogad.”
Plānotā vecāku kontrole atspoguļo Openai konkrētāko reakciju uz bažām par pusaudžu drošību uz līdz šim platformā. Nākamās mēneša laikā, pēc Openai saka, vecāki varēs saistīt savus kontus ar pusaudžu Chatgpt kontiem (minimālais vecums 13), izmantojot e-pasta ielūgumus, kontrolēt, kā AI modelis reaģē ar vecumam atbilstošiem uzvedības noteikumiem, kas notiek pēc noklusējuma, pārvaldīt, kuras funkcijas atspējot (ieskaitot tērzēšanas vēsturi), un saņem paziņojumus, kad sistēma atklāj viņu pusaudzi, kas ir nepilnīgi.
Vecāku vadības ierīces balstās uz esošajām funkcijām, piemēram, atgādinājumiem lietotnē garās sesijās, kas mudina lietotājus veikt pārtraukumus, kurus Openai augustā izplatīja visiem lietotājiem.
Augsta profila gadījumi tūlītējas izmaiņas drošības dēļ
Openai jaunā drošības iniciatīva pienāk pēc vairākiem augsta līmeņa gadījumiem, kuri pārbaudīja, vai Chatgpt rīkojas ar neaizsargātiem lietotājiem. Augustā Metjū un Marija Raiņa iesniedza prasību pret Openai pēc tam, kad viņu 16 gadus vecais dēls Ādams nomira ar pašnāvību pēc plašas Chatgpt mijiedarbības, kas ietvēra 377 ziņojumus, kas apzīmēti ar paškaitējuma saturu. Saskaņā ar tiesas dokumentiem, Chatgpt pieminēja pašnāvību 1 275 reizes sarunās ar Ādamu – seškārtīgākas nekā paša pusaudze. Pagājušajā nedēļā The Wall Street Journal ziņots ka 56 gadus vecais vīrietis nogalināja savu māti un sevi pēc tam, kad Čatps pastiprināja viņa paranojas maldus, nevis izaicināja tos.
Lai vadītu šos drošības uzlabojumus, Openai sadarbojas ar to, ko tā sauc par labklājības ekspertu padomi un AI, lai “veidotu skaidru, uz pierādījumiem balstītu redzējumu par to, kā AI var atbalstīt cilvēku labklājību”, teikts uzņēmuma emuāra ziņojumā. Padome palīdzēs definēt un izmērīt labklājību, noteikt prioritātes un izstrādāt nākotnes aizsardzības pasākumus, ieskaitot vecāku kontroli.
