Openai veido vecuma verifikācijas sistēmu Chatgpt pusaudžu drošībai

Openai otrdien (2025. gada 17. septembrī) paziņoja, ka tā veido vecuma prognozēšanas sistēmu, kas var novērtēt Chatgpt lietotāju vecumu kā daļu no jauniem uzlabotiem pasākumiem pusaudžu drošībai. Chatgpt arī ieviesīs apsardzes pasākumus, kas saistīti ar diskusijām par pašnāvību vai paškaitējumu nepilngadīgo lietotājiem.

Ja AI Chatbot identificē nepietiekama vecuma lietotāju, tas liegs visas sarunas, kas ir “koķetīgas”, kuras pamatā ir “pašnāvība vai paškaitējums, pat radoša rakstīšanas iestatījumā”, sacīja Openai izpilddirektora Sema Altmana iesūtītā emuāra.

Gadījumā, ja vecuma prognozēšanas sistēma neizdodas noteikt lietotāja vecumu, Chatgpt pieturēsies pie pieredzes līdz 18 gadiem kā noklusējuma. Tikmēr dažos gadījumos vai valstīs tas varētu lūgt ID. “Mēs zinām, ka tas ir privātuma kompromiss pieaugušajiem, bet uzskatām, ka tas ir cienīgs kompromiss,” paziņoja Altmans.

Ja Chatbot redzēja, ka lietotājam līdz 18 gadu vecumam ir domas par pašnāvību, viņi sazināsies ar lietotāju vecākiem un, ja tas nebija iespējams, Openai sazināsies ar iestādēm.

“Mēs saprotam, ka šie principi ir konfliktā, un ne visi piekritīs tam, kā mēs atrisinām šo konfliktu,” atzīmēja Altmans. “Šie ir sarežģīti lēmumi, bet pēc sarunas ar ekspertiem tas ir tas, kas, mūsuprāt, ir vislabākais un vēlamies būt caurspīdīgs mūsu nodomos,” viņš piebilda.

Šā mēneša sākumā Federālā tirdzniecības komisija uzsāka izmeklēšanu par to, kā AI tērzēšanas roboti, kurus veidojuši tehnoloģiju uzņēmumi, potenciāli ietekmēja bērnus un pusaudžus nelabvēlīgi.

Openai sacīja, ka viņi izvērsīs vecāku kontroli uz Chatgpt pēc tam, kad tika iesniegta tiesas prāva, kuru iesniedza ģimene, kas apgalvoja, ka AI tērzēšanas rādītājs ir atbildīgs par viņu pusaudža dēla pašnāvību.