Openai ierobežos to, kā Chatgpt reaģē uz lietotāju, kuram ir aizdomas, ka tas ir jaunāks par 18 gadiem, ja vien lietotājs nodod uzņēmuma vecuma novērtēšanas tehnoloģiju vai nesniedz ID, pēc tam, kad ir likumīgas darbības no 16 gadus vecas ģimenes, kurš sevi nogalināja aprīlī pēc mēnešiem ilgas sarunas ar tērzētavu.
Openai prioritizēja “drošību pirms pusaudžu privātuma un brīvības”, sacīja izpilddirektors Sems Altmans emuāra ziņa Otrdien, norādot, ka “nepilngadīgajiem ir nepieciešama ievērojama aizsardzība.
Uzņēmums sacīja, ka veids, kā Chatgpt reaģē uz 15 gadus vecu cilvēku, vajadzētu izskatīties savādāk nekā tas, kā tas reaģē uz pieaugušo.
Altmans sacīja, ka Openai plāno izveidot vecuma prognozes sistēmu, lai novērtētu vecumu, pamatojoties uz to, kā cilvēki izmanto Chatgpt, un, ja rodas šaubas, sistēma noklusē pieredzi līdz 18 gadu vecumam. Viņš sacīja, ka dažiem lietotājiem “dažos gadījumos vai valstīs” var arī lūgt sniegt ID, lai pārbaudītu viņu vecumu.
“Mēs zinām, ka tas ir privātuma kompromiss pieaugušajiem, bet uzskatām, ka tas ir cienīgs kompromiss.”
Tas, kā Chatgpt reaģē uz kontiem, kas identificēti kā jaunāki par 18 gadiem, mainīsies, sacīja Altmans. Grafiskais seksuālais saturs tiks bloķēts. Tas tiks apmācīts, lai flirtētu, ja to prasīs līdz 18 gadu vecumam, vai arī iesaistīties diskusijās par pašnāvību vai paškaitējumu pat radošajā rakstīšanā.
“Un, ja lietotājam līdz 18 gadu vecumam ir pašnāvības idejas, mēs mēģināsim sazināties ar lietotāja vecākiem un, ja nespēsit, sazināsies ar varas iestādēm nenovēršama kaitējuma gadījumā.
“Šie ir sarežģīti lēmumi, bet pēc sarunas ar ekspertiem tas ir tas, kas, mūsuprāt, ir vislabākais un vēlamies būt caurspīdīgs ar mūsu nodomiem,” sacīja Altmans.
Openai atzina, ka augustā tās sistēmas varētu atpalikt, un tā pēc 16 gadus vecā Kalifornijas Adam Raine ģimenes uzstādīs spēcīgākas apsardzes, kas ap jutīgu saturu, iesūdzēja tiesā uzņēmumu pēc pusaudža nāves.
Ģimenes advokāts sacīja, ka Ādams nogalināja sevi pēc “mēnešiem ilgiem Chatgpt pamudinājumiem”, un ģimene apgalvo, ka GPT 4O ir “steidzies uz tirgu…, neskatoties uz skaidrām drošības jautājumiem”.
Pēc ASV tiesas pieteikumiem, Chatgpt, domājams, vadīja Ādamu par to, vai viņa paša dzīvības uzņemšana darbosies, kā arī piedāvāja palīdzēt uzrakstīt pašnāvības piezīmi saviem vecākiem.
Openai iepriekš paziņoja, ka tā pārbauda tiesas pieteikumu. Guardian vērsās pie Openai, lai komentētu.
Ādams apmainījās līdz 650 ziņojumiem dienā ar Chatgpt, tiesa iesniedza prasības. Emuāra ierakstā pēc tiesas prāvas Openai atzina, ka tās aizsardzības pasākumi ticamāk darbojas īsās apmaiņā, un pēc daudziem ziņojumiem ilgā laika posmā Chatgpt var piedāvāt atbildi “kas ir pretrunā ar mūsu aizsardzības pasākumiem”.
Uzņēmums otrdien paziņoja, ka tas arī izstrādā drošības funkcijas, lai nodrošinātu, ka dati, kas koplietoti ar Chatgpt, ir privāti pat no Openai darbiniekiem. Altmans arī sacīja, ka pieaugušie lietotāji, kuri vēlas “koķetīgu sarunu” ar Chatgpt, to varētu iegūt. Pieaugušie lietotāji nevarētu lūgt norādījumus par to, kā sevi nogalināt, bet var lūgt palīdzību, rakstot izdomātu stāstu, kas attēlo pašnāvību.
“Izturieties pret pieaugušajiem kā pieaugušajiem,” Altmans sacīja par uzņēmuma principu.
