Openai pievienojas citiem tehnoloģiju uzņēmumiem, kas ir izmēģinājuši viņu pakalpojumu jauniešiem specifiskas versijas. YouTube Kids, Instagram pusaudžu konti un Tiktok ierobežojumi jaunāki par 16 gadiem ir līdzīgi centieni radīt “drošākas” digitālās telpas jauniem lietotājiem, bet pusaudži regulāri apiet vecuma pārbaudi, izmantojot viltus dzimšanas datuma ierakstus, aizņemtus kontus vai tehniskus risinājumus. 2024. gada BBC ziņojums nodibināt ka 22 procenti bērnu atrodas sociālo mediju platformās par 18 gadu vecumu.
Privātums pret drošības kompromisiem
Neskatoties uz nepierādīto tehnoloģiju aiz AI vecuma noteikšanas, Openai joprojām plāno turpināt savu sistēmu, atzīstot, ka pieaugušie upurēs privātumu un elastību, lai tā darbotos. Altmans atzina, ka tas rada spriedzi, ņemot vērā AI mijiedarbības intīmo raksturu.
“Cilvēki runā ar AI par aizvien personīgām lietām; tas atšķiras no iepriekšējām paaudzēm tehnoloģiju jomā, un mēs uzskatām, ka tie var būt viens no personīgi jutīgākajiem kontiem, kāds jums jebkad ir bijis,” savā amatā rakstīja Altmans.
Drošības spiediens seko Openai atzinībai augustā, ka Chatgpt drošības pasākumi var sadalīties ilgstošu sarunu laikā – būtiski, kad neaizsargātiem lietotājiem tie varētu būt nepieciešami visvairāk. “Pieaugot turp un atpakaļ, modeļa drošības apmācības daļas var pasliktināties,” tolaik rakstīja uzņēmums, atzīmējot, ka, lai gan ChatGPT varētu pareizi novirzīt lietotājus uz pašnāvību karstajām līnijām, “pēc daudziem ziņojumiem ilgā laika posmā tas galu galā varētu piedāvāt atbildi, kas ir pretrunā ar mūsu drošības pasākumiem.”
Šī aizsardzības pasākumu degradācija izrādījās traģiski izrietoša Adam Raine lietā. Saskaņā ar tiesas prāvu, Chatgpt pieminēja pašnāvību 1 275 reizes sarunās ar Ādamu – seškārtīgāku laiku nekā pats pusaudzis -, kamēr sistēmas drošības protokoli nevienam neiejaucas vai paziņoja. Stenfordas universitātes pētnieki jūlijā atklāja, ka AI terapijas robotprogrammatūras var sniegt bīstamus garīgās veselības konsultācijas, un jaunākajos ziņojumos ir dokumentēti gadījumi, kad neaizsargāti lietotāji izstrādā to, ko daži eksperti neformāli sauc par “AI psihozi” pēc paplašinātas tērzēšanas robota mijiedarbības.
Openai nerunāja par to, kā vecuma prognozēšanas sistēma apstrādā esošos lietotājus, kuri ir izmantojuši ChatGpt bez vecuma pārbaudes, vai sistēma attieksies uz API piekļuvi, vai kā tā plāno pārbaudīt vecumu jurisdikcijās ar dažādām juridiskām definīcijām pieauguša vecumā.
Visi lietotāji, neatkarīgi no vecuma, turpinās redzēt atgādinājumus lietotnē garās Chatgpt sesijās, kas mudina veikt pārtraukumus-funkciju Openai ieviests šī gada sākumā Pēc ziņojumiem par lietotājiem, kas pavada maratona sesijas ar tērzēšanas robotu.
