Sanfrancisko – Mākslīgā intelekta tērzēšanas robotu veidotāji Openai un Meta saka, ka viņi pielāgo to, kā viņu tērzēšanas roboti reaģē uz pusaudžiem un citiem lietotājiem, uzdodot jautājumus par pašnāvību vai parādot garīgas un emocionālas ciešanas pazīmes.
Chatgpt veidotājs Openai otrdien sacīja, ka tā gatavojas Izpildiet jaunas vadības ierīces ļaujot vecākiem sasaistīt savus kontus ar pusaudža kontu.
Vecāki var izvēlēties, kuras funkcijas atspējot un “saņemt paziņojumus, kad sistēma atklāj viņu pusaudzi, ir akūtas briesmu brīdis”, teikts uzņēmuma emuāra ziņojumā, kurā teikts, ka izmaiņas stāsies spēkā šoruden.
Neatkarīgi no lietotāja vecuma, uzņēmums saka, ka tā tērzēšanas roboti novirzīs visvairāk satraucošākās sarunas uz spējīgākiem AI modeļiem, kas var sniegt labāku reakciju.
Redaktora piezīme – šajā stāstā ietilpst pašnāvības diskusija. Ja jums vai kādam jūsu pazīstamam palīdzība ir nepieciešama, Nacionālā pašnāvības un krīzes glābšanas līnija ASV ir pieejama, zvanot vai sūtot īsziņas 988.
Paziņojums nāk nedēļu pēc tam, kad 16 gadus vecā Ādama Raiņa vecāki iesūdzēja Openai un tā izpilddirektoru Samu Altmanu, apgalvojot, ka Chatgpt apmācīja Kalifornijas zēnu, plānojot un paņemot savu dzīvi šī gada sākumā.
Meta, Instagram, Facebook un WhatsApp mātes uzņēmums, arī sacīja, ka tas tagad bloķē savus tērzēšanas robotus no sarunām ar pusaudžiem par paškaitējumu, pašnāvību, nesakārtotu ēšanu un neatbilstošām romantiskām sarunām un tā vietā virza viņus uz ekspertu resursiem. Meta jau piedāvā vecāku kontroli pusaudžu kontos.
Izšķirt Pētījums, kas publicēts pagājušajā nedēļā Medicīnas žurnālā Psihiatriskie pakalpojumi atklāja neatbilstības, kā trīs populārie mākslīgā intelekta tērzēšanas roboti reaģēja uz jautājumiem par pašnāvību.
Rand Corporation pētnieku pētījumā tika atklāta vajadzība pēc “turpmākas precizēšanas” Chatgpt, Google Gemini un Anthropic’s Claude. Pētnieki nemācīja Meta tērzēšanas robotus.
Pētījuma vadošais autors Raiens Makbains otrdien sacīja, ka “tas ir iepriecinoši redzēt Openai un Meta ieviest tādas funkcijas kā vecāku kontrole un maršrutēt jutīgas sarunas ar spējīgākiem modeļiem, taču tie ir pakāpeniski pasākumi.”
“Bez neatkarīgiem drošības etaloniem, klīniskajām pārbaudēm un izpildāmajiem standartiem mēs joprojām paļaujamies uz uzņēmumiem, lai pašregulētu telpā, kur pusaudžu riski ir unikāli augsti,” sacīja Randa vecākais politikas pētnieks Makbains.
