Federālā tirdzniecības komisija ir sākusi izmeklēšanu par vairākiem sociālo mediju un mākslīgā inteliģences uzņēmumiem, ieskaitot Openai un Meta, par iespējamo kaitējumu bērniem un pusaudžiem, kuri izmanto savus tērzēšanas robotus kā pavadoņus.
Ceturtdien FTC minētais Tas ir nosūtījis vēstules Google Mother or father Alphabet, Fb un Instagram Mother or father Meta platformām, SNAP, Rakstzīmju tehnoloģijām, Chatgpt Maker Openai un XAI.
FTC paziņoja, ka vēlas saprast, kādi pasākumi, ja tādi ir, ir veikuši, lai novērtētu savu tērzēšanas robotu drošību, darbojoties kā biedriem, ierobežot produktu izmantošanu un iespējamu negatīvu ietekmi uz bērniem un pusaudžiem, kā arī informēt lietotājus un riskus, kas saistīti ar tērzēšanas robotiem.
Izmeklēšana notiek pēc tam, kad Openai to teica plāno veikt izmaiņas Lai Chatgpt aizsargātu aizsardzības pasākumus neaizsargātiem cilvēkiem, ieskaitot papildu aizsardzības pievienošanu tiem, kas jaunāki par 18 gadiem, pēc pusaudža zēna vecākiem, kuri nomira ar pašnāvību aprīlī, iesūdzēja tiesā, apgalvojot, ka mākslīgā inteliģences tērzēšana lika pusaudzim paņemt savu dzīvību.
Vairāk bērnu tagad ir Izmantojot AI tērzēšanas robotus visam -Sākot ar mājasdarbu palīdzību līdz personiskam padomam, emocionālam atbalstam un ikdienas lēmumu pieņemšanai. Tas ir neskatoties uz pētījumiem par tērzēšanas robotu kaitējumu, kas ir pierādīts, ka tie dod bērniem Bīstams padoms par tādām tēmām kā narkotikas, alkohols un ēšanas traucējumi.
“Attīstoties AI tehnoloģijām, ir svarīgi apsvērt iespēju, ko Chatbots var būt uz bērniem, vienlaikus nodrošinot, ka Amerikas Savienotās Valstis saglabā savu lomu kā pasaules līdere šajā jaunajā un aizraujošajā nozarē,” paziņojumā sacīja FTC priekšsēdētājs Endrjū N. Fergusons.
Viņš piebilda: “Pētījums, kuru mēs šodien sākam, palīdzēs mums labāk izprast, kā AI firmas izstrādā savus produktus un pasākumus, ko viņi veic, lai aizsargātu bērnus.”
Paziņojumā CBS Information raksturs.ai sacīja, ka tā cer “sadarboties ar FTC par šo izmeklēšanu un sniegt ieskatu patērētāju AI nozarē un kosmosa strauji attīstītajā tehnoloģijā”.
Meta atteicās komentēt FTC izmeklēšanu. Uzņēmums ir strādājis pie tā, lai pārliecinātos, ka AI tērzēšanas roboti ir droši un vecāki bērniem, sacīja pārstāvis.
Openai sacīja, ka tas ir prioritāte “padarīt Chatgpt noderīgu un drošu visiem, un mēs zinām, ka jaunieši ir saistīti ar drošības jautājumiem. Mēs atzīstam, ka FTC ir atklāti jautājumi un bažas, un mēs esam apņēmušies konstruktīvi iesaistīties un reaģēt uz viņiem tieši”.
E -pastā CBS Information Snap sacīja: “Mēs dalāmies FTC koncentrēšanās uz to, lai nodrošinātu pārdomātu ģeneratīvās AI attīstību, un ceram sadarboties ar AI politikas komisiju, kas mūs veicina jauninājumus, vienlaikus aizsargājot mūsu kopienu.”
Alfabēts un XAI nekavējoties neatbildēja uz komentāriem.
AI izmaiņas
Openai un Meta šomēnes paziņoja par izmaiņām, kā viņu tērzēšanas roboti reaģē uz pusaudžiem, uzdodot jautājumus par pašnāvību vai parādot garīgas un emocionālas ciešanas pazīmes. Openai teica, ka tā ir Jaunu vadības ierīču ieviešana ļaujot vecākiem sasaistīt savus kontus ar pusaudža kontu.
Vecāki var izvēlēties, kuras funkcijas atspējot un “saņemt paziņojumus, kad sistēma atklāj viņu pusaudzi, ir akūtas briesmu brīdis”, teikts uzņēmuma emuāra ziņojumā, kurā teikts, ka izmaiņas stāsies spēkā šoruden.
Neatkarīgi no lietotāja vecuma, uzņēmums saka, ka tā tērzēšanas roboti mēģinās novirzīt visvairāk satraucošākās sarunas ar spējīgākiem AI modeļiem, kas var sniegt labāku reakciju.
Meta arī sacīja, ka tas tagad bloķē savus tērzēšanas robotus, runājot ar pusaudžiem par paškaitējumu, pašnāvību, nesakārtotu ēšanu un neatbilstošām romantiskām sarunām, tā vietā virza viņus uz ekspertu resursiem. Meta jau piedāvā vecāku kontroli pusaudžu kontos.
Ja jūs vai kāds, kuru jūs pazīstat, ir emocionālas ciešanas vai pašnāvības krīze 988 Pašnāvību un krīzes glābšanas līnija Zvanot vai sūtot īsziņas 988. Varat arī tērzēt ar 988 Suicide & Disaster Lifeline šeitApvidū
Lai iegūtu vairāk informācijas par Garīgās veselības aprūpes resursi un atbalstsNacionālo aliansi par garīgo slimību palīdzības līniju var sasniegt no pirmdienas līdz piektdienai, plkst.
