Follow zdnet: Add us as a preferred source on Google.
ZDNET’s major takeovers
- The FTC is investigating seven tech companies that are building AI companions.
- The probe examines the safety risks posed to children and adolescents.
- Many technology companies offer AI companions to boost user engagement.
The Federal Trade Commission (FTC) is investigating the safety risks posed by AI companions to children and teens, the agency announced Thursday.
Federālais regulators iesniedza pasūtījumus septiņiem tehnoloģiju uzņēmumiem, kas veido patērētājus vērstus AI biedrības rīkus-alfabēts, Instagram, Meta, Openai, Snap, XAI un rakstzīmju tehnoloģijas (uzņēmums, kas atrodas aiz tērzēšanas izveides platformas rakstura.ai)-lai sniegtu informāciju, kas ieskicē, kā tiek izstrādāti viņu rīki un ieguvumi, kā arī šie rīki, kas ir saistīti ar cilvēkiem, kas ir zemāki par cilvēkiem, kā arī jebkura drošības testa pasākumi, kas ir paredzēti, lai aizsargātu.
Arī: pat Openai izpilddirektors Sems Altmans domā, ka jums nevajadzētu uzticēties AI terapijā
“FTC izmeklēšanas mērķis ir saprast, kādi pasākumi, ja tādi ir, uzņēmumi ir veikuši, lai novērtētu savu tērzēšanas robotu drošību, darbojoties kā biedriem, ierobežot produktu izmantošanu un iespējamu negatīvu ietekmi uz bērniem un pusaudžiem, kā arī informēt ar produktiem saistīto risku lietotājiem un vecākiem,” aģentūra rakstīja paziņojumā.
Šie rīkojumi tika izdoti saskaņā ar FTC likuma 6. panta b) punktu, kas aģentūrai piešķir pilnvaras pārbaudīt uzņēmumus bez īpaša tiesībaizsardzības nolūkā.
AI pavadoņu celšanās un kritums (ārā)
Daudzi tehnoloģiju uzņēmumi ir sākuši piedāvāt AI biedrības rīkus, cenšoties gūt peļņu no ģeneratīvajām AI sistēmām un veicināt lietotāju iesaistīšanos esošajās platformās. Meta dibinātājs un izpilddirektors Marks Zuckerbergs ir pat apgalvots Tas, ka šie virtuālie pavadoņi, kas izmanto tērzēšanas robotus, lai reaģētu uz lietotāju vaicājumiem, varētu palīdzēt mazināt vientulības epidēmiju.
Elona Muska Xai nesen uzņēmuma abonēšanas līmenī pievienoja divus koķetīgos AI kompanjonus uzņēmuma USD 30 mēnesī “Super Grok” (Grok lietotne šobrīd ir pieejams lietotājiem, kas vecāki par 12 gadiem, App Store). Pagājušajā vasarā sākās meta funkcijas izvilkšana Tas lietotājiem ļauj izveidot pielāgotas AI rakstzīmes Instagram, WhatsApp un Messenger. Citas platformas, piemēram, replika, paradot un raksturs.ai, ir skaidri veidotas ap AI kompanjonu izmantošanu.
Arī: Antropic saka, ka Klods palīdz emocionāli atbalstīt lietotājus – mēs neesam pārliecināti
Kamēr tie atšķiras ar komunikācijas stilu un protokolu, AI kompanjoni parasti tiek izstrādāti, lai atdarinātu cilvēka runu un izteiksmi. Darbs tajā, kas būtībā ir normatīvais vakuums, ar ļoti maziem likumīgiem apsardzes līdzekļiem, lai tos ierobežotu, daži AI uzņēmumi ir izvēlējušies ētiski apšaubāmu pieeju virtuālo kompanjonu celtniecībai un izvietošanai.
Iekšējā politikas piezīme no Meta ziņo par Reuters Piemēram, pagājušajā mēnesī parādīts, ka uzņēmums atļāva Meta AI, tā AI darbināto virtuālo asistentu un pārējos tērzēšanas robotus, kas darbojas visā tās lietotņu ģimenē, lai “iesaistītu bērnu romantiskas vai jutekliskas sarunās”, un lai radītu iekaisuma reakciju uz virkni jutīgu tēmu, piemēram, rases, veselības un slavenības.
Tikmēr nesenie ziņojumi par jaunākajiem ziņojumiem, kas izstrādā romantiskas saites ar saviem AI kompanjoniem. Gan Openai, gan Raksture.ai vecāki pašlaik iesūdz tiesā, kuri apgalvo, ka viņu bērni izdarīja pašnāvību pēc tam, kad to mudināja to darīt attiecīgi Chatgpt un robots, kas uzņēmies attiecīgi uz raksturu.ai. Rezultātā Openai atjaunināja Chatgpt apsardzes pasākumus un paziņoja, ka tā paplašinās vecāku aizsardzību un drošības pasākumus.
Arī: pacienti uzticas AI medicīniskajai konsultācijai par ārstiem – pat ja tas nav nepareizi, pētījums atrod
Tomēr AI pavadoņi nav bijuši pilnīgi neapšaubāmi katastrofa. Daži autisti cilvēki, piemēram, ir izmantojuši tos no tādiem uzņēmumiem kā replika un paradot kā virtuālie sarunu partneri Lai praktizētu sociālās prasmes, kuras pēc tam var izmantot reālajā pasaulē kopā ar citiem cilvēkiem.
Aizsargājiet bērnus – bet arī turpiniet veidot
Iepriekšējā priekšsēdētāja Lina Khana vadībā FTC uzsāka vairākus izmeklējumus par tehnoloģiju uzņēmumiem, lai izpētītu potenciāli pret konkurenci un citu juridiski apšaubāmu praksi, piemēram, “Uzraudzības cenu noteikšana.
Otrās Trumpa administrācijas laikā federālā pārbaude par tehnoloģiju nozari ir mierīgāka. Prezidents atcēla sava priekšgājēja izpildrakstu par AI, kas centās īstenot dažus ierobežojumus attiecībā uz tehnoloģijas izvietošanu, un viņa AI rīcības plāns lielā mērā ir interpretēts kā zaļa gaisma, lai nozare varētu virzīties uz priekšu ar dārgu, energo intensīvas infrastruktūras celtniecību, lai apmācītu jaunus AI modeļus, lai saglabātu konkurences malu pār Ķīnas AI centieniem.
Arī: Vai uztraucaties par AI planējošās enerģijas vajadzībām? Izvairīšanās no tērzēšanas robotiem nepalīdzēs – bet 3 lietas varētu
FTC jaunās izmeklēšanas par AI kompanjoniem valoda skaidri atspoguļo pašreizējās administrācijas pieļaujamo, pirmo reizi pieeju AI.
“Bērnu aizsardzība tiešsaistē ir Trump-Vance FTC galvenā prioritāte, tāpat kā veicināt inovācijas kritiskās mūsu ekonomikas nozarēs,” paziņojumā rakstīja aģentūras priekšsēdētājs Endrjū N. Fergusons. “Attīstoties AI tehnoloģijām, ir svarīgi apsvērt iespēju, ko Chatbots var būt uz bērniem, vienlaikus nodrošinot, ka Amerikas Savienotās Valstis saglabā savu lomu kā pasaules līdere šajā jaunajā un aizraujošajā nozarē.”
Arī: es izmantoju šo chatgpt triku, lai meklētu kuponu kodus – un šovakar ietaupīju 25% vakariņās
In the absence of federal regulations, some state officials have taken the initiative to regulate some aspects of the AI industry. Last month, Texas Attorney General Ken Paxson launched an investigation into meta and character.ai “for potentially engaging in deceptive marketing practices and misleadingly marketing themselves as mental health tools.” Earlier that month, Illinois passed a law prohibiting AI chatbots from providing therapeutic or mental health counseling, imposing fines of up to $10,000 for AI companies that fail to comply.
