Tērzēšanas roboti ģenerētu riskantus attēlus, ja to pieprasa lietotāji, ieskaitot ballīšu slavenību attēlus vai apakšveļas nēsāšanu. Viņi arī veiktu seksuālu progresu vai piedāvātu tikties reālajā dzīvē.
Zuckerberg uzņēmums ir virzījis meta AI rīkus – līdzīgi ChatGpt – uz sociālo mediju giganta miljardiem lietotāju, pievienojot tos Fb, WhatsApp un Instagram. Uzņēmums ir apgalvojis, ka savus AI rīkus tagad izmanto vairāk nekā viens miljards cilvēku.
Lietotāji var izmantot Meta AI, lai izveidotu un publiski koplietotu pielāgotus iemiesojumus, piemēram, digitālos terapeitus vai draudzenes. Daudzi tos ir izmantojuši, lai izveidotu kontus, kas uzdodas par slavenībām, bez viņu atļaujas.
Meta AI pārstāvis sacīja, ka tērzēšanas robotiem nevajadzēja radīt seksualizētus reālu cilvēku vai bērnu attēlus.
“Tāpat kā citi, mēs atļaujam attēlu ģenerēšanu, kas satur sabiedriskas personas, wager mūsu politika ir paredzēta, lai aizliegtu plikus, intīmus vai seksuāli ierosinošus attēlus,” sacīja pārstāvis.
Tehnoloģiju gigants izdzēsa vairākus kontus pēc tam, kad tie tika atzīmēti uzņēmumā.
Pēc tam, kad parādījušies noplūdušie iekšējie dokumenti, Meta ir saskārusies ar pieaugošu kritiku, kas liecināja, ka tā tērzēšanas robotiem ir brīvi iegravēt “romantiskas vai jutekliskas” sarunas ar bērniem.
Vadlīnijas aizliedza tā tērzēšanas robotiem aprakstīt “seksuālas darbības bērnam, kad tiek atskaņota lomu spēlē”, wager ļāva citām romantiskām tērzēšanas sarunām un AI “aprakstīt bērnu, kas pierāda viņu pievilcību”.
Noplūde ir pamudinājusi veikt ASV senatora izmeklēšanu, pieaugot dusmām par tehnoloģiju giganta rekordu par bērnu drošību.
Džošs Havlijs, republikāņu senators, pagājušajā mēnesī sacīja: “Es sāku pilnu izmeklēšanu, lai saņemtu atbildes. Lielās tehnoloģijas: atstājiet mūsu bērnus mierā.”
Pagājušajā nedēļā Meta paziņoja, ka ir atjauninājis savus AI tērzēšanas robotu noteikumus, lai bloķētu tos iesaistīties potenciāli nepiemērotās sarunās ar bērniem, un piebilda, ka tas ierobežos bērnus ar sarunām ar “atlasītu AI rakstzīmju grupu”.
Pierakstieties uz Herald Premium redaktora izvēlēmkatru piektdienu piegādāts tieši uz jūsu iesūtni. Galvenais redaktors Murray Kirkness izvēlas nedēļas labākās funkcijas, intervijas un izmeklēšanu. Pierakstieties uz Herald Premium šeitApvidū
