META ir aizdedzinājis ugunsgrēku pēc tam, kad uzņēmums izveidoja tērzēšanas robotus, un tā lietotāji uzdodās par Teiloru Sviftu un citām slavenībām visā Fb, Instagram un WhatsApp bez viņu atļaujas.
Uzņēmuma akcijas jau ir samazinājušās par vairāk nekā 12% pēc stundām tirdzniecībā, jo ziņas par debašu izplatību.
Skārleta Johansone, Anne Hathaway un Selena Gomez tika ziņots arī uzdošanās.
Daudzas no šīm AI personām iesaistījās koķetīgās vai seksuālās sarunās, izraisot nopietnas bažas, Reuters ziņojumiApvidū
Kaut arī daudzi no slavenību robotprogrammatūrām tika ģenerēti lietotājiem, Reuters atklāja, ka meta darbinieks ir personīgi izstrādājis vismaz trīs.
Tie ietver divus, kas ar Taylor Swift. Pirms noņemšanas šie robotprogrammatūras ir uzkrājuši vairāk nekā 10 miljonus lietotāju mijiedarbību, Reuters atrada.
Neatļauta līdzība, nikna fanu bāze
“Parodiju” aizsegā robotprogrammatūras pārkāpa Meta politiku, it īpaši tā uzdošanās aizliegums un seksuāli ierosinoši attēli. Daži uz pieaugušiem orientēti robotprogrammatūras pat izgatavotas fotoreālistiskas bildes slavenību apakšveļā vai vannā, un tērzēšanas robots, kas pārstāv 16 gadus vecu aktieri, ģenerēja neatbilstošu attēlu bez krekliem.
Meta pārstāvis Andijs Akmens sacīja Reuters, ka uzņēmums piedēvē pārkāpumu izpildes neveiksmēm un apliecināja, ka uzņēmums plāno pastiprināt vadlīnijas.
“Tāpat kā citi, mēs ļaujam ģenerēt attēlu veidošanu, kas satur sabiedriskas personas, guess mūsu politika ir paredzēta, lai aizliegtu plikus, intīmus vai seksuāli ierosinošus attēlus,” viņš teica.
Juridiski riski un nozares trauksme
Neatļauta slavenību līdzību izmantošana rada juridiskas problēmas, jo īpaši saskaņā ar valsts tiesību likumiem. Stenfordas tiesību profesors Marks Lemlijs atzīmēja robotus Iespējams, ka līniju šķērsoja nepieļaujamā teritorijā, jo tās nebija pietiekami pārveidojošas, lai nopelnītu tiesisko aizsardzību.
Jautājums ir daļa no plašākas ētiskas dilemmas ap AI ģenerētu saturu. SAG-AFTRA pauda bažas par reālās drošības sekām, it īpaši, ja lietotāji veido emocionālu pieķeršanos šķietami reālām digitālām personām.
Meta akti, guess nokrišņi turpinās
Reaģējot uz sašutumu, Meta noņēma šo robotu partiju neilgi pirms Reuters publiskos atklājumus.
Vienlaicīgi uzņēmums paziņoja par jauniem aizsardzības pasākumiem, kuru mērķis ir aizsargāt pusaudžus no neatbilstošas tērzēšanas robotu mijiedarbības. Uzņēmums sacīja, ka tas ietver savas sistēmu apmācību, lai izvairītos no romantikas, paškaitējuma vai pašnāvības tēmām ar nepilngadīgajiem un īslaicīgi ierobežotu pusaudžu piekļuvi noteiktām AI rakstzīmēm.
ASV likumdevēji sekoja šim piemēram. Senators Džošs Havlijs ir uzsācis izmeklēšanu, pieprasot iekšējos dokumentus un riska novērtējumus par AI politiku, kas ļāva romantiskām sarunām ar bērniem.
Traģēdija reālās pasaules sekās
Viens no vēsākajiem rezultātiem bija 76 gadus vecs vīrietis ar kognitīvo pagrimumu, kurš nomira pēc mēģinājuma tikties ar “Huge Sis Billie”, Meta AI tērzētavu, kas veidots pēc Kendall Jenner.
Uzskatot, ka viņa ir īsta, vīrietis devās uz Ņujorku, nāvējoši nokrita netālu no dzelzceļa stacijas un vēlāk nomira no savainojumiem. Iekšējās vadlīnijas, kas savulaik ļāva šādiem robotprogrammatūrām simulēt romantiku – pat ar nepilngadīgajiem -, tika pārbaudīta Meta pieeja.
