BBC atklāj surogātpasta izplatītāju tīmekli no AI holokausta attēliem

Starptautisks surogātpasta izplatītāju tīkls Fb ievieto AI ģenerētos holokausta upuru attēlus, atklāja BBC izmeklēšana par “AI Slop”.

Organizācijas, kas veltītas holokausta atmiņas saglabāšanai, teikts, ka attēli atstāj pārdzīvojušos un ģimenes satrauktus.

Viņi ir arī kritizējuši Fb mātesuzņēmumu Meta, sakot, ka tas ļauj lietotājiem tās platformā pārvērst zvērību par “emocionālu spēli”.

Otrā pasaules kara laikā no Aušvicas koncentrācijas nometnes ir tikai nedaudz patiesu fotoattēlu.

Guess pēdējos mēnešos AI surogātpasta izplatītāji ir ievietojuši viltus attēlus, kas, domājams, ir no nometnes iekšpuses, piemēram, ieslodzītais, kurš spēlē vijoli vai mīļotājus, kas sanāk pie žogu robežām – piesaistot desmitiem tūkstošu patīk un akciju.

“Šeit mums ir kāds, kas veido stāstus… par kaut kādu dīvainu emocionālu spēli, kas notiek sociālajos medijos,” sacīja Pawel Sawicki, Aušvicas memoriāla pārstāvis Polijā.

“Šī nav spēle. Šī ir reāla pasaule, reālas ciešanas un reāli cilvēki, kurus mēs vēlamies, un mums ir jāpiemin.”

BBC ir izsekojis daudzus no šiem attēliem uz Pakistānas satura veidotāju tīkla kontiem, kuri cieši sadarbojas, kā nopelnīt naudu Fb. Viņi ir Meta Meta satura monetizācijas (CM) programma, kas ir “tikai ielūguma” sistēma, kas lietotājiem maksā par augsta snieguma saturu un skatiem.

Viens konts ar nosaukumu Abdul Mughes, kas uzskaitīts kā dzīvošana Pakistānā, ievietoja ekrānuzņēmumus, apgalvojot, ka ir nopelnījis USD 20 000, izmantojot sociālo mediju monetizācijas shēmas, ieskaitot Meta’s. Šķiet, ka cita ziņa parāda kontu, kas uzkrāts vairāk nekā 1,2 miljardus skatījumu par saturu četrus mēnešus.

Mēs neesam spējuši patstāvīgi pārbaudīt neviena veidotāja ienākumus.

Starp daudzajiem Fb ierakstiem no Abdul Mughese konta ir vairāki AI radītie fotoattēli ar izdomātiem holokausta upuriem un viltus stāstiem, kas ietvēra bērnu, kas slēpjas zem grīdas dēļiem, vai mazulis, kas atstāts vilcienu sliedēs ārpus koncentrācijas nometnes.

BBC analīze par konta tiešsaistes darbībām un desmitiem citu, piemēram, tas liek domāt, ka viņi ievieto gandrīz tikai “AI Slop”.

Šis termins attiecas uz zemas kvalitātes AI ģenerētiem attēliem un tekstu, ko parasti ražo lielos apjomos un surogātpastu sociālajos medijos.

Aušvics ir kļuvis par populāru tēmu vēstures tematiskajām lapām un grupām. Daži ar tādiem vārdiem kā “Timeless Tales” un “Historical past Haven” izlikās vairāk nekā 50 reizes dienā.

Jūnijā Aušvicas muzejs brīdināja tādus kontus kā šie zagt tās amatus, apstrādājot tos caur AI modeļiem un bieži deformējot vēsturiskas detaļas vai pilnībā izgatavojot stāstījumus un upurus. Fb ierakstā muzejs sacīja, ka šie attēli ir “bīstami kropļojumi”, kas “neciena upurus un uzmācas viņu atmiņai”.

Sawicki kungs sacīja, ka viltus attēlu cunami grauj Aušvicas piemiņas misiju, lai palielinātu izpratni par holokaustu.

“Mēs jau sākām saņemt komentārus savos Fb ierakstos, ka” ak, šī ir AI ģenerēta fotogrāfija “,” viņš teica.

Apgādnieka zaudējuma un ģimenes traucē arī holokausta AI slīpums, norāda organizācija, kas veicina holokausta izglītību un pētniecību.

“Viņi īsti nesaprot, ko viņi redz,” sacīja Dr Roberts Viljamss no Starptautiskā holokausta atceres alianses.

Viņš sacīja, ka holokausta pārdzīvojušie izjūt “zināmu skumju sajūtu, kas tam ir atļauts notikt”, neskatoties uz valdības un filantropisko ieguldījumu izpratnes veidošanā.

“Viņiem šķiet, ka ar viņu centieniem nav bijis pietiekami,” viņš teica.

“Tā ir ļoti skumji, kas jāņem vērā, jo pēdējais no izdzīvojušajiem drīz mūs pametīs.”

Meta ar nodomu nemudina lietotājus ievietot nepatiesus stāstus, ieskaitot par holokaustu, guess tās sistēma apbalvo ziņas ar lielu iesaistīšanos. BBC ir atradis arī AI SLOP kontus, kas atrodas Indijā, Vjetnamā, Taizemē un Nigērijā.

Lai saprastu, kāpēc šie tīkli masveidā ražo īpašus satura veidus, BBC runāja ar Pakistānas vīrieti Fazal Rahman, kurš ir reģistrēts vairākās sociālo mediju satura monetizācijas shēmās un saka, ka šis darbs ir kļuvis par viņa vienīgo ienākumu avotu.

Lai gan viņš saka, ka pats nerada nevienu holokausta attēlu un nezināja, ko šis vārds nozīmēja, kad sākotnēji jautāja, viņš darbojas tajās pašās Fb grupās kā tās, kas to dara.

Rahmans sacīja, ka Fb lapa ar 300 000 sekotāju tā īpašniekam var nopelnīt USD 1000 USD mēnesī, ja tai būtu “premium saturs”, kas nodrošinātu augstākas vērtības auditoriju no Lielbritānijas, ASV un Eiropas. Viņš lēš, ka rietumu uzskati bija astoņas reizes vairāk vērts uz vienu amatu nekā Āzijas.

Viņš sacīja, ka vēsture kā tēma ir uzticams tiešsaistes trafika virzītājspēks.

Šķiet, ka citi veidotāji piekrīt. BBC ir redzējis soli pa solim mācību video par to, kā populāros AI modeļus varētu izmantot, lai ģenerētu nepārtrauktus viltus vēstures attēlus un tekstu.

Vienā videoklipā radītājs lūdza AI tērzētavu uzskaitīt galvenos vēsturiskos notikumus, kurus viņi varētu izmantot par pamatu satura izveidošanai, un tika dots holokausts kā viena no tā atbildēm.

Citi padomi, ko sniedz daži veidotāji, ir padomi, kā maldināt auditoriju, liekot viņu lapai uzdoties par citām vienībām, lai izveidotu auditoriju un kļūtu par tiesīgu saņemt Meta CM programmu.

Fb ir lapas caurspīdīguma funkcija, kas lietotājiem ļauj izsekot iepriekšējiem lapu nosaukumiem. Izmantojot to, BBC atrada daudzas lappuses, kurās bija ievietots holokausta AI Slop, kas savulaik bija virkne dažādu vienību, ieskaitot oficiālās ugunsdzēsības departamentus ASV, komerciālos uzņēmumos un amerikāņu ietekmētājus – tas viss bez viņu piekrišanas.

Šīs lapas, pēc veidotāju publiskajām amatiem, var arī pārdot vai īrēt tiem, kas vēlas ielauzties satura veidotāju tirgū.

BBC jautāja Meta par vairākiem profiliem, kas bija ievietojuši holokausta tematiku AI saturu un, šķiet, arī ir iesaistījušies maldinošā praksē.

Vairāki no profiliem un grupām tika noņemti, ieskaitot tos, kurus sākotnēji apzīmēja Aušvicas memoriāls jūnijā.

Tehnoloģiju giganta pārstāvis sacīja, ka, lai gan šie viltus attēli nepārkāpj tā satura politiku, tas viņus izpētīja un atklāja, ka viņi pārkāpj savus noteikumus par uzdošanos vai lapu tirdzniecību.

“Mēs noņēmām lapas un grupas, kas dalījās ar mums, un atspējojām viņu aiz muguras, lai pārkāptu mūsu politikas par surogātpastu un neautentisku izturēšanos,” viņi sacīja.

AI iepriekš tika izmantots, lai pieminētu holokaustu un atdzīvinātu reālu upuru stāstus, guess Starptautiskā holokausta atceres alianses pārstāvis Dr Viljamss brīdina, ka pastāv dangers, ka tas var izraisīt izpratni, ka holokausta vēsture ir kaut kā izgatavota.

“Jebkura veida ārkārtēja manipulācija ir kaut kas tāds, no kā mums vajadzētu kautrēties,” viņš teica.

Papildu ziņojumi, ko iesniedza Umer Draz Nangiana, BBC urdu valoda