Izraēlas un Irānas konflikts atlaiž AI dezinformācijas vilni

Kopš Izraēlas pagājušajā nedēļā uzsāka Dezinformācijas vilni tiešsaistē, kopš Izraēlas pagājušajā nedēļā sāka streikus, BBC pārbaudīja desmitiem amatu, kurš pārbaudīja, lai pastiprinātu Teherānas reakcijas efektivitāti.

Mūsu analīzē tika atrasti vairāki videoklipi – izveidoti, izmantojot mākslīgo intelektu, lepojoties ar Irānas militārajām iespējām, kā arī viltus klipus, kas parāda streiku sekas Izraēlas mērķiem. Trīs visvairāk skatītie viltus videoklipi BBC verifikācija ir kopīgi uzkrājusi vairāk nekā 100 miljonus skatījumu vairākās platformās.

Izraēlas pro-Izraēlas konti ir arī dalījušies dezinformācijā tiešsaistē, galvenokārt ar veciem protestu un pulcēšanās klipiem Irānā, nepatiesi apgalvojot, ka tie izrāda domstarpības pret valdību un irāņu atbalstu Izraēlas militārajai kampaņai.

Izraēla 13. jūnijā uzsāka streikus Irānā, izraisot vairākas Irānas raķešu un dronu uzbrukumu Izraēlas kārtas.

Viena organizācija, kas analizē atvērtā koda attēlus, tiešsaistē raksturoja dezinformācijas apjomu kā “pārsteidzošu” un apsūdzēja dažus “iesaistes lauksaimniekus”, cenšoties gūt labumu no konflikta, daloties ar maldinošu saturu, kas paredzēts, lai piesaistītu uzmanību tiešsaistē.

“Mēs redzam visu, sākot no nesaistītiem kadriem no Pakistānas un beidzot ar pārstrādātiem videoklipiem no 2024. gada oktobra streikiem, no kuriem daži ir ieguvuši vairāk nekā 20 miljonus skatījumu, kā arī spēles klipus un AI ģenerētu saturu, kas tika nodots kā reāli notikumi,” Geoconfirmed, tiešsaistes verifikācijas grupa, rakstīja X.

Daži konti ir kļuvuši par dezinformācijas “super-izplatītājiem”, kas tiek apbalvoti ar ievērojamu viņu sekotāju skaita pieaugumu. Viens no Irānas atbalstītajiem kontiem, kurā nav acīmredzamas saiknes ar Teherānas varas iestādēm – ikdienas Irānas militāro spēku – ir redzējis, ka tā sekotāji X ir pieauguši no nedaudz vairāk nekā 700 000 13. jūnijā līdz 1,4 miljoniem līdz 19. jūnijam, kas ir par 85% mazāk nekā nedēļas laikā.

Tas ir viens no daudziem neskaidriem kontiem, kas nesen parādījušies cilvēku plūsmās. Visiem ir zilas ērces, viņi ir ražīgi ziņojumapmaiņā un viņi vairākkārt ir ievietojuši dezinformāciju. Tā kā daži izmanto šķietami oficiālus vārdus, daži cilvēki ir pieņēmuši, ka tie ir autentiski konti, taču nav skaidrs, kurš faktiski darbojas profilos.

Dezinformācijas straume iezīmēja “pirmo reizi, kad mēs redzam, ka ģeneratīvo AI tiek izmantots mērogā konflikta laikā”, Emanuelle Saliba, analītiķu grupas galvenā izmeklēšanas virsniece, sacīja reālā, pastāstīja BBC Confirm.

BBC pārskatītie konti pārbauda, ​​vai bieži koplietotus AI ģenerētos attēlus, kas, šķiet, vēlas pārspīlēt Irānas reakcijas uz Izraēlas streikiem panākumiem. Viens attēls, kurā ir 27 m skati, attēloja desmitiem raķešu, kas nokrīt uz Telavivas pilsētu.

Vēl viens video, kas paredzēts parādīt raķešu streiku uz ēkas Izraēlas pilsētā vēlu vakarā. Saliba kundze sacīja, ka klipi bieži attēlo nakts uzbrukumus, padarot tos īpaši grūti pārbaudīt.

AI viltojumi ir vērsti arī uz Izraēlas F-35 iznīcinātāju iznīcināšanas prasībām, kas ir vismodernākā ASV izgatavotā plakne, kas spēj pārsteidza zemes un gaisa mērķus. Ja klipu aizsprosts būtu īsts, Irāna būtu iznīcinājusi 15% no Izraēlas cīnītāju flotes, BBC Confirm pastāstīja Alethea analītiķu grupas izpilddirektore Liza Kaplana. Mums vēl nav jāautentificē jebkuri kadri no F-35, kas tiek nošauti.

Viens plaši kopīgs amats apgalvoja, ka pēc tam, kad tika nošauta Irānas tuksnesī, ir bojāta reaktīvā strūklai. Tomēr bija acīmredzamas AI manipulācijas pazīmes: civiliedzīvotāji ap strūklu bija tāda paša izmēra kā tuvumā esošie transportlīdzekļi, un smiltīm nebija trieciena pazīmju.

Vēl viens video ar 21,1 miljonu skatījumu uz Tiktoku apgalvoja, ka tas parāda Izraēlas F-35, kuru nošāva ar gaisa aizsardzību, taču kadri faktiski nāca no lidojuma simulatora videospēles. Tiktoks noņēma kadrus pēc tam, kad piegāja BBC Confirm.

Kaplanas kundze sacīja, ka daļu no F-35 uzmanības centrā ir kontu tīkls, kuru Alethea iepriekš ir saistījusi ar Krievijas ietekmes operācijām.

Viņa atzīmēja, ka Krievijas ietekmes operācijas nesen ir mainījušas kursu no mēģinājumiem mazināt atbalstu karam Ukrainā, lai sētu šaubas par Rietumu – īpaši amerikāņu ieroču spējām.

“Krievijai īsti nav atbildes uz F-35. Tātad, ko tā var darīt? Tā var mēģināt mazināt to atbalstu noteiktās valstīs,” sacīja Kaplanas kundze.

Dezinformāciju izplata arī labi zināmi konti, kas iepriekš ir iesvērušies Izraēlas-Gazas karā un citos konfliktos.

Viņu motivācija ir atšķirīga, taču eksperti sacīja, ka daži, iespējams, mēģina nopelnīt konfliktu, un dažas lielas sociālo mediju platformas piedāvā izmaksas kontiem, kas sasniedz lielu skaitu uzskatu.

Turpretī Izraēlas pro-Izraēlas amati lielā mērā ir vērsti uz ierosinājumiem, ka Irānas valdība saskaras

Starp tiem ir plaši kopīgs AI ģenerēts video, kas ir nepatiesi domāts, ka Irāņi ir skandāli skandēt “Mēs mīlam Izraēlu” Teherānas ielās.

Tomēr pēdējās dienās – un, pieaugot spekulācijām par ASV triecieniem Irānas kodolveida vietnēs – daži konti ir sākuši ievietot AI ģenerētos B -2 bumbvedēju attēlus Teherānā. B-2 ir piesaistījis īpašu uzmanību kopš Izraēlas streikiem uz Irānu, jo tā ir vienīgā lidmašīna, kas spēj efektīvi veikt Uzbrukums Irānas zemūdens kodolieroču vietāmApvidū

Oficiālie avoti Irānā un Izraēlā ir dalījušies ar dažiem viltus attēliem. Valsts plašsaziņas līdzekļi Teherānā ir dalījušies ar viltotiem kadriem par streikiem un AI ģenerētu F-35 strūklas attēlu, savukārt Izraēlas aizsardzības spēku (IDF) dalītais amats saņēma kopienas piezīmi par X par vecu, nesaistītu raķešu baržu kadru izmantošanu.

Liela daļa dezinformācijas, ko pārskatījusi BBC Confirm, ir koplietota X, lietotājiem bieži vērsties Platformas AI tērzētava – Grok – lai izveidotu stabu patiesumu.

Tomēr dažos gadījumos Groks uzstāja, ka AI video ir reāli. Viens no šādiem video parādīja bezgalīgu kravas automašīnu straumi, kas pārvadā ballistiskās raķetes, kas parādās no kalna krasta kompleksa. Saliba kundze sacīja, ka AI satura signālu zīmes bija ieži, kas pārvietojas pēc viņu pašu izvēles.

Guess, atbildot uz X lietotājiem, Groks atkārtoti uzstāja, ka videoklips ir reāls un minēts plašsaziņas līdzekļu ziņojumos, ieskaitot Newsweek un Reuters. “Skaidrības labad pārbaudiet uzticamās ziņas,” Chatbot noslēdza vairākos ziņojumos.

X neatbildēja uz BBC pieprasījumu, lai komentētu Chatbot darbības.

Daudzi videoklipi ir parādījušies arī Tiktokā un Instagram. Paziņojumā BBC Confirm Tiktok sacīja, ka tas proaktīvi izpilda sabiedrības vadlīnijas “, kas aizliedz neprecīzus, maldinošu vai nepatiesu saturu” un ka tas darbojas ar neatkarīgiem faktu pārbaudītājiem, lai “pārbaudītu maldinošu saturu”.

Instagram īpašnieks Meta neatbildēja uz komentāru pieprasījumu.

Kaut arī to cilvēku, kas rada tiešsaistes viltojumus, motivāciju atšķiras, daudzus dalās parastie sociālo mediju lietotāji.

Notre Dame universitātes pētnieks Metjū Facciani ierosināja, ka dezinformācija var ātrāk izplatīties tiešsaistē, kad cilvēki saskaras ar binārām izvēlēm, piemēram, konfliktu un politikas izvirzītajiem.

“Tas uzrunā plašāku sociālo un psiholoģisko jautājumu, ko cilvēki vēlas atkārtoti koplietot, ja tas atbilst viņu politiskajai identitātei, un arī tikai sensacionālistu emocionālais saturs ātrāk izplatīsies tiešsaistē.”