Jessica Guistolise, Megan Hurley un Molly Kelley 2025. gada 11. jūlijā sarunājas ar CNBC Mineapolē, Minesotā, par viltus pornogrāfiskiem attēliem un videoklipiem, kas attēlo viņu sejas, kuras veidojis viņu savstarpējais draugs Bens, izmantojot AI vietni Deepswap.
Jordānija Vaijata | CNBC
2024. gada vasarā sieviešu grupa Mineapolisas apgabalā uzzināja, ka vīrietis draugs izmanto savus Fb fotoattēlus, kas sajaukti ar mākslīgo intelektu, lai izveidotu seksualizētus attēlus un videoklipus.
Izmantojot AI vietni ar nosaukumu DeepSwap, vīrietis slepeni izveidoja Deepfakes no draugu un vairāk nekā 80 sieviešu Dvīņu pilsētu reģionā. Atklājums radīja emocionālu traumu un lika grupai meklēt simpātiskā valsts senatora palīdzību.
Kā CNBC izmeklēšana liecina“Nudify” lietotņu un vietņu pieaugums ir ļāvis cilvēkiem vieglāk nekā jebkad agrāk radīt nejēdzīgas, skaidras DeepFakes. Eksperti sacīja, ka šie pakalpojumi ir visā internetā, un daudzi tiek reklamēti, izmantojot Fb reklāmas, ir pieejami lejupielādei Apple un Google App veikalos un viegli piekļūt, izmantojot vienkāršas meklēšanas tīmeklī.
“Tāda ir realitāte, kur šī tehnoloģija ir šobrīd, un tas nozīmē, ka jebkura persona patiešām var tikt upurēta,” sacīja Haley McNamara, Stratēģisko iniciatīvu un programmu vecākais viceprezidents Nacionālajā seksuālās ekspluatācijas centrā.
CNBC ziņošana Spīd par likumīgo ņurdēšanu, kas ieskauj AI, un to, kā draugu grupa kļuva par galvenajām figūrām cīņā pret bezkonsensu, AI ģenerēto porno.
Šeit ir pieci paņēmieni no izmeklēšanas.
Sievietēm trūkst likumīgas regresa
Tā kā sievietes nebija nepilngadīgas un vīrietis, kurš radīja DeepFakes, nekad nav sadalījis saturu, nebija redzamu noziegumu.
“Viņš nelauza nevienu likumu, par kuriem mēs zinām,” sacīja Mollija Kellija, viena no Minesotas upuriem un tiesību studente. “Un tas ir problemātiski.”
Tagad Kellija un sievietes iestājas par vietējo likumprojektu savā štatā, ko ierosināja demokrātu štata senators Erins Mejs Kveds, kura mērķis ir bloķēt nudificēt pakalpojumus Minesotā. Ja likumprojekts kļūst par likumu, tas iekasētu naudas sodus par uzņēmumiem, kas ļauj izveidot DeepFakes.
Maye Quade sacīja, ka likumprojekts atgādina likumus, kas aizliedz peep in Home windows, lai bez piekrišanas uztvertu skaidras fotogrāfijas.
“Mēs vienkārši neesam tikuši galā ar AI tehnoloģijas parādīšanos tāpat,” intervijā CNBC sacīja Maye Quade, atsaucoties uz AI attīstības ātrumu.
Kaitējums ir reāls
Jessica Guistolise, viena no Minesotas upuriem, sacīja, ka viņa turpina ciest no panikas un trauksmes, kas izriet no notikušā pagājušajā gadā.
Dažreiz, pēc viņas teiktā, vienkāršs kameras slēģa klikšķis var likt viņai zaudēt elpu un sākt trīcēt, acis pietūkas ar asarām. Tas notika konferencē, kuru viņa apmeklēja mēnesi pēc tam, kad pirmo reizi uzzināja par attēliem.
“Es dzirdēju šo kameras klikšķi, un es diezgan burtiski biju tumšākajos interneta stūros,” sacīja Guistolise. “Tāpēc, ka esmu redzējis sevi darām lietas, kas man nav lietas.”
Džordža Vašingtonas Universitātes Juridiskās skolas profesore Marija Anne Franks salīdzināja pieredzi ar jūtām, kuras upuri apraksta, runājot par tā dēvēto atriebības porno vai personas seksuālu fotoattēlu un video ievietošanu tiešsaistē, bieži vien bijušais romantiskais partneris.
“Tas liek jums justies kā jums nepieder savs ķermenis, ka jūs nekad nevarēsit atgūt savu identitāti,” sacīja Franks, kurš ir arī Civiltiesību iniciatīvas Civiltiesību iniciatīvas prezidents, bezpeļņas organizācija, kas nodarbojas ar ļaunprātīgas izmantošanas un diskriminācijas apkarošanu tiešsaistē.
DeepFakes ir vieglāk izveidot nekā jebkad agrāk
Nepilnu desmit gadu laikā cilvēkam būtu jābūt AI ekspertam, lai izdarītu skaidras DeepFakes. Pateicoties Nudifier pakalpojumiem, viss, kas nepieciešams, ir interneta savienojums un Fb fotoattēli.
Pētnieki sacīja, ka jaunie AI modeļi ir palīdzējuši ieviest Nudify pakalpojumu vilni. Modeļi bieži tiek komplektēti viegli lietojamās lietotnēs, lai cilvēki, kuriem trūkst tehnisko prasmju, varētu radīt saturu.
Un, lai gan Nudify pakalpojumi var saturēt atrunas par piekrišanas iegūšanu, nav skaidrs, vai ir kāds izpildes mehānisms. Turklāt daudzas nudify vietnes tirgojas tikai kā tā saucamie sejas apgriezti rīki.
“Ir lietotnes, kas ir tikpat rotaļīgas, un tās faktiski galvenokārt tiek domātas kā pornogrāfiskas mērķtiecīgi,” sacīja Kornela Tech AI drošības eksperts ALEXIOS MANTZARlis. “Tā ir vēl viena grumba šajā telpā.”
Nudify Service DeepSwap ir grūti atrast
Vietne, kas tika izmantota satura izveidošanai, tiek saukta par DeepSwap, un tiešsaistē par to nav daudz informācijas.
A paziņojums presei Publicēts jūlijā, DeepSwap izmantoja Honkongas Dateline un iekļāva Penyne Wu citātu, kurš tika identificēts izlaidumā kā izpilddirektors un līdzdibinātājs. Plašsaziņas līdzekļu kontaktpersona par izlaidumu bija Shawn Banks, kurš tika minēts kā mārketinga vadītājs.
CNBC nevarēja atrast informāciju tiešsaistē par Wu un nosūtīja vairākus e -pastus uz adresi, kas paredzēta bankām, guess nesaņēma atbildi.
DeepSwap tīmekļa vietnē pašlaik ir uzskaitīti “MindSpark AI Restricted” kā tā uzņēmuma nosaukumu, norāda adresi Dublinā un paziņo, ka tās pakalpojumu nosacījumus “regulē un interpretē saskaņā ar Īrijas likumiem”.
Tomēr jūlijā tajā pašā Deepwap lapā nebija pieminēts MindSpark, un atsauces uz Īriju tā vietā sacīja Honkonga.
AI nodrošinājuma bojājumi
Maye Quade likumprojekts, kas joprojām tiek apsvērts, būtu sodi par tehnoloģiju uzņēmumiem, kas piedāvā Nudify pakalpojumiem 500 000 USD par katru nekonsensu, skaidru DeepFake, ko tie rada Minesotas štatā.
Daži eksperti tomēr uztraucas, ka Trumpa administrācijas plāni atbalstīt AI sektoru mazinās valstu centienus.
Jūlija beigās Trump parakstīja izpildrakstus Baltā nama daļu AI rīcības plānspasvītrojot AI attīstību kā “nacionālās drošības imperatīvu”.
Kellija cer, ka jebkurš federāls AI spiediens neapdraud Minesotas sieviešu centienus.
“Esmu nobažījies, ka mēs turpināsim palikt aiz muguras un upurēti pie altāra, cenšoties noturēt kādu ģeopolitisko sacīksti par spēcīgu AI,” sacīja Kellija.
Novērot: AI ‘nudify’ lietotņu satraucošais pieaugums, kas rada skaidrus reālu cilvēku attēlus.
