Openai otrās paaudzes AI video modelis Sora 2 rada strīdus, mazāk nekā nedēļu pēc tam, kad AI gigants atklāja ļoti gaidīto rīku un tā atbilstošo lietotni.
Hubbub rodas no Sora 2 iespaidīgās, guess satraucošās spējas precīzi detalizēti ģenerēt gandrīz jebko. Neilgi pēc tās palaišanas lietotāji pārpludināja platformu-tā kā videoklipa uz priekšu vērsta sociālo mediju lietotne līdzības Tiktokā vai ruļļos-ar iespējamām slavenību dziļumiem, sensitīvu politisko saturu un licencētām rakstzīmēm.
Sora 2, vibrācijas, barība: cik mums ir nepieciešams AI video?
Sora 2 drošības pasākumi ir šķietami izturīgāki nekā konkurenti – piemēram, tie, kas atrodas Grokā, ziņoja par Mashable Tech redaktoru Timotiju Beku Verthu. Sorai 2 ir viegli ziņot par seksuāla un vardarbīga satura, uzmākšanās un bērna apdraudēšanas mehānismiem. Kā veids, kā novērst DeepFakes, SORA 2 ir paredzēts arī bloķēt lietotājus augšupielādēt saturu, kam ir sejas. Teorētiski Sora 2 sejas aizliegumam vajadzētu neļaut lietotājiem radīt dziļu cilvēku bez viņu piekrišanas. Guess paša Openai risinājums nerunīgiam DeepFakes – funkcija, kas pazīstama kā Kamejasir radījis savas problēmas.
Cameos ir “atkārtoti lietojamas rakstzīmes”, kas veidotas pēc lietotājiem, pamatojoties uz augšupielādēšanu audio un video. Lietotājiem ir jāizvēlas sava DeepFake un pēc tam var piešķirt piekļuvi savai digitālajai līdzībai četros līmeņos: tikai jūs, cilvēki, kurus jūs apstiprināt, draugi vai visi. Līdz šim tas bija tas, cik lielā mērā kamejas varēja kontrolēt, kas nozīmē, ja jums būtu jūsu kameja pārslēgta uz piekļuvi lietotnei, jūsu līdzību varētu padarīt tikai par jebko.
Šis tvīts šobrīd nav pieejams. Tas varētu būt iekraušana vai ir noņemts.
Atbildot uz lietotāju bažām, Openai kopš tā laika ir atzinusi drošības problēmas, kas ir brīvas piekļuve kāda digitālajai līdzībai, var radīt, paziņojot par jauniem kamejas ierobežojumiem. Lūk, kas jums jāzina, ja jūs mēģināt padarīt savu kameju par zvaigzni.
Mashable gaismas ātrums
Kā aizsargāt savu kameju
X x postenis autors Sora vadītājs Bils Peebles, Lietotājus virzīja uz Openai tehniskā darbinieka Tomasa Dimsona pavedienu, paskaidrojot, ka jaunajos kamejas iestatījumos ietilpst gan satura preferences, gan ierobežojumi.
Šis tvīts šobrīd nav pieejams. Tas varētu būt iekraušana vai ir noņemts.
Lai aizslēgtu savu kameju, dodieties uz savu profilu. Atlasiet “Iestatījumi” un pēc tam “Rediģēt kameju”. Pieskarieties “Cameo Preferences” un izvēlieties “ierobežojumus”.
Turpmāk lietotāji var noteikt precīzākus ierobežojumus tam, ko viņu kameja var darīt, un pateikt, izmantojot teksta uzvednes, piemēram, “neievietojiet mani videoklipos, kas saistīti ar politiskiem komentāriem” vai “neļaujiet man pateikt šo vārdu”, paskaidroja Peebles. Varat arī nodrošināt, ka jūsu kameja parādās ar īpašām detaļām, piemēram, valkājot identificējošu apģērba priekšmetu.
Ja vēlaties pārliecināties, ka neviens, guess jūs varat izmantot savu līdzību, pārliecinieties, ka sadaļā “Cameo noteikumi” esat izvēlējies “Tikai es”. Un, ja jūs vispār nevēlaties izveidot kameju, lietotāji var atteikties, reģistrējoties.
Peebles piebilda, ka Sora 2 joprojām tiek pielāgots tā modeļa drošībai, un tas padarīs Sora 2 ūdenszīmi atšķirīgāku, atzīstot, ka lietotāji lietotnē var būt neapmierināti ar “Overmoderation”. “Mēs domājam, ka šeit ir svarīgi būt konservatīvam, kamēr pasaule joprojām pielāgojas šai jaunajai tehnoloģijai.”
