Trumpa “anti-Woke AI” pasūtījums varētu pārveidot to, kā ASV tehnoloģiju uzņēmumi apmācīt viņu modeļus

Kad DeepSeek, Alibaba un citi ķīniešu firmas izlaida savus AI modeļus, Rietumu pētnieki ātri pamanīja, ka viņi ir apņēmušies jautājumus, kas ir kritiski saistīti ar Ķīnas komunistisko partiju. ASV amatpersonas vēlāk apstiprināts ka šie rīki ir izstrādāti, lai atspoguļotu Pekinas sarunu punktus, radot bažas par cenzūru un neobjektivitāti.

Amerikāņu AI vadītāji, piemēram, Openai, ir norādījuši uz to kā pamatojumu, lai ātri attīstītu viņu tehnoloģiju, bez pārāk daudz regulējuma vai pārraudzības. Kā Openai galvenais globālo lietu virsnieks Kriss Lehane rakstīja a LinkedIn Post Pagājušajā mēnesī notiek konkurss starp “ASV vadīto demokrātisko AI un komunistu vadīto Ķīnas autokrātisko AI”.

Izpildraksts Trešdien prezidents Donalds Trumps parakstīja, ka aizliedz “pamodināt AI” un AI modeļus, kas nav “ideoloģiski neitrāli” no valdības līgumiem, varētu izjaukt šo līdzsvaru.

Pasūtījums izsauc dažādību, taisnīgumu un iekļaušanu (DEI), nosaucot to par “izplatītu un destruktīvu” ideoloģiju, kas var “izkropļot izlaides kvalitāti un precizitāti”. Konkrēti, pasūtījums attiecas uz informāciju par rasi vai dzimumu, manipulācijām ar rasu vai seksuālu reprezentāciju, kritiskās rases teoriju, transpersonu, bezsamaņā neobjektivitāti, krustošanās un sistemātisko rasismu.

Eksperti brīdina, ka tas varētu radīt atdzesējošu efektu izstrādātājiem, kuri var izjust spiedienu, lai pielāgotu modeļa iznākumu un datu kopas ar Baltā nama retoriku, lai nodrošinātu federālos dolārus viņu naudas sadedzināšanas uzņēmumiem.

Rīkojums nāk tajā pašā dienā, kad Baltais nams publicēja Trumpa “AI rīcības plānu”, kas novirza nacionālās prioritātes no sabiedrības riska un tā vietā koncentrējas uz AI infrastruktūras veidošanu, griešanas lentes samazināšanu tehnoloģiju uzņēmumiem, nacionālās drošības veidošanos un konkurenci ar Ķīnu.

Rīkojums vada Vadības un budžeta biroja direktoru kopā ar Federālās iepirkuma politikas administratoru, vispārējo pakalpojumu administratoru un Zinātnes un tehnoloģijas politikas biroja direktoru, lai izdotu norādījumus citām aģentūrām par to, kā ievērot.

“Reiz un uz visiem laikiem mēs atbrīvojamies no pamodināšanas,” trešdien sacīja Trešdien AI pasākuma laikā, ko rīko Podcast un Hill & Valley forums. “Es parakstīšu rīkojumu, kas aizliedz federālajai valdībai iegādāties AI tehnoloģiju, kas ir piepildīta ar partizānu aizspriedumiem vai ideoloģiskām programmām, piemēram, kritisko rases teoriju, kas ir smieklīga. Un no šī brīža ASV valdība nodarbosies tikai ar AI, kas īsteno patiesību, taisnīgumu un stingru objektivitāti.”

Noteikt, kas ir objektīvs vai objektīvs, ir viens no daudzajiem izaicinājumiem kārtībai.

Filips Seargeants, Open universitātes lietišķās valodniecības vecākais pasniedzējs, TechCrunch sacīja, ka nekas nekad nevar būt objektīvs.

“Viens no sociolingvistikas pamatprincipiem ir tas, ka valoda nekad nav neitrāla,” sacīja seržants. “Tātad ideja, ka jūs kādreiz varat iegūt tīru objektivitāti, ir fantāzija.”

Turklāt Trumpa administrācijas ideoloģija neatspoguļo visu amerikāņu uzskatus un vērtības. Trumps vairākkārt ir mēģinājis novērst finansējumu klimata iniciatīvām, izglītībai, sabiedriskajai apraidei, pētniecībai, sociālo pakalpojumu dotācijām, sabiedrības un lauksaimniecības atbalsta programmām un dzimumu apliecinošai aprūpei, bieži veidojot šīs iniciatīvas kā “pamodies” vai politiski aizspriedumainus valdības izdevumus.

Kā Rumman Chowdhury, datu zinātnieks, tehnoloģiju bezpeļņas humānā intelekta izpilddirektors un bijušais ASV zinātnes sūtnis AI, izteicās par “jebko [the Trump administration doesn’t] Tāpat kā tūlīt tiek iemesta šajā pejoratīvajā pamodināšanas kaudzē. ”

“Patiesības meklēšanas” un “ideoloģiskās neitralitātes” definīcijas trešdien publicētajā secībā ir neskaidras un citās-specifiskas. Kaut arī “patiesības meklēšana” tiek definēta kā LLM, kas “prioritizē vēsturisko precizitāti, zinātnisko izmeklēšanu un objektivitāti”, “ideoloģiskā neitralitāte” tiek definēta kā LLM, kas ir “neitrālas, bezpartejiskas instrumenti, kas neveic manipulācijas ar atbildēm par labu ideoloģiskām dogmām, piemēram, DEI”.

Šīs definīcijas atstāj vietu plašai interpretācijai, kā arī iespējamo spiedienu. AI uzņēmumi ir palielinājuši mazāk ierobežojumu, kā tie darbojas. Un, lai gan izpildraksts neveic likumdošanas spēku, Frontier AI firmas joprojām varētu nonākt pakļautās administrācijas politiskās darba kārtības mainīgajām prioritātēm.

Pagājušajā nedēļā Openai, Antropic, Google un XAI Parakstīti līgumi Tā kā Aizsardzības departaments saņem līdz 200 miljoniem USD, lai izstrādātu aģentu AI darbplūsmas, kas risina kritiskas valsts drošības problēmas.

Nav skaidrs, kurš no šiem uzņēmumiem vislabāk ir iegūts no Woke AI aizlieguma, vai arī viņi to izpildīs.

TechCrunch ir sazinājies ar katru no tiem un atjauninās šo rakstu, ja dzirdēsim atpakaļ.

Neskatoties uz savu aizspriedumu parādīšanu, XAI var būt visvairāk saskaņoti ar pasūtījumu – vismaz šajā agrīnajā posmā. Elons Musks ir pozicionējis Groku, XAI tērzēšanas robotu, kā galveno pretkodi, “mazāk aizspriedumainu”, Trutheeker. Grok sistēmas pamudinājumi ir norādījuši, ka tā nav atlikta uz galvenajām iestādēm un plašsaziņas līdzekļiem, meklēt pretrunīgu informāciju pat tad, ja tā ir politiski nepareiza un pat atsaucas uz Muska uzskatiem par pretrunīgi vērtētām tēmām. Pēdējos mēnešos Groks ir pat izveicis antisemītiskus komentārus un slavējis Hitleru X starp citiem naidpilniem, rasistiskiem un misoģistiskiem amatiem.

Stenfordas universitātes tiesību profesors Marks Lemlijs sacīja TechCrunch, ka izpildraksts ir “skaidri paredzēts kā viedokļa diskriminācija, kopš tā laika [the government] Tikko parakstīju līgumu ar Groku, pazīstams arī kā “Mechahitler”. ”

Līdztekus XAI DoD finansējumam uzņēmums paziņoja, ka “Groks valdībai”Bija pievienots vispārējo pakalpojumu administrācijas grafikam, kas nozīmē, ka XAI produkti tagad ir nopērkami katrā valdības birojā un aģentūrā.

“Pareizais jautājums ir šāds: vai viņi aizliegtu groku, AI, ar kuru viņi tikko parakstīja lielu līgumu, jo tas ir apzināti izstrādāts, lai sniegtu politiski uzlādētas atbildes?” Lemlijs sacīja e -pasta intervijā. “Ja nē, tas ir skaidri paredzēts, lai diskriminētu noteiktu viedokli.”

Kā parādīja pašas Grok sistēmas uzvedumi, modeļa izejas var atspoguļot gan cilvēkus, kas veido tehnoloģiju, gan datus, uz kuriem AI ir apmācīts. Dažos gadījumos attīstītāju un AI piesardzības pārmērīga piesardzība un AI, kas apmācīts interneta saturā, kas veicina tādas vērtības kā iekļaušana, ir izraisījušas izkropļotu modeļa izvadi. Piemēram, Google pagājušajā gadā nonāca ugunsgrēkā pēc tam, kad tā Dvīņu tērzēšana parādīja melno Džordžu Vašingtonu un rasu atšķirīgus nacistus-ko Trumpa pasūtījums izsauc kā DEI inficēto AI modeļu piemēru.

Chowdhury saka, ka viņas lielākās bailes ar šo izpildrakstu ir tas, ka AI uzņēmumi aktīvi pārstrādās apmācības datus, lai vilktu partijas līniju. Viņa norādīja uz paziņojumi Sākot no Muskas dažas nedēļas pirms Grok 4 palaišanas, sakot, ka XAI izmantos jauno modeli un tā uzlabotās spriešanas iespējas, lai “pārrakstītu visu cilvēku zināšanu korpusu, pievienotu trūkstošo informāciju un izdzēst kļūdas. Tad pārkvalificējas”.

Tas šķietami ļautu Muskam vērtēt to, kas ir patiesība, kam varētu būt milzīga pakārtotā ietekme uz to, kā tiek piekļuve informācijai.

Protams, uzņēmumi ir veikuši spriedumu zvanus par to, kāda informācija ir redzama un nav redzama kopš interneta rītausmas.

Konservatīvie, piemēram, Deivids Sacks-uzņēmējs un investors, kuru Trump iecēla par AI Czar, ir izteikti par viņa bažām par “Woke Ai” uz visu podcast, kas ir Podcast, kas līdzcilvēks Trumpa AI paziņojumu diena. Sacks ir apsūdzējis ievērojamu AI produktu veidotājus, kas tos infūzē ar kreiso spārnu vērtībām, viņa argumentus kā brīvības aizstāvēšanu un brīdinājumu par tendenci uz centralizētu ideoloģisko kontroli digitālajās platformās.

Eksperti saka, ka problēma ir tā, ka nav vienas patiesības. Neobjektīvu vai neitrālu rezultātu sasniegšana nav iespējama, it īpaši mūsdienu pasaulē, kur pat fakti tiek politizēti.

“Ja rezultāti, ko rada AI, saka, ka klimata zinātne ir pareiza, vai tas ir kreisā spārna neobjektivitāte?” Seargeant teica. “Daži cilvēki saka, ka jums ir jāpiešķir abām argumenta pusēm, lai būtu objektīvs, pat ja vienai argumenta pusei tam nav statusa.”