Karen Hao par AI impēriju, Agi evaņģēlisti un pārliecības izmaksas

Katras impērijas centrā ir ideoloģija, ticības sistēma, kas virza sistēmu uz priekšu un attaisno paplašināšanos – pat ja šīs paplašināšanas izmaksas tieši nepakļauj ideoloģijas norādīto misiju.

Eiropas koloniālajām spējām tā bija kristietība un solījums glābt dvēseles, vienlaikus iegūstot resursus. Mūsdienu AI impērijai tā ir mākslīgā vispārējā inteliģence, lai “gūtu labumu visai cilvēcei”. Un Openai ir tā galvenais evaņģēlists, kas izplatīja dedzību visā nozarē tādā veidā, kas ir mainījis AI būvēšanu.

“Es intervēju cilvēkus, kuru balsis kratīja no viņu uzskatu degsmes Agi,” Karena Hao, žurnāliste un visvairāk pārdotā autore “AI impērija”Stāstīja TechCrunch par neseno Fairness epizodi.

Savā grāmatā Hao pielīdzina AI nozari kopumā un it īpaši Openai ar impēriju.

“Vienīgais veids, kā patiesi izprast Openai izturēšanās jomu un mērogu… patiesībā ir atzīt, ka viņi jau ir kļuvuši spēcīgāki nekā gandrīz jebkura nacionāla valsts pasaulē, un viņi ir konsolidējuši ārkārtēju ne tikai ekonomisko spēku, wager arī politisko spēku,” sacīja Hao. “Viņi ir terraformējuši zemi. Viņi visu savu dzīvi pārņem mūsu ģeopolitiku. Un tāpēc jūs to varat raksturot tikai kā impēriju.”

Openai ir aprakstījis AGI kā “ļoti autonomu sistēmu, kas pārspēj cilvēkus visaptverošākajā darbā”, kas kaut kā “paaugstinās cilvēci, palielinot pārpilnību, turbokompresoru ekonomiku un palīdzot atklāt jaunu zinātnisku zināšanu, kas maina iespēju robežas”.

Šie miglaini solījumi ir veicinājuši nozares eksponenciālo izaugsmi – tās masīvās resursu prasības, nokasīto datu okeānus, saspringtu enerģijas režģi un vēlme pasaulē atbrīvot nepārbaudītas sistēmas. Visi kalpojot nākotnei, kuru, pēc daudzu ekspertu teiktā, nekad nevar ierasties.

Hao saka, ka šis ceļš nebija neizbēgams, un šī mērogošana nav vienīgais veids, kā iegūt vairāk sasniegumu AI.

“Jūs varat arī attīstīt jaunas metodes algoritmos,” viņa sacīja. “Jūs varat uzlabot esošos algoritmus, lai samazinātu datu daudzumu un aprēķinātu, kas tiem jāizmanto.”

Guess šī taktika būtu nozīmējusi upurēt ātrumu.

“Kad jūs definējat centienus veidot labvēlīgu AGI kā tādu, kurā uzvarētājs ņem visu – ko izdarīja Openai -, tad vissvarīgākais ir ātrums pār visu citu,” sacīja Hao. “Ātrums virs efektivitātes, ātrums pār drošību, ātrums pār izpētes pētījumu.”

Openai, pēc viņas teiktā, labākais veids, kā garantēt ātrumu, bija izmantot esošās paņēmienus un “vienkārši veikt intelektuāli lētu lietu, kas ir vairāk datu, vairāk superdatoru, iesūknē šajās esošajās metodēs”.

Openai uzstādīja skatuvi, un tā vietā, lai atpaliktu, citi tehnoloģiju uzņēmumi nolēma iekrist rindā.

“Un tāpēc, ka AI nozare ir veiksmīgi iemūžinājusi lielāko daļu pasaules labāko pētnieku pasaulē, un šie pētnieki vairs nepastāv akadēmiskajā vidē, tad jums ir visa disciplīna, kuru tagad veido šo uzņēmumu darba kārtība, nevis reāla zinātniska izpēte,” sacīja Hao.

Izdevumi ir bijuši un būs astronomiski. Pagājušajā nedēļā Openai paziņoja, ka sagaida cauri Skaidrā naudā 115 miljardi USD Līdz 2029. gadam. Meta jūlijā sacīja, ka AI infrastruktūras celtniecībai šogad tā tērēs līdz 72 miljardiem USD. Google cer sasniegt 85 miljardi USD Kapitāla izdevumos par 2025. gadu, no kuriem lielākā daļa tiks iztērēti AI un mākoņu infrastruktūras paplašināšanai.

Tikmēr mērķa stabi turpina kustēties, un visaugstākie “ieguvumi cilvēcei” vēl nav īstenojušies, pat ja kaitē. Kaitējums, piemēram, darba zaudēšana, bagātības koncentrācija un AI tērzēšanas roboti, kas veicina maldus un psihozi. Savā grāmatā HAO dokumentē arī tādas jaunattīstības valstīs kā Kenija un Venecuēla, kuri bija pakļauti satraucošam saturu, ieskaitot bērnu seksuālās vardarbības materiālus, un viņiem tika maksāta ļoti zema alga – aptuveni USD 1 līdz 2 USD stundā – tādās lomās kā satura mērenība un datu marķēšana.

Hao sacīja, ka tas ir nepatiess kompromiss, lai panāktu AI progresu pret pašreizējo kaitējumu, it īpaši, ja citi AI veidi piedāvā reālas priekšrocības.

Viņa norādīja uz Google Deepmind Nobela prēmijas ieguvušo Alphafold, kas ir apmācīts par aminoskābju secības datiem un sarežģītām olbaltumvielu locīšanas struktūrām un tagad var precīzi paredzēt olbaltumvielu 3D struktūru no viņu aminoskābēm-dziļi noderīga zāļu atklāšanai un slimību izpratnei.

“Tie ir AI sistēmu veidi, kas mums nepieciešami,” sacīja Hao. “Alphafold nerada garīgās veselības krīzes cilvēkiem. Alphafold nerada kolosālu kaitējumu videi… jo tā ir apmācīta ievērojami mazāk infrastruktūrā. Tas nerada satura mērenības kaitējumu, jo kaitējums, jo [the datasets don’t have] Visi toksiskā crap, ko jūs aizrāvāt, kad nokasījāt internetu. ”

Līdztekus kvazi reliģiskajai saistībai ar AGI ir bijis stāstījums par to, cik svarīgi ir sacīkstēm pārspēt Ķīnu AI sacīkstēs, lai Silīcija ieleja varētu liberalizēt ietekmi uz pasauli.

“Burtiski ir noticis pretējais,” sacīja Hao. “Plaisa ir turpinājusi slēgt starp ASV un Ķīnu, un Silīcija ielejā ir bijusi nederīga ietekme uz pasauli… un vienīgais aktieris, kurš no tā iznācis neskarts, jūs varētu apgalvot, ir pati Silīcija ieleja.”

Protams, daudzi apgalvos, ka Openai un citi AI uzņēmumi ir guvuši labumu cilvēcei, atbrīvojot Chatgpt un citus lielas valodas modeļus, kas sola milzīgus produktivitātes ieguvumus, automatizējot tādus uzdevumus kā kodēšana, rakstīšana, pētniecība, klientu atbalsts un citi zināšanu darba uzdevumi.

Guess veids, kā Openai ir strukturēta-daļēji bezpeļņas, daļēji bezpeļņas organizācija-sarežģī to, kā tā definē un mēra tās ietekmi uz cilvēci. Un to vēl vairāk sarežģī ziņas šonedēļ, ka Openai panāca vienošanos ar Microsoft, kas to tuvina, lai galu galā nonāktu publiski.

Divi bijušie Openai drošības pētnieki sacīja TechCrunch, ka viņi baidās, ka AI laboratorija ir sākusi sajaukt tās bezpeļņas un bezpeļņas misijas-ka tāpēc, ka cilvēkiem patīk izmantot Chatgpt un citus produktus, kas veidoti uz LLMS, tas iezīmē labuma gājienu.

Hao atkārtoja šīs bažas, aprakstot misijas tik patērēto briesmas, ka realitāte tiek ignorēta.

“Pat tad, kad pierādījumi uzkrājas, ka tas, ko viņi veido, faktiski kaitē ievērojamam daudzumam cilvēku, misija turpina visu to pārskatīt,” sacīja Hao. “Tajā ir kaut kas patiešām bīstams un tumšs [being] Tik iesaiņots uzskatu sistēmā, kuru jūs uzbūvējāt, ka jūs zaudējat saikni ar realitāti. ”