Openai izpilddirektors Sems Altmans ir teicis, ka cilvēce ir tikai gadu attālumā no mākslīgā vispārējā izlūkošanas attīstības, kas varētu automatizēt lielāko daļu cilvēku darba. Ja tā ir taisnība, tad arī cilvēce ir pelnījusi saprast un pateikt cilvēku un mehāniku aiz tik neticama un destabilizējoša spēka.
Tas ir vadošais mērķis aiz “Openai faili“Arhīva projekts no MIDAS projekta un tehnoloģiju pārraudzības projekta, divām bezpeļņas tehnoloģiju sargsuņu organizācijām. Faili ir“ dokumentētu bažu kolekcija ar pārvaldības praksi, vadības integritāti un organizatorisko kultūru Openai ”. Papildus informētības palielināšanai, failu mērķis ir ierosināt ceļu uz priekšu Openai un citiem AI līderiem, kas koncentrējas uz atbildīgu pārvaldību, ētisko vadību un kopīgiem ieguvumiem.
“Pārvaldības struktūrām un vadības integritātei, kas vada tik svarīgu projektu Pārmaiņu redzējumsApvidū “Uzņēmumi, kas ved sacīkstes uz AGI, ir jānotiek un ir jāievēro ārkārtīgi augstiem standartiem.”
Līdz šim sacīkstes uz dominanci AI ir izraisījusi neapstrādātu mērogošanu-izaugsmes izmaksu domāšanas veidu, kas ir licis uzņēmumiem, piemēram, Openai, bez piekrišanas apmācības nolūkos un veidot apjomīgus datu centrus, kas ir izraisot strāvas padeves pārtraukumus un Palielinoties elektrības izmaksām vietējiem patērētājiem. Steiga uz komercializāciju ir arī licis uzņēmumiem nosūtīt produktus pirms iepludināšanas nepieciešamie aizsardzības pasākumikā ieguldītāju spiediens pagriezt peļņas stiprinājumu.
Šis investoru spiediens ir mainījis Openai pamatstruktūru. Openai faili sīki apraksta, kā agrīnās bezpeļņas dienās Openai sākotnēji bija ierobežojusi investoru peļņu ne vairāk kā 100x, lai visi ieņēmumi no AGI sasniegšanas nonāktu cilvēcē. Kopš tā laika uzņēmums ir paziņojis par plāniem noņemt šo maksimālo robežu, atzīstot, ka tas ir veicis šādas izmaiņas, lai nomierinātu investorus, kuri finansējumu bija nosacīti strukturālajām reformām.
Faili izceļ tādas problēmas kā Openai steidzamie drošības novērtēšanas procesi un “neapdomības kultūra”, kā arī potenciālie Openai valdes locekļu un paša Altmana interešu konflikti. Tajos ietilpst to jaunizveidoto uzņēmumu saraksts, kas varētu būt paša Altmana ieguldījumu portfelī, kuriem ir arī Openai pārklājošais uzņēmums.
Faili arī apšauba Altmana integritāti, kas ir bijusi spekulāciju tēma, jo vecākie darbinieki 2023. gadā mēģināja viņu nomelnot par “maldinošu un haotisku izturēšanos”.
“Es nedomāju, ka Sems ir puisis, kuram vajadzētu būt ar pirkstu uz Agi pogas,” Ilya Sutskever, Openai bijušais galvenais zinātnieks, kā ziņots Tolaik teica.
Openai failu izvirzītie jautājumi un risinājumi mums atgādina, ka milzīga jauda ir dažu rokās ar nelielu caurspīdīgumu un ierobežotu uzraudzību. Faili sniedz ieskatu tajā melnajā lodziņā, un to mērķis ir pārcelt sarunu no neizbēgamības uz atbildību.
