Sekojiet ZDNET: Pievienojiet mūs kā vēlamo avotu Google tīklā.
ZDNET galvenās atziņas
- AI varētu nodrošināt “plaši izplatītu pārpilnību”, sacīja OpenAI.
- Tas varētu būt arī “potenciāli katastrofāls”.
- Speciālisti brīdina par superinteliģences strauju attīstību.
OpenAI brīdina par aizbēgušo AI sistēmu briesmām, pat ja tā konkurē ar citiem lielākajiem tehnoloģiju izstrādātājiem, lai izveidotu “superintelektu” — pagaidām teorētisku mašīnu intelektu, kas pārspēj cilvēka smadzeņu spējas.
In a emuāra ieraksts Ceturtdien publicētajā grāmatā ar nosaukumu “AI progress un ieteikumi” uzņēmums izklāstīja savu redzējumu par plaša mēroga sociālo ieguvumu, ko šāds progresīvs AI varētu sniegt cilvēcei, riskus, ar kuriem varētu saskarties ceļā, un dažus ieteikumus to mazināšanai. Lūk, ko tas viss nozīmē.
Tāpat: OpenAI un Microsoft beidzot ir noslēguši jaunu darījumu – un tas viss attiecas uz AGI
(Informācijas atklāšana: Ziff Davis, ZDNET mātesuzņēmums, 2025. gada aprīlī iesniedza prasību pret OpenAI, apgalvojot, ka tas pārkāpis Ziff Davis autortiesības apmācībā un AI sistēmu darbībā.)
AI utopija
Saskaņā ar OpenAI teikto, superinteliģenta AI attīstība varētu demokratizēt cilvēku labklājību.
“Mēs sagaidām, ka nākotne sniegs jaunus un, cerams, labākus veidus, kā dzīvot pilnvērtīgu dzīvi, un vairāk cilvēku piedzīvos šādu dzīvi nekā šodien,” raksta uzņēmums, pirms turpināja teikt, ka pasaulei, visticamāk, būs jāsalauž dažas olas, lai pagatavotu mākslīgā intelekta omleti. “Tā ir taisnība, ka darbs būs citādāks, ekonomiskā pāreja dažos veidos var būt ļoti sarežģīta, un ir pat iespējams, ka būs jāmaina fundamentālais sociālekonomiskais līgums. Taču pasaulē, kurā ir plaši izplatīta pārpilnība, cilvēku dzīve var būt daudz labāka nekā šodien.”
Ziņojums atkārtoja neseno uzņēmuma izpilddirektora Sema Altmena personīgo emuāra ierakstu, kurā superinteliģentais mākslīgais intelekts tika attēlots kā neizbēgamība, kas, protams, izraisītu nopietnus sociālos traucējumus (piemēram, dažu kategoriju darbavietu likvidēšana), taču tas tomēr ilgtermiņā izrādīsies liels vēsturisks labums cilvēcei.
Arī jaunais ķīniešu mākslīgā intelekta modelis apgalvo, ka tas pārspēj GPT-5 un Sonnet 4.5 — un tas ir bezmaksas
Ceturtdienas emuārs sniedza dažas neskaidras prognozes par to, kā AI varētu novest pie šādas “plaši izplatītas pārpilnības”, piemēram, palīdzot paātrināt jaunus zinātniskus atklājumus (uzņēmums jau ir sācis strādāt). Uzņēmums piebilda, ka “AI sistēmas palīdzēs cilvēkiem izprast viņu veselību, paātrinās progresu tādās jomās kā materiālu zinātne, zāļu izstrāde un klimata modelēšana, kā arī paplašinās piekļuvi personalizētai izglītībai studentiem visā pasaulē.”
Iespējamie riski
“Superintelligence” ir jaunākais un lielākais mārketinga vārds Silīcija ielejā, gan labāk, gan sliktāk. Visslavenākais ir tas, ka Meta jūnijā paziņoja, ka ir izveidojusi savu iekšējo pētniecības un attīstības nodaļu, kas nodarbojas ar superinteliģences veidošanu. Tāpat Microsoft ir izveidojusi “Superinteliģences komandu”, kas saskaņā ar neseno informāciju X ziņa no šī uzņēmuma AI vadītāja Mustafa Suleyman par uzņēmuma “humānisma” pieeju ir vērsta uz “neticami progresīvu AI iespēju izveidi, kas vienmēr darbojas cilvēku un cilvēces labā.”
Ironiski, ka termins “superinteliģence” tika popularizēts 2014. gadā grāmatu ar tādu pašu nosaukumu, kas lielā mērā kalpoja kā brīdinājums par bēguļojoša, sevi pilnveidojoša AI briesmām.
Tāpat: Microsoft pētnieki mēģināja manipulēt ar AI aģentiem – un tikai viens pretojās visiem mēģinājumiem
Pagājušajā mēnesī bezpeļņas Dzīvības nākotnes institūta publicētajā paziņojumā, ko parakstījuši tehnoloģiju izcilnieki, tostarp Džefrijs Hintons un Stīvs Vozņaks, brīdināja, ka superinteliģentais AI var izvairīties no cilvēka kontroles un radīt eksistenciālus draudus civilizācijai. Paziņojumā tika ieteikts, ka visi nozares centieni izveidot superinteliģentu AI ir jāpārtrauc, līdz laboratorijas varēs noteikt drošu turpmāko ceļu.
Pat ar mūsdienu mākslīgā intelekta rīkiem daudzi eksperti uztraucas par to, kas šajā jomā ir pazīstams kā izlīdzināšanas problēma: izaicinājums nodrošināt, lai šīs melnās kastes sistēmas nebūtu pretrunā ar cilvēku interesēm. Vispārīgi runājot, galvenās bailes saistībā ar superinteliģenci ir tādas, ka tas būtu tik daudz attīstītāks nekā cilvēka intelekts un tik daudz neizdibināmāks par sistēmām, ar kurām mēs šodien mijiedarbojamies, ka tas varētu manipulēt ar mums vai maldināt mūs bīstami smalkos veidos.
Citi noraida šīs bailes kā AI “nolemtību” un uzstāj, ka pat tad, ja superinteliģentais AI kaut kādā veidā izzustu no sliedēm, mēs vienmēr varētu to vienkārši izslēgt. Bums, problēma atrisināta.
Piedāvātie risinājumi
Šķita, ka OpenAI pamāja ar galvu uz Way forward for Life institūta paziņojumu par superinteliģentā AI riskiem, kad tas ceturtdienas emuāra ierakstā rakstīja, ka tehnoloģija ir “potenciāli katastrofāla” un ka viens no iespējamiem risinājumiem bija nozarei “palēnināt attīstību, lai rūpīgāk izpētītu šīs sistēmas, tuvojoties sistēmām, kas spēj rekursīvi sevi pilnveidot”.
Arī: AI modeļi zina, kad tie tiek pārbaudīti, un maina savu uzvedību, liecina pētījumi
Tas arī norādīja, ka nozarei jāļauj cieši sadarboties ar federālajiem likumdevējiem, lai izveidotu mākslīgā intelekta ekvivalentu būvnormatīviem un ugunsdrošības standartiem, tādējādi nodrošinot vispārēju un standartizētu atbilstību AI drošības un pārraudzības protokolam.
Protams, šī varētu būt vēl viena OpenAI taktika, lai palielinātu savu ietekmi uz federālās AI politikas veidošanu laikā, kad štati, piemēram, Kalifornija un Kolorādo, ir sākuši skaidrāk regulēt tehnoloģiju. Ieteikums par nozares “lēnu attīstību” tikai dažas nedēļas pēc tam, kad tika apstiprināta uzņēmuma restrukturizācija un vienošanās ar Microsoft par mērķi sasniegt AGI — apstāšanās ceļā uz superinteliģenci vai bieži vien ar to, šķiet pretrunīgi.
Arī: vai AI ir karjeras slepkava? Ne, ja jums ir šīs prasmes, liecina McKinsey pētījumi
Uzņēmums emuārā skaidri izklāstīja savas domas par atsevišķu valstu pieeju mākslīgā intelekta regulējumam: “Lielākajai daļai izstrādātāju un atvērtā pirmkoda modeļu, kā arī gandrīz visiem mūsdienu tehnoloģiju izvietošanas veidiem vajadzētu būt minimālam papildu regulējumam salīdzinājumā ar to, kas jau pastāv,” rakstīja uzņēmums. “Tam noteikti nevajadzētu saskarties ar 50 štatu savārstījumu.” Agrāk OpenAI ne vienmēr ir atbalstījis regulējumu kā tas ir Anthropictaču ir paudusi priekšroku federālajam regulējumam, nevis tiesību aktiem atsevišķi pa štatiem.
ROI motivators
Neskatoties uz to, ka OpenAI uzstāj uz drošības un visaptverošu pārvaldības sistēmu nozīmi, AI nozarē tas ir iemantojis reputāciju kā ātrs un bieži vien neapdomīgs uzņēmums.
Daudzi tā sākotnējie darbinieki, tostarp brāļi un māsas Dario un Daniela Amodei, konkurējošās mākslīgā intelekta laboratorijas Anthropic dibinātāji, šķīrās no uzņēmuma un publiski kritizēja to, ko viņi uzskatīja par kultūru, kurā prioritāte ir straujai attīstībai, nevis drošībai. Šis jautājums bija arī Altmana uzņēmuma valdes īslaicīgās izstumšanas centrā, kas radīja iespaidīgu rezultātu.
Arī OpenAI vairākus mēnešus testēja savus AI modeļus – tagad ir dienas. Kāpēc tam ir nozīme
OpenAI un tā konkurentiem ir vēl viens iemesls tik optimistiski zīmēt AI nākotni: saglabāt investoru dolāru plūsmu, baidoties no “AI burbuļa”.
Pēdējo trīs gadu laikā tehnoloģiju uzņēmumi ir iztērējuši desmitiem miljardu AI, ko pamato doma, ka tehnoloģija drīz palīdzēs sasniegt lielus zinātniskus sasniegumus un revolucionizēt produktivitāti, lai nosauktu dažas cerības. Taču daudzi no šiem uzņēmumiem (tostarp OpenAI) joprojām nav rentabli; vairums uzņēmumu, kas izmanto AI, nav guvuši nekādus būtiskus ieguvumus no šīs tehnoloģijas; un solījums par AI atbalstītiem zinātniskiem atklājumiem joprojām ir galvenokārt hipotētisks.
Turklāt, tā kā OpenAI sasniedz 1 miljonu biznesa klientu, vai AI IA beidzot varētu mainīties?
Tomēr OpenAI nesen paziņoja, ka ir ieguvis miljonu biznesa klientu, no kuriem daudzi ziņoja par lielāku AI vadītu peļņu, nekā līdz šim ir pieredzējusi nozare kopumā, norādot uz iespējamu pagrieziena punktu IA stāstā.
