Jo vairāk robotu sāk parādīties noliktavās, birojos un pat cilvēku mājās, ideja par lielu valodu modeļu uzlaušanu sarežģītās sistēmās izklausās kā zinātniskās fantastikas murgi. Tātad, dabiski, antropiskie pētnieki vēlējās redzēt, kas notiktu, ja Klods mēģinātu pārņemt kontroli pār robotu – šajā gadījumā – robotsuni.
Jaunā pētījumā Antropiskie pētnieki atklāja, ka Klods spēja automatizēt lielu daļu darba, kas saistīts ar robota programmēšanu un fizisku uzdevumu veikšanu. Vienā līmenī viņu atklājumi parāda mūsdienu AI modeļu aģentiskās kodēšanas spējas. No otras puses, tie norāda uz to, kā šīs sistēmas var sākt paplašināties fiziskajā jomā, jo modeļi apgūst vairāk kodēšanas aspektu un uzlabo mijiedarbību ar programmatūru un arī fiziskiem objektiem.
“Mums ir aizdomas, ka nākamais solis AI modeļiem ir sākt sasniegt pasauli un ietekmēt pasauli plašāk,” WIRED stāsta Anthropic sarkanās komandas loceklis Logans Grehems, kas pēta modeļus potenciālajiem riskiem. “Tam patiešām būs nepieciešami modeļi, kas vairāk saskarsies ar robotiem.”
Ar Anthropic pieklājību
Ar Anthropic pieklājību
Anthropic 2021. gadā dibināja bijušie OpenAI darbinieki, kuri uzskatīja, ka AI, attīstoties, var kļūt problemātiska — pat bīstama. Grehems saka, ka mūsdienu modeļi nav pietiekami gudri, lai pilnībā kontrolētu robotu, taču nākotnes modeļi varētu būt tādi. Viņš saka, ka pētījumi par to, kā cilvēki izmanto LLM, lai programmētu robotus, varētu palīdzēt nozarei sagatavoties idejai par “modeļiem, kas galu galā iemieso sevi”, atsaucoties uz ideju, ka AI kādreiz varētu darbināt fiziskas sistēmas.
Joprojām nav skaidrs, kāpēc AI modelis nolemtu pārņemt vadību pār robotu, nemaz nerunājot par kaut ko ļaunu ar to. Taču spekulācijas par sliktāko scenāriju ir daļa no Anthropic zīmola, un tas palīdz pozicionēt uzņēmumu kā galveno spēlētāju atbildīgajā AI kustībā.
Eksperimentā, kas nodēvēts par Mission Fetch, Anthropic lūdza divām pētnieku grupām bez iepriekšējas robotikas pieredzes pārņemt kontroli pār robotsuni Unitree Go2 četrkājis un ieprogrammēt to konkrētu darbību veikšanai. Komandām tika dota piekļuve kontrolierim, pēc tam viņiem tika lūgts izpildīt arvien sarežģītākus uzdevumus. Viena grupa izmantoja Kloda kodēšanas modeli, wager otra rakstīja kodu bez AI palīdzības. Grupa, kas izmantoja Klodu, spēja paveikt dažus, lai gan ne visus, uzdevumus ātrāk nekā programmēšanas grupa, kas paredzēta tikai cilvēkiem. Piemēram, tas varēja likt robotam staigāt apkārt un atrast pludmales bumbu, ko tikai cilvēku grupa nevarēja izdomāt.
Anthropic arī pētīja abu komandu sadarbības dinamiku, reģistrējot un analizējot to mijiedarbību. Viņi atklāja, ka grupa, kurai nebija piekļuves Klodam, izrādīja vairāk negatīvu noskaņojumu un apjukumu. Tas varētu būt tāpēc, ka Klods padarīja savienojumu ātrāku ar robotu un iekodēja vieglāk lietojamu interfeisu.
Ar Anthropic pieklājību
Anthropic eksperimentos izmantotais robots Go2 maksā 16 900 USD — salīdzinoši lēts pēc robotu standartiem. To parasti izmanto tādās nozarēs kā būvniecība un ražošana, lai veiktu attālinātas pārbaudes un drošības patruļas. Robots spēj staigāt autonomi, wager parasti paļaujas uz augsta līmeņa programmatūras komandām vai personu, kas vada kontrolieri. Go2 ražo Unitree, kas atrodas Hangdžou, Ķīnā. Saskaņā ar neseno pētījumu tās AI sistēmas pašlaik ir vispopulārākās tirgū SemiAnalysis ziņojums.
Lielie valodu modeļi, kas darbina ChatGPT un citus gudrus tērzēšanas robotus, parasti ģenerē tekstu vai attēlus, reaģējot uz uzvedni. Pavisam nesen šīs sistēmas ir kļuvušas prasmīgas koda un darbības programmatūras ģenerēšanā, pārvēršot tās par aģentiem, nevis tikai teksta ģeneratoriem.
