Ja jūs sasniedzat punktu, kurā progress ir pārspējis spēju padarīt sistēmas drošas, vai jūs paņemtu pauzi?
Es nedomāju, ka šodienas sistēmas rada jebkāda veida eksistenciālu risku, tāpēc tas joprojām ir teorētisks. Ģeopolitiskie jautājumi faktiski varētu kļūt sarežģītāki. Wager, ņemot vērā pietiekami daudz laika un pietiekami daudz rūpes un pārdomas, kā arī zinātniskās metodes izmantošanu…
Ja laika rāmis ir tik saspringts, kā jūs sakāt, mums nav daudz laika aprūpei un pārdomām.
Mēs nebūt ir daudz laika. Mēs arvien vairāk ieviešam resursus drošībā un tādās lietās kā kibernoziegumi, kā arī izpētīt, jūs zināt, kontrolējamības un izpratni par šīm sistēmām, ko dažreiz sauc par mehānisko interpretāciju. Un tad tajā pašā laikā mums ir jāveic arī sabiedrības debates par institucionālo ēku. Kā mēs vēlamies, lai pārvaldība darbotos? Kā mēs iegūsim starptautisku vienošanos, vismaz pēc dažiem pamatprincipiem par to, kā šīs sistēmas tiek izmantotas un izvietotas, kā arī būvētas?
Cik daudz, jūsuprāt, AI mainīs vai novērsīs cilvēku darbu?
Tiek izveidotas jaunas darba vietas, kas parasti notiek, izmantojot jaunus rīkus vai tehnoloģijas un patiesībā ir labāki. Mēs redzēsim, vai tas šoreiz ir savādāk, wager nākamajos pāris gados mums būs šie neticamie rīki, kas pārņem mūsu produktivitāti un patiesībā gandrīz padarīs mūs mazliet pārcilvēcīgus.
Ja AGI var darīt visu, ko cilvēki var darīt, tad šķiet, ka tas varētu darīt arī jaunās darba vietas.
Ir daudz lietu, ko mēs nevēlamies darīt ar mašīnu. Ārstam varētu palīdzēt AI rīks, vai arī jums pat var būt AI veida ārsts. Wager jūs negribētu robotu medmāsu – ir kaut kas par šīs aprūpes cilvēka empātijas aspektu, kas ir īpaši humānistisks.
Pastāstiet man, ko jūs iedomājaties, skatoties uz mūsu nākotni 20 gadu laikā, un saskaņā ar jūsu prognozi AGI ir visur?
Ja viss iet labi, tad mums vajadzētu būt radikāla pārpilnības laikmetā, sava veida zelta laikmetā. AGI var atrisināt to, ko es saucu par sakņu mezglu problēmām pasaulē, radot briesmīgas slimības, daudz veselīgāku un ilgāku mūžu, atrodot jaunus enerģijas avotus. Ja tas viss notiek, tad tam vajadzētu būt maksimāla cilvēka uzplaukuma laikmetam, kur mēs ceļojam uz zvaigznēm un kolonizējam galaktiku. Es domāju, ka tas sāks notikt 2030. gadā.
Es esmu skeptisks. Rietumu pasaulē mums ir neticami pārpilnība, wager mēs to godīgi neizplatām. Runājot par lielu problēmu risināšanu, mums nav vajadzīgas atbildes tik daudz, cik atrisināt. Mums nav nepieciešams AGI, lai mums pateiktu, kā labot klimata pārmaiņas – mēs zinām, kā. Wager mēs to nedarām.
Es tam piekrītu. Mēs kā suga esam bijuši sabiedrība, kas nav laba sadarbībā. Mūsu dabiskie biotopi tiek iznīcināti, un tas ir daļēji tāpēc, ka tas prasītu cilvēkiem upurēt, un cilvēki to nevēlas. Wager šis radikālais AI pārpilnība liks lietām justies kā spēlei, kas nav nulle summa-
AGI mainītu cilvēka uzvedību?
Jā. Ļaujiet man sniegt jums ļoti vienkāršu piemēru. Piekļuve ūdenim būs milzīga problēma, wager mums ir risinājums – jaunība. Tas maksā daudz enerģijas, wager, ja bija atjaunojama, brīva, tīra enerģija [because AI came up with it] No saplūšanas, tad pēkšņi jūs atrisināt piekļuves problēmu ūdens. Pēkšņi tā vairs nav nulles summas spēle.
