Lielie valodu modeļi, piemēram, ChatGPT, ir izstrādāti tā, lai tie būtu šausmīgi līdzīgi cilvēkiem. Jo vairāk jūs iesaistāties ar šiem AI, jo vieglāk ir pārliecināt sevi, ka viņi ir apzināti, tāpat kā jūs.
Wager vai jūs tiešām esat pie samaņas? Esmu pārliecināts, ka šķiet, ka jūs esat, guess kā jūs to zināt? Ko tas vispār nozīmē būt apzinātam? Neirozinātnieki ir strādājuši, lai atbildētu uz šiem jautājumiem gadu desmitiem, un joprojām nav izstrādājuši vienotu, vispārpieņemtu definīciju, nemaz nerunājot par veidu, kā to pārbaudīt.
Tomēr, AI arvien vairāk integrējoties ikdienas dzīvē, ir jābrīnās: vai šiem robotiem kādreiz varētu būt tāda pašapziņa, kā mēs? Un ja tā, kā mēs to zinātu?
Šim Giz Asksam mēs jautājām neirozinātniekiem, kas būtu nepieciešams, lai pārliecinātu viņus, ka mākslīgais intelekts ir apzināts. Katrs no tiem izcēla dažādus šķēršļus, kas pašlaik ir ceļā, lai pierādītu šo hipotēzi, uzsverot vajadzību vairāk pētīt pašas apziņas pamatu.
Megana Pītersa
Kognitīvo zinātņu un loģikas un zinātnes filozofijas asociētais profesors Kalifornijas Universitātē, Irvinā. Pīterss ir arī zinātniskais līdzstrādnieks Kanādas Progresīvās pētniecības programmas Smadzeņu, prāta un apziņas jomā institūtā un darbojas kā Neuromatch prezidents un valdes priekšsēdētājs. Viņas pētījums pēta, kā smadzenes attēlo un izmanto nenoteiktību.
Grūtākais, lai pārliecinātu neirozinātnieku (vai ikvienu), ka mākslīgais intelekts ir apzināts, ir tas, ka nav objektīva apziņas testa, un šī testa izveide var būt pilnīgi neiespējama.
Apziņa pēc definīcijas ir iekšēja, personiska un subjektīva. Neviens nevar ieskatīties jūsu galvā, lai noteiktu, vai esat pie samaņas! Tā vietā mēs paļaujamies uz ārēji novērojamiem signāliem, piemēram, uzvedību vai smadzeņu darbību, lai secinātu, ka citi cilvēki ir pie samaņas, jo mēs piedzīvojam apziņu un pieņemam to arī citiem, kas uzvedas līdzīgi mums.
Izmantojot AI, mēs nevaram izdarīt tādu pašu pieņēmumu. Tā vietā mēs varam izveidot tikai “testus”, kas stiprina mūsu subjektīvo pārliecību, ka AI ir apzināta. Mēs varam meklēt parakstus mākslīgā intelekta arhitektūrā, iekšējos aktivitāšu modeļos vai uzvedībā, kas liek mums ticēt, ka “tur kāds ir”, taču atcerieties, ka uzskati nav fakti. Tas, ka jūs ticat, ka Saule riņķo ap Zemi, nenozīmē, ka tā ir taisnība!
Pieņemsim, ka mēs veidojam testus, lai stiprinātu mūsu pārliecību, ka AI var būt apzināts. Mums joprojām būs jāpārbauda, vai tas ir pareizi.
Mēs nevēlamies pārbaudīt inteliģenci vai cilvēkiem līdzīgas atbildes (piemēram, Tjūringa tests vai AI ir drauds (Skynet varētu būt vēl biedējošāks, ja tas būtu superinteliģents, guess bezjēdzīgs automāts!). Un mēs nevaram vienkārši jautāt AI, vai tas ir apzināts — kā mēs interpretētu tā reakciju abos virzienos? Varbūt tā ir melošana vai vienkārši gudra statistikas paraugi cilvēku radītā tekstā.
Pēdējā laikā man un citiem ir ierosināts veidus lai sāktu veidot šāda veida “pārliecību vairojošus” AI apziņas testus. Es arī strādāju pie tā, kā mēs varam izlemt, vai konkrētu uz cilvēku balstītu “pārbaudi” var izmantot citās sistēmās, tostarp AI.
Piemēram, mēs varam pārbaudi slimnīcas pacienta apziņai, mērot smadzeņu darbību, reaģējot uz tādām komandām kā “Padomā par tenisa spēlēšanu” vai “Padomā par pastaigu pa savu māju”. Wager šāda veida pārbaude nav piemērojama AI, jo AI nav salīdzināmu “smadzeņu darbības modeļu”. (Starp citu, šī testa izmantošana ar astoņkājiem vai vistām arī ir aizliegta, jo viņi nesaprot valodu un/vai var nespēt iedomāties lietas!)
Citi “testi” varētu jautāt, vai AI demonstrē tādus kognitīvos aprēķinus, kas, pēc pētnieku domām, ir kritiski iesaistīti apziņas veidošanā. Tie varētu būt piemērotāki AI, taču mums joprojām ir jāidentificē pareizie apziņai kritiskie kognitīvie aprēķini.
Pat neskatoties uz to, mums joprojām ir jāatceras, ka mēs patiešām vēlētos jautāt, vai AI ir apziņa, nevis tikai tas, vai mēs ticam, ka tā ir. Mēs, iespējams, nekad nesasniegsim šādu pārliecību, un tikmēr mums ir jābūt uzmanīgiem, lai nesajauktu savu pārliecību par AI apziņu ar objektīva fakta apgalvojumu.
Anils Units
Saseksas Apziņas zinātnes centra direktors un Saseksas universitātes kognitīvās un skaitļošanas neirozinātnes profesors. Units ir arī Kanādas progresīvo pētījumu institūta (CIFAR) smadzeņu, prāta un apziņas programmas līdzdirektors. Viņa pētījumi cenšas izprast apziņas neirobioloģisko pamatu.
Tas ir ļoti grūts jautājums. Kamēr mēs esam iemācījušies pēdējās desmitgadēs ir daudz par apziņas neirobioloģisko pamatu, joprojām nav vienprātības par nepieciešamajiem vai pietiekamiem apziņas nosacījumiem. Tātad ikviens, kurš apgalvo, ka “apzināts AI” ir vai nu noteikti iespējams (vai nenovēršams, vai jau šeit), vai noteikti neiespējams, pārkāpj to, ko var pamatoti teikt.
Šī nenoteiktība nav nekas neparasts. Zinātnei ir raksturīga nenoteiktība, taču nenoteiktības līmenis, kas attiecas uz šo jautājumu, iespējams, ir neparasti augsts, ņemot vērā ļoti atšķirīgos viedokļus par reālas mākslīgās apziņas iespējamību un ticamību.
Tātad, kas mani pārliecinātu, ka mākslīgais intelekts ir apzināts? Nu mani nepārliecinās arvien raitākas sarunas par apziņu ar lieliem valodas modeļiem. Es domāju, ka tendence projicēt apziņu valodas modeļos galvenokārt ir mūsu pašu cilvēku psiholoģisko aizspriedumu atspoguļojums, nevis uzticams ieskats tajā, kas patiesībā notiek.
Man galvenais jautājums ir: cik līdzīgs smadzenēm ir AI, lai virzītu adatu uz mūsu pārliecību, ka “apzināts AI” ir iespējams? Daudzi pētnieki pieņem, ka runa ir tikai par pareizu “aprēķinu” veikšanu. Šajā skatījumā apziņa reālajās smadzenēs ir balstīta uz “neironu aprēķiniem”, taču tā var rasties arī no tiem pašiem vai pietiekami līdzīgiem aprēķiniem, kas īstenoti silīcijā. (Filozofijā šo pozīciju, kas bieži tiek pieņemta netieši, sauc par “skaitļošanas funkcionālismu”).
Es esmu ļoti aizdomīgs pret šo viedokli. Jo vairāk jūs skatāties reālās smadzenēs, jo mazāk ticams šķiet, ka aprēķiniem ir nozīme. Manas pašas skats ir tas, ka detalizētas bioloģiskās īpašības, piemēram, vielmaiņa un autopoēze, var izrādīties nepieciešamas (lai gan nepietiekamas) apziņai. Ja tas ir uz pareizā ceļa, uz silīciju balstīta apzināta AI nav iespējama neatkarīgi no tā, cik gudra tā ir.
Lai es būtu pilnībā pārliecināts, man ir nepieciešams skaidrs priekšstats par pietiekamiem apziņas nosacījumiem un skaidrs priekšstats par to, vai AI atbilst šiem nosacījumiem. Tie var izrādīties tikai skaitļošanas rezultāti, guess es domāju, ka tas ir maz ticams. Alternatīvi, tie var izrādīties saistīti arī ar citām bioloģiskām īpašībām, kas, manuprāt, ir vairāk ticams. Svarīgi, ka ar šo īpašību simulēšanu klasiskajos datoros vien nepietiktu.
Taču būt pilnībā pārliecinātam ir augsta latiņa. Ļoti vienkārši mana stratēģija ir šāda: jo vairāk mēs sapratīsim par apziņu gadījumos, kad zinām, ka tā pastāv, jo drošāk būs mūsu pamats citur. Un mēs tiešām, tiešām, nevajadzētu jebkurā gadījumā mēģināt izveidot apzinātu AI.
Maikls Graciano
Prinstonas Neiroloģijas institūta profesors un pētnieks, kurš pēta apziņas smadzeņu pamatus.
Jautājums ir grūts. Ja tas nozīmē: kas mani pārliecinātu, ka mākslīgajam intelektam piemīt maģiska pieredzes būtība, kas izriet no tā iekšējiem procesiem? Tad mani nekas nepārliecinātu. Tāda lieta neeksistē. Arī cilvēkiem tā nav.
Gandrīz viss darbs mūsdienu apziņas pētījumu jomā ir pseidozinātne, kuras pamatā ir ideja, ka mums ir jāizdomā, kā cilvēkos vai citos aģentos rodas pieredzes maģiska būtība. Līdzīgi kā: “Kur ir lielais caurums zemē, uz rietumiem, kur saule pazūd naktī?” vai: “Kas vada Saules ratus, kad tas pārvietojas pa debesīm?” Pats jautājums ir kļūdains.
Cilvēka smadzenēm ir pašmodelis. Pašmodelis dezinformē mūs, ka mums ir maģiska pieredzes būtība. Pareizāk sakot, pašmodelis ir noderīgs, guess shematisks sevis apraksts. Tā vietā, lai attēlotu 86 miljardu neironu realitāti un to mijiedarbību, modelis attēlo neskaidru, maģijai līdzīgu būtību. Viss, ko mēs domājam, ka zinām par sevi — viss, neatkarīgi no tā, cik esam pārliecināti, ka tā ir patiesība, ir atkarīgs no modeļiem (vai smadzenēs kodētās informācijas kopumiem), kas kā darbības modeļi ir iestrādāti neironu tīklos.
Tagad, ja jūs man jautātu: kas mani pārliecinātu, ka mākslīgajam intelektam ir tāds pats pašmodelis kā cilvēkiem, un tādējādi tam ir tāda pati pārliecība, ka tas ir apzināts? Uz to ir vieglāk atbildēt, vismaz principā.
Mēs joprojām nezinām cilvēka pašmodeļa detaļas, tāpēc salīdzināšana šobrīd ir nedaudz sarežģīta. Taču mākslīgajam intelektam ir noderīga funkcija — mēs varam ieskatīties melnajā kastē un redzēt, kādi attēlojumi, modeļi, informācijas kopas tiek kodētas vai iegultas tās neironu tīklos. Tā sauktā “meh-interp” jeb AI darbības modeļu interpretācija ir agrīnā stadijā, taču tā kļūst arvien sarežģītāka.
Parādiet man, ka mākslīgais intelekts veido stabilu pašmodeli, ka pašmodelis attēlo AI kā ar apzinātu pieredzi un ka attēlojumam ir tādas pašas iezīmes kā cilvēka pašmodelim, un es pieņemu, ka jums ir AI, kas uzskata, ka tas ir apzināts tādā pašā veidā, kā cilvēki uzskata, ka viņi ir apzināti.
Pašmodelis ir viss. Tas veido mūsu personību — mūsu morālo, sociālo un personīgo izpratni par sevi. Jūs esat jūsu pašmodelis. Es domāju, ka tā, iespējams, ir laba ideja un, iespējams, arī neizbēgamība, lai radītu AI stabilu pašmodeli.
