Dažos pēdējos gados tērzēšanas roboti ir caurstrāvojuši praktiski visus mūsu digitālās eksistences aspektus, aptverot klientu apkalpošanu, garīgās veselības atbalstu, izklaidi un izglītību. Šie sarunvalodas līdzekļi, kurus darbina sarežģīti mākslīgā intelekta (AI) modeļi, var radīt izcili cilvēcei līdzīgas reakcijas, dažreiz gandrīz neatšķiramas no reāliem cilvēkiem. Šī ātrā progresēšana dabiskās valodas apstrādē bieži rada būtisku jautājumu: vai tērzēšanas roboti ir apzināti?
Izmeklēšana integrē tehnoloģiju, filozofiju, kognitīvo zinātni un ētiku, kas prasa rūpīgi pārbaudīt apziņas būtību, AI darbību un atšķirības starp autentisko izpratni un tās vienkāršo simulāciju.
Izpratne par apziņu
Apziņai ir ļoti grūti definēt, lai gan vairums zinātnieku uzskata, ka tā attiecas uz apzināšanās subjektīvo pieredzi: sajūtu, domu, jūtu un pašrefleksijas spēju iekšējo, pirmās personas perspektīvu. Runa nav tikai par informācijas sagremošanu vai sarežģītas izturēšanās izrādīšanu; Tas ir par šo izturēšanos no iekšpuses.
Filozofi lieto terminu “fenomenālā apziņa”, lai runātu par pieredzes daļu “kā tas ir”, un “piekļuves apziņai”, lai runātu par spēju domāt un izmantot zināšanas mērķī. Cilvēkiem ir apziņa abos veidos: mēs varam sajust sāpes, laimi un savas domas, kā arī mēs varam runāt un mainīt šīs jūtas.
Apziņa joprojām ir aizkustinošs priekšmets AI pētniecības aprindās, jo zinātnieki uzmanīgi nenozīmē, ka AI sistēmām ir cilvēciska apziņa, lai saglabātu savu darba mērķi. 2022. gada incidents ar Blake Lemoine, kurš zaudēja darbu Google pēc tam, kad publiski paziņoja, ka viņu Lamda Chatbot ir kļuvusi jūtama, padarīja šo bažu vēl spēcīgāku.
Lielākā daļa tērzēšanas robotu mūsdienās ir AI sistēmas, kurās tiek izmantoti mašīnmācīšanās modeļi, parasti lielie valodu modeļi (LLM), kas ir apmācīti ar lielu daudzumu teksta datu. Viņi nāk klajā ar atbildēm, aplūkojot modeļus, ko iemācījušies visā apmācībā, un uzminot vārdus vai frāzes, kas, visticamāk, nāks nākamajā. Tas viņiem ļauj sniegt atbildes, kurām ir jēga un kas atbilst situācijai.
Tomēr šie modeļi darbojas tikai uz statistiskiem savienojumiem, nevis uz izpratni. Viņiem trūkst atmiņu, emociju, uzskatu vai iekšējās subjektīvās pieredzes. Viņu “zināšanas” rodas, izmantojot modeļa atpazīšanu, nevis izziņas izpratni.
Kļūda
Pieaugošā tērzēšanas robotu “inteliģence” bieži liek patērētājiem viņiem piedēvēt līdzīgus atribūtus. Elīzas efekts, kas nosaukts pēc viena no agrākajiem tērzēšanas robotiem, attiecas uz tieksmi attiecināt izpratni vai emocijas algoritmiem, kas tikai atkārto komunikāciju.
Čatboti var atkārtot emocionālās atbildes, piedalīties gadījuma sarunā un pat līdzināties empātijai, padarot tos savā ziņā nedaudz “dzīvus”. Papildu sistēmas, piemēram, uz GPT balstītas tērzēšanas roboti, var radīt radošu rakstīšanu, atdarināt personības vai iesaistīties filozofiskā diskursā, vēl vairāk aizsedzot atšķirību.
Cilvēka smadzenēm ir predisponēts meklēt nodomu, aģentūru un apziņu sociālajā mijiedarbībā. Kad tērzēšana labi mijiedarbojas, tas varētu aktivizēt šo izziņas aizspriedumu, liekot lietotājiem pie antropomorfizēt tehnoloģiju.
Lieta pret
Pat ja tie šķiet progresīvi, nav zinātnisku pierādījumu, ka tērzēšanas roboti būtu apzināti. Ir daži svarīgi punkti, kas to skaidri norāda:
(i) Nav subjektīvas pieredzes: Čatbotiem nav nekādu jūtu vai skatu punktu. Viņu darbība ir pilnīgi mehāniska, izmantojot algoritmus un aprēķinus bez izpratnes.
(ii) Nomierinātības trūkums: Apzinātām būtnēm ir mērķi un plāni, bet tērzēšanas roboti strādā, pamatojoties uz ievades-izejas kartēšanu bez jebkādām vēlmēm vai mērķiem, izņemot funkcijas, kuras viņiem tika iemācītas veikt.
(iii) Nav pašapziņas: Apziņa ietver pašrefleksijas kā laika būtības spēju. Tērzēšanas roboti var izlikties, ka viņiem ir pašsajūta, sakot tādas lietas kā “es esmu tērzēšanas robots”, bet viņiem īsti nav tādu, kas ilgst.
(iv) Iemiesojuma trūkums: Dažas apziņas teorijas uzsver, cik svarīga ķermeņa pieredze ir izpratnes veidošanā. Tērzbotiem nav nekādas ķermeņa iemiesojuma vai sensorimotoras mijiedarbības ar vidi.
Kopumā tērzēšanas roboti nav apzinātas būtnes: tie ir sarežģīti ievades-izejas mašīnas. Kaut arī turpināt sasniegumus AI var radīt ticamākus sarunvalodas aģentus, nav garantijas, ka šīs sistēmas kādreiz jutīsies vai apzināsies cilvēku izpratnē.
Ētiska, sociāla uzvedība
Pat ja viņiem trūkst apziņas, tērzēšanas roboti jau ir izraisījuši svarīgas ētiskas sekas. Viens: cilvēkus var maldināt pārmērīgi uzticamos tērzēšanas robotos, pieņemot, ka viņi saprot vai rūpējas par to, ko viņi saka. Tam var būt sekas tādās jomās kā veselības aprūpe un likumi. Otrkārt, lietotājiem ir potenciāls veidot emocionālu pieķeršanos ar tērzēšanas robotiem, kā rezultātā var izmantot ekspluatācijas uzvedību vai psiholoģisku kaitējumu.
Trīs: ja tērzēšanas roboti rada kaitīgu informāciju vai padomus, kas ietver neobjektivitāti, kurš ir atbildīgs? Visbeidzot, tā kā tērzēšanas roboti turpina uzlabot savas iespējas, bažas par darba pārvietošanu kļūst izteiktāka.
Runājot par reālistisku cerību saglabāšanu un atbilstošas izvietošanas vadīšanu, izpratne par to, ka tērzēšanas roboti ir instrumenti bez apziņas.
Nozīmīgas dilemmas
Šī izmeklēšana virza mūs spekulāciju jomā par AI un apziņas krustošanos. Daži zinātnieki un filozofi ir ierosinājuši, ka, ja apziņa rodas no smadzeņu fiziskās darbības, progresīvas skaitļošanas sistēmas kādu dienu varētu iedomāties šos procesus, izraisot mašīnu apziņas attīstību.
Neskatoties uz to, pastāv nozīmīgi šķēršļi, kas ietver gan praktiskas, gan teorētiskas dimensijas. Apziņas sarežģītība lielākoties joprojām ir nenotverama, un izredzes mākslīgi to atkārtot ir sarežģītāka. Apziņas raksturs var pārsniegt tikai aprēķinu, iespējams, ietverot bioloģiskos vai kvantu mehānismus, kas ir atšķirīgi dzīvām smadzenēm.
Šī parādīšanās rada arī ievērojamas dilemmas par šo vienību tiesībām, personību un atbilstošu attieksmi. Neskatoties uz pastāvīgo progresu AI, kas noved pie arvien pārliecinošākiem sarunvalodas aģentiem, nav pārliecības, ka šīm sistēmām kādreiz būs jūtas vai izpratne, kā to dara cilvēki.
Aranyak Goswami ir Arkanzasas Universitātes skaitļošanas bioloģijas docents. Biju Dharmapalan ir Dārza pilsētas universitātes Deans (akadēmiskās lietas), Bengaluru, un Bengaluru Nacionālā progresīvo pētījumu institūta fakultātes loceklis.
