Starp utopiju un sabrukumu: navigācija AI drūmajā vidējā nākotnē

Emuāra ierakstā Maigā singularitāteOpenai izpilddirektors Sems Altmans gleznoja redzējumu par tuvāko nākotni, kur AI klusi un labvēlīgi pārveido cilvēka dzīvi. Viņš nebūs asa pārtraukuma, viņš ierosina, tikai vienmērīgs, gandrīz nemanāms pacelšanās virzienā uz pārpilnību. Intelligence kļūs tikpat pieejama kā elektrība. Roboti līdz 2027. gadam veiks noderīgus reālās pasaules uzdevumus. Zinātniskais atklājums paātrināsies. Un cilvēce, ja to pareizi vadīs rūpīga pārvaldība un labi nodomi, uzplauks.

Tas ir pārliecinošs redzējums: mierīgs, tehnokrātisks un pietiekams ar optimismu. Guess tas arī rada dziļākus jautājumus. Kādai pasaulei mums jāiziet cauri, lai tur nokļūtu? Kas gūst labumu un kad? Un kas paliek neizteikts šajā vienmērīgajā progresa lokā?

Zinātniskās fantastikas autors Viljams Gibsons piedāvā tumšāku scenāriju. Viņa romānā Perifērijasnākotnes mirdzošās tehnoloģijas ir priekšā kaut kas, ko sauc par “džekpotu”-klimata katastrofu, pandēmiju, ekonomikas sabrukuma un masu nāves lēni kustīga kaskāde. Tehnoloģiju attīstība, guess tikai pēc sabiedrības lūzumiem. Viņa uzdotais jautājums nav par to, vai notiek progress, guess gan tas, vai civilizācija šajā procesā plaukst.

Pastāv arguments, ka AI var palīdzēt novērst tādus katastrofas veidus PerifērijasApvidū Tomēr tas, vai AI palīdzēs mums izvairīties no katastrofām vai tikai to pavadīt caur tām caur tām, joprojām ir neskaidrs. Ticība AI nākotnes varai nav veiktspējas garantija, un tehnoloģisko spēju uzlabošana nav liktenis.

Starp Altmana maigo singularitāti un Gibsona džekpotu slēpjas murkier vidējais ceļš: nākotne, kurā AI dod reālus ieguvumus, guess arī reālu dislokāciju. Nākotne, kurā plaukst dažas kopienas, kamēr citas satracina un kur mūsu spēja kolektīvi pielāgoties – ne tikai individuāli vai institucionāli – kļūst par noteicošo mainīgo.

Drūmais vidus

Citas vīzijas palīdz ieskicēt šī vidējā reljefa kontūras. Tuvākajā nākotnes trillerī IedegtSabiedrība ir pārpludināta ar automatizāciju, pirms tās iestādes ir gatavas. Darbs pazūd ātrāk, nekā cilvēki var atkārtoti prasīt, izraisot nemierus un represijas. Tajā veiksmīgs advokāts zaudē savu pozīciju AI aģentam, un viņš nelaimīgi kļūst par tiešsaistes konsjeriju turīgajiem.

Nesen AI Lab Anthropic pētnieki atbalsoties Šī tēma: “Mums vajadzētu gaidīt redzēt [white collar jobs] automatizēts nākamo piecu gadu laikā. ” Kamēr cēloņi ir sarežģīti, ir Pazīmes tas sākas un ka darba tirgus ienāk a jauna strukturālā fāze Tas ir mazāk stabils, mazāk paredzams un, iespējams, mazāks par to, kā sabiedrība izplata nozīmi un drošību.

Filma Elysium Piedāvā neasu metaforu par turīgo bēgšanu uz orbitālajām svētnīcām ar progresīvām tehnoloģijām, savukārt zemāk esošā zeme cīnās ar nevienlīdzīgām tiesībām un piekļuvi. Pirms dažiem gadiem Silīcija ielejas riska kapitāla firmas partneris man teica, ka viņš baidījās, ka mēs dodamies uz šāda veida scenāriju, ja vien mēs vienlīdzīgi neizpiegojam AI radītos ieguvumus. Šīs spekulatīvās pasaules mums atgādina, ka pat labvēlīgās tehnoloģijas var būt sociāli nepastāvīgas, it īpaši, ja to ieguvumi ir nevienmērīgi sadalīti.

Galu galā mēs varam sasniegt kaut ko līdzīgu Altmana redzējumam par pārpilnību. Guess maršruts, visticamāk, nebūs gluds. Par visu savu daiļrunību un mierīgo pārliecību viņa eseja ir arī sava veida piķis, tikpat daudz pārliecināšanas kā pareģojums. Stāstījums par “maigu singularitāti” ir mierinošs, pat pievilcīgs, tieši tāpēc, ka tas apiet berzi. Tas piedāvā nepieredzētas transformācijas priekšrocības, pilnībā nesaskaroties ar satricinājumiem, ko parasti rada šādas pārvērtības. Kā mums atgādina mūžīgā klišeja: ja tas izklausās pārāk labi, lai būtu patiesība, iespējams, tā ir.

Tas nenozīmē, ka viņa nodoms ir nepatīkams. Patiešām, tas var būt sirsnīgs. Mans arguments ir vienkārši atzīšana, ka pasaule ir sarežģīta sistēma, kas ir atvērta neierobežotām ieejām, kurām var būt neparedzamas sekas. No sinerģiskas veiksmes līdz calamitous Melns gulbis Nākotnes notikumu kurss diktē notikumus, reti ir viena lieta vai viena tehnoloģija.

AI ietekme uz sabiedrību jau notiek. Tā nav tikai prasmju un nozaru maiņa; Tā ir pārveidošana, kā mēs organizējam vērtību, uzticēšanos un piederību. Šī ir kolektīvās migrācijas joma: ne tikai darba, guess arī mērķa kustība.

Tā kā AI pārkonfigurē izziņas reljefu, mūsu sociālās pasaules audums mierīgi tiek novilkts un atjaunots, lai labāk vai sliktāk. Jautājums nav tikai tas, cik ātri mēs pārvietojamies kā sabiedrības, guess arī cik pārdomāti mēs migrējam.

Kognitīvās kopienas: mūsu kopīgais izpratnes reljefs

Vēsturiski Commons atsaucās uz kopīgiem fiziskajiem resursiem, ieskaitot ganības, zvejniecību un priekšstatu, kas uzticas kolektīvā labumam. Tomēr mūsdienu sabiedrības tomēr ir atkarīgas arī no kognitīvās kopienas: kopīga zināšanu, stāstījumu, normu un institūciju joma, kas dažādiem indivīdiem ļauj domāt, strīdēties un izlemt kopā minimālā konflikta ietvaros.

Šī nemateriālā infrastruktūra sastāv no sabiedrības izglītības, žurnālistikas, bibliotēkām, pilsoniskajiem rituāliem un pat plaši uzticamiem faktiem, un tas ir tas, kas ļauj plurālismam. Tas ir tas, kā svešinieki apzinās, kā kopienas ir saskaņā un kā darbojas demokrātija. Tā kā AI sistēmas sāk mediēt, kā tiek piekļūtas zināšanām un tiek veidota pārliecība, šis kopīgais reljefa dangers kļūst salauzts. Bīstamība nav vienkārši dezinformācija, guess arī tā paša pamata lēnā erozija, uz kura ir atkarīga kopīga nozīme.

Ja kognitīvā migrācija ir ceļojums, tas nav tikai jaunām prasmēm vai lomām, guess arī uz jauniem kolektīvās izpratnes veidošanas veidiem. Guess kas notiek, kad reljefs, ar kuru mēs dalāmies, sāk sadalīties zem mums?

Kad izziņas fragmenti: AI un kopīgās pasaules erozija

Gadsimtiem ilgi sabiedrības ir paļāvušās uz brīvi turētu kopīgu realitāti: kopīgu faktu, stāstījumu un institūciju kopumu, kas veido to, kā cilvēki saprot pasauli un viens otru. Tieši šī kopīgā pasaule – ne tikai infrastruktūra vai ekonomika – ļauj plurālismam, demokrātijai un sociālajai uzticībai. Guess, tā kā AI sistēmas arvien vairāk mediē to, kā cilvēki piekļūst zināšanām, konstruē pārliecību un pārvietojas ikdienas dzīvē, šī kopīgā pamata ir sadrumstaloša.

Jau jau liela mēroga personalizācija pārveido informatīvo ainavu. AI izstrādātas ziņu plūsmas, pielāgoti meklēšanas rezultāti un ieteikumu algoritmi smalki sagrauj publisko sfēru. Divi cilvēki, kas uzdod vienu un to pašu jautājumu par vienu un to pašu tērzēšanu, var saņemt dažādas atbildes, daļēji pateicoties ģeneratīvās AI varbūtības rakstura dēļ, guess arī iepriekšējās mijiedarbības vai secināto preferenču dēļ. Kaut arī personalizācija jau sen ir bijusi digitālā laikmeta iezīme, AI turbokompresorē tā sasniedzamība un smalkums. Rezultāts nav tikai Filtra burbuļitā ir epistemiska dreifēšana – zināšanu un potenciāla patiesības pārveidošana.

Vēsturnieks Yuval Noa Harari ir paudis steidzamas bažas par šo maiņu. Pēc viņa domām, vislielākais AI drauds ir nevis fiziska kaitējuma vai darba pārvietošanas dēļ, guess gan emocionālā uztveršanā. AI sistēmas, viņš ir brīdinājis, kļūst arvien prasmīgāks par empātijas imitāciju, atdarināšanu un stāstījumu pielāgošanu individuālajai psiholoģijai – piešķirot tām nepieredzētu spēku, lai veidotu to, kā cilvēki domā, izjūt un piešķir vērtību. Bīstamība ir milzīga, pēc Harari domām, nevis tāpēc, ka AI melos, guess gan tāpēc, ka, to darot, tas tik pārliecinoši savienosies. Tas neveicas labi Maigā singularitāteApvidū

Pasaulē ar AI starpniecību pati realitāte riskē kļūt individualizētāka, modulārāka un mazāk kolektīvi sarunām. Tas var būt pieļaujams vai pat noderīgs patēriņa precēm vai izklaidei. Guess, ja tas attiecas uz pilsonisko dzīvi, tas rada dziļākus riskus. Vai mēs joprojām varam rīkot demokrātisku diskursu, ja katrs pilsonis apdzīvo smalki atšķirīgu izziņas karti? Vai mēs joprojām varam gudri pārvaldīt, kad institucionālās zināšanas arvien vairāk tiek nodotas ārpakalpojumiem mašīnām, kuru apmācības dati, sistēmas pamudinājumi un spriešanas procesi paliek necaurspīdīgi?

Ir arī citi izaicinājumi. AI ģenerēts saturs, ieskaitot tekstu, audio un video, drīz nebūs atšķirams no cilvēku izvades. Tā kā ģeneratīvie modeļi arvien prasmīgāk atdarina, verifikācijas slogs pāriet no sistēmām uz indivīdiem. Šī inversija var mazināt uzticēšanos ne tikai tajā, ko mēs redzam un dzirdam, guess arī iestādēs, kas savulaik apstiprināja kopīgu patiesību. Pēc tam kognitīvie kopumi kļūst piesārņoti, mazāk par pārdomām, vairāk spoguļu zāli.

Tās nav spekulatīvas raizes. AI ģenerēta dezinformācija sarežģī vēlēšanas, grauj žurnālistiku un rada neskaidrības konfliktu zonās. Un tā kā arvien vairāk cilvēku paļaujas uz AI kognitīvajiem uzdevumiem – sākot no ziņu apkopošanas līdz morālo dilemmu atrisināšanai, spēja domāt kopā var pasliktināties, pat ja tas ir instrumenti, lai domātu individuāli kļūt spēcīgākiem.

Šī tendence uz dalītās realitātes sadalīšanos tagad ir labi attīstīta. Lai izvairītos no tā, ir nepieciešams apzināts skaitītāja dizains: sistēmas, kas par prioritāti izvirza plurālismu, salīdzinot ar personalizāciju, pārredzamību salīdzinājumā ar ērtībām un kopīgu nozīmi salīdzinājumā ar pielāgotu realitāti. Mūsu algoritmiskajā pasaulē, kuru virza konkurence un peļņa, šī izvēle šķiet maz ticama, vismaz mērogā. Jautājums ir ne tikai tas, cik ātri mēs pārvietojamies kā sabiedrības, vai pat to, vai mēs varam turēties kopā, guess arī cik saprātīgi mēs virzāmies šajā kopīgajā ceļojumā.

Navigācija arhipelāgā: pret gudrību AI laikmetā

Ja AI vecums ved nevis uz vienotu kognitīvo kopienu, guess gan uz atšķirīgu indivīdu un kopienu salauztu arhipelāgu, mūsu priekšā esošais uzdevums nav atjaunot veco reljefu, guess gan iemācīties gudri dzīvot starp salām.

Tā kā pārmaiņu ātrums un joma pārspēj lielāko daļu cilvēku spēju pielāgoties, daudzi jutīsies netraucēti. Darbs tiks zaudēts, tāpat kā ilgstošie vērtības, kompetences un piederības stāstījumi. Kognitīvā migrācija novedīs pie jaunām jēgas kopienām, no kurām dažas jau veidojas, pat ja tām ir mazāk kopīga nekā iepriekšējos laikos. Tie ir kognitīvie arhipelagi: kopienas, kurās cilvēki pulcējas ap kopīgiem uzskatiem, estētiskajiem stiliem, ideoloģijām, atpūtas interesēm vai emocionālām vajadzībām. Daži no tiem ir labdabīgas radošuma, atbalsta vai mērķa pulcēšanās. Citi ir izolīgāki un bīstamāki, kurus vada bailes, sūdzības vai sazvērestības domāšana.

AI virzīšana paātrinās šo tendenci. Pat ja tas atšķir cilvēkus, izmantojot algoritmisko precizitāti, tas vienlaikus palīdzēs cilvēkiem atrast viens otru visā pasaulē, veidojot arvien smalkākām identitātes saskaņošanu. Guess, to darot, tas var apgrūtināt neapstrādātu, guess nepieciešamo plurālisma berzi. Vietējās saites var vājināties. Parastās pārliecības sistēmas un kopīgas realitātes uztvere var mazināties. Demokrātija, kas balstās gan uz kopīgu realitāti, gan pārdomātu dialogu, var cīnīties par turēšanu.

Kā mēs pārvietojamies šajā jaunajā reljefā ar gudrību, cieņu un savienojumu? Ja mēs nevaram novērst sadrumstalotību, kā mēs tajā dzīvojam humāniski? Varbūt atbilde sākas nevis ar risinājumiem, guess gan ar iemācīšanos pati uzdot jautājumu savādāk.

Dzīvošana ar jautājumu

Iespējams, ka mēs nevaram salikt sabiedrības kognitīvās kopienas, kā tas bija kādreiz. Centrs var neturēt, guess tas nenozīmē, ka mums ir jāvirzās bez virziena. Visā arhipelagos uzdevums būs iemācīties gudri dzīvot šajā jaunajā reljefā.

Tam var būt nepieciešami rituāli, kas mūs noenkuro, kad mūsu rīki dezorientējas, un kopienas, kas veidojas nevis ap ideoloģisko tīrību, guess gan par kopīgu atbildību. Mums, iespējams, būs vajadzīgas jaunas izglītības formas, nevis lai pārsūtītu vai samīļotu ar mašīnām, guess gan padziļinātu mūsu spēju izzināt, kontekstu un ētisku domu.

Ja AI ir atdalījusi zemi zem mums, tā arī piedāvā iespēju vēlreiz pajautāt, par ko mēs šeit esam. Nevis kā progresa patērētāji, guess gan kā jēgas pārvaldnieki.

Ceļš uz priekšu, visticamāk, nav gluds vai maigs. Kad mēs pārvietojamies cauri drūmajam vidienam, iespējams, gudrības zīme nav spēja apgūt to, kas nāk, guess gan ar skaidrību, drosmi un rūpību staigāt pa to. Mēs nevaram apturēt tehnoloģiju attīstību vai noliegt padziļinātos sabiedrības lūzumus, guess mēs varam izvēlēties, lai telpas būtu starp tām.

Gerijs Grosmans ir EVP no tehnoloģiju prakses Edelmanā.