Microsoft AI izpilddirektors Mustafa Suleimans ir skaidrs: AI nav cilvēks un tam nav patiesas cilvēka apziņas. Bet ģeneratīvās AI šķēru ātruma virzība padara to grūtāk un grūtāk atpazīst. Sekas ir potenciāli postošas, viņš rakstīja otrdien esejā viņa personīgajā emuārā.
Suleymana 4600 vārdu traktāts ir savlaicīga reakcija uz pieaugošo AI lietotāju parādību, kas attiecina uz AI rīkiem, kas ir cilvēka apziņas īpašības. Tā nav nepamatota reakcija; Mums ir cilvēka daba iedomāties, ka ir prāts vai cilvēks aiz valodas, kā man paskaidroja viens AI eksperts un valodnieks. Bet AI spēju sasniegumi ļāva cilvēkiem izmantot tērzēšanas robotus ne tikai kā meklētājprogrammas vai pētniecības rīkus, bet arī kā terapeitus, draugus un romantiskus partnerus. Šie AI pavadoņi ir sava veida “šķietami apzināta AI”, termins Suleimans izmanto, lai definētu AI, kas var pārliecināt, ka tas ir “jauna veida” cilvēks “.” Ar to rodas daudz jautājumu un iespējamo briesmu.
Esejas sākumā Suleimans rūpējas, lai uzsvērtu, ka šīs ir viņa personīgās domas, kas nozīmē, ka tās nav oficiāla Microsoft nostāja un ka viņa viedoklis laika gaitā varētu attīstīties. Bet gūt ieskatu no viena no tehnoloģiju giganta vadītājiem, kas vada AI revolūciju, ir logs uz šo instrumentu nākotni un to, kā mūsu attiecības ar viņiem varētu mainīties. Viņš brīdina, ka, lai arī AI nav cilvēks, tehnoloģijas sabiedrības ietekme ir tūlītēja un steidzama.
Skatieties šo: Kā jūs runājat ar Chatgpt svarīgumu. Lūk, kāpēc
“Šķietami apzinātas ai” briesmas
Cilvēka apziņu ir grūti definēt. Bet daudzas no iezīmēm Suleimans apraksta apziņas noteikšanu var redzēt AI tehnoloģijā: spēju izteikties dabiskā valodā, personībā, atmiņā, mērķu izvirzīšanā un plānošanā, piemēram. Tas ir kaut kas, ko mēs varam redzēt, jo īpaši ar aģentu AI pieaugumu: ja AI var patstāvīgi plānot un pabeigt uzdevumu, izvelkot no tās atmiņas un datu kopām, un pēc tam izteikt savus rezultātus viegli lasāmā, jautrā veidā, kas jūtas kā ļoti cilvēciski līdzīgs process, kaut arī tas tā nav. Un, ja kaut kas jūtas cilvēcīgs, mēs parasti sliecamies dot tai zināmu autonomiju un tiesības.
Suleimans vēlas, lai mēs un AI uzņēmumi tagad iepludinātu šo ideju pumpurā. Ideja par “modeļa labklājību” varētu “saasināt maldus, radīt vēl vairāk atkarību saistītu problēmu, upuri par mūsu psiholoģisko ievainojamību, ievieš jaunas polarizācijas dimensijas, sarežģī esošās cīņas par tiesībām un rada milzīgu jaunu kategorijas kļūdu sabiedrībai,” viņš raksta.
Ir ļoti ļoti liels skaits piemēru, kas norāda uz postošajām sekām. Daudzi stāsti un tiesas prāvas ir parādījušās par tērzēšanas robotu “terapeitiem”, kas izsniegtu sliktus un bīstamus padomus, tostarp veicinot paškaitējumu un pašnāvību. Riski ir īpaši spēcīgi bērniem un pusaudžiem. Meta AI vadlīnijas nesen nonāca ugunī, lai ļautu “jutekliskām” tērzēšanai ar bērniem, un raksturs.ai ir bijis lielas bažas un Floridas mammas tiesas prāvas mērķis apgalvojums Platforma ir atbildīga par viņas pusaudža pašnāvību. Mēs arī uzzinām vairāk par to, kā darbojas mūsu smadzenes, kad mēs izmantojam AI un cik bieži cilvēki to izmanto.
Lasīt vairāk: AI datu centri nāk uz jūsu zemi, ūdeni un jaudu
Suleimans apgalvo, ka mums šodien vajadzētu aizsargāt esošo cilvēku labklājību un tiesības, kā arī dzīvnieki un vide. Tajā, ko viņš sauc par “pasauli, kas jau klīst ar polarizētiem argumentiem par identitāti un tiesībām”, debates par šķietami apzinātu AI un AI potenciālo cilvēci “sabiedrībā pievienos haotisku jauno dalīšanas asi”.
Runājot par praktiskiem nākamajiem soļiem, Suleimans atbalsta papildu pētījumu par to, kā cilvēki mijiedarbojas ar AI. Viņš arī aicina AI uzņēmumus skaidri pateikt, ka viņu AI produkti nav apzināti, un nemudināt cilvēkus domāt, ka viņi ir, līdz ar atvērtāku dizaina principu un aizsargmargu dalīšanu, kas efektīvi attur problemātiskus AI lietošanas gadījumus. Viņš saka, ka viņa komanda Microsoft šādā proaktīvā veidā veidos AI, bet nesniedz nekādu specifiku.
