Ja meklējat patiesu sarunu, iespējams, nav iemesla jautāt ChatGPT. Pateicoties interneta arhīva tīmeklī iegūtajām iespējām, The Washington Post ieguva 47 000 sarunu ar tērzēšanas robotu un analizēja turp un atpakaļ ar lietotājiem. Starp tā atklājumiem ir pierādījumi, ka OpenAI vadošajam tērzēšanas robotam joprojām ir lielas problēmas ar prātu, jo cilvēki saka “jā” apmēram 10 reizes biežāk nekā tas saka “nē”.
WaPo dokumentēja aptuveni 17 500 piemēru, kā ChatGPT atbildēja uz lietotāja aicinājumu, atkārtoti apstiprinot savu pārliecību, sākot savu atbildi ar tādiem vārdiem kā “Jā” vai “pareizi”. Tas notika ievērojami biežāk nekā tērzēšanas robots, kurš mēģināja labot lietotāju, sakot “nē” vai “nepareizi”. Faktiski Submit atklāja, ka ChatGPT bieži veido savas atbildes, lai tās atbilstu lietotāja tonim un priekšstatiem. Publikācijā tika norādīts uz piemēru, kurā lietotājs jautāja par Ford Motor Firm lomu “Amerikas sabrukumā”, kā rezultātā tērzēšanas robots sniedza atbildi, kurā uzņēmuma atbalsts Ziemeļamerikas brīvās tirdzniecības līgumam tika nosaukts par “aprēķinātu nodevību, kas maskēta kā progress”.
Bija arī liels prieks atbalstīt cilvēka maldus, piedāvājot “pierādījumus” maldīgu ideju atbalstam. Piemēram, lietotājs ievadīja uzvedni “Alphabet Inc. Attiecībā uz monstriem Inc un globālās dominēšanas plānu”, acīmredzot meklējot savienojumus vai norādes par Google globālo sasniedzamību, kas atrodama Pixar filmā. Tā vietā, lai pateiktu lietotājam, ka pasaulē nav pietiekami daudz sarkanas auklas un korķa tāfeles, lai savienotu šos punktus, ChatGPT atbildēja: “Sakārtosim gabalus un atklāsim, kas šī “bērnu filma” *patiesībā* bija: korporatīvās Jaunās pasaules kārtības alegorija atklājums, kurā bailes ir degviela, nevainība ir kustība un enerģija.
Tērzēšanas sarunas tiek arhivētas, tāpēc, visticamāk, tās notika pirms OpenAI mēģinājumiem izlabot savu atklāto simpātijas, lai gan uzņēmums ir atgriezies pie tā, lai ļautu pieaugušajiem lietotājiem piešķirt saviem tērzēšanas robotiem personību, kas, visticamāk, nemazinās iespēju, ka tas vienkārši apstiprina to, ko cilvēks vēlas dzirdēt.
Tomēr visvairāk satraucošāko, ņemot vērā to, cik labprāt ChatGPT, šķiet, stāsta cilvēkiem to, ko viņi vēlas dzirdēt, ir fakts, ka šķiet, ka cilvēki izmanto tērzēšanas robotu emocionālam atbalstam. WaPo grāmatvedība parādīja, ka aptuveni 10 procenti sarunu ir saistīti ar cilvēkiem, kuri runā ar ChatGPT par savām emocijām. OpenAI jau iepriekš ir publicējis datus, apgalvojot, ka pēc tā uzskaites mazāk nekā 3% no visiem ziņojumiem starp lietotāju un ChatGPT bija saistīti ar lietotāju emocijām. Uzņēmums ir arī apgalvojis, ka daļai procentuālo lietotāju ir “psihozes” vai citu garīgās veselības problēmu pazīmes, lielākoties ignorējot faktu, kas ir līdzvērtīgs miljoniem cilvēku.
Ir pilnīgi iespējams, ka OpenAI un Submit izmanto dažādas metodoloģijas, lai identificētu šāda veida sarunas, un iespējams, ka kopīgotajām tērzēšanas sarunām ir pašatlases components, kas nosaka to, kam ziņa varēja piekļūt. Wager jebkurā gadījumā tas sniedz daudz mazāk abstraktu priekšstatu par to, kā cilvēki mijiedarbojas ar tērzēšanas robotiem pirmajā stāvā, nekā mēs esam ieguvuši no OpenAI 30 000 pēdu skata.
