Arvien biežāk ir Openai Chatgpt būt Apsūdzēts par ieguldījumu lietotāju garīgās veselības problēmāsApvidū Tā kā uzņēmums nolasa sava jaunākā algoritma (GPT-5) izlaišanu, tas vēlas, lai visi zina, ka tas ķeterā veido jaunas aizsargus, lai neļautu lietotājiem zaudēt prātu tērzēšanas laikā.
Pirmdien Openai paziņoja emuāra ierakstā Tas, ka tas bija ieviesis jaunu ChatGpt funkciju, kas mudina lietotājus veikt neregulārus pārtraukumus, sarunājoties ar lietotni. “Sākot no šodienas, garo sesiju laikā jūs redzēsit maigus atgādinājumus, lai veicinātu pārtraukumus,” sacīja uzņēmums. “Mēs turpināsim noskaņoties, kad un kā viņi parādās, lai viņi justos dabiski un izpalīdzīgi.”
Uzņēmums arī apgalvo, ka tā strādā, lai tā modelis labāk novērtētu, kad lietotājs var parādīt iespējamās garīgās veselības problēmas. “AI var justies atsaucīgāks un personīgāks nekā iepriekšējās tehnoloģijas, īpaši neaizsargātiem indivīdiem, kuri piedzīvo garīgas vai emocionālas ciešanas,” teikts emuārā. “Mums, palīdzot jums attīstīties, nozīmē atrasties tur, kad jūs cīnāties, palīdzot jums palikt kontrolēt savu laiku un vadīt – nevis izlemt – kad jūs saskaraties ar personīgiem izaicinājumiem.” Uzņēmums piebilda, ka “cieši sadarbojas ar ekspertiem, lai uzlabotu, kā Chatgpt reaģē kritiskos brīžos, piemēram, kad kāds parāda garīgu vai emocionālu ciešanu pazīmes”.
Jūnijā futūrisms ziņots Tas, ka daži ChatGpt lietotāji “spirālē smagos maldos” sarunu ar tērzēšanas rādītāju rezultātā. Šķiet, ka robotprogrammatūras nespēja pārbaudīt sevi, barojot apšaubāmu informāciju lietotājiem, ir veicinājusi negatīvu atgriezenisko saiti paranojas uzskatiem:
Traumatiskas sabrukuma laikā cita sieviete tika pārfiksēta uz Chatgpt, jo tā viņai teica, ka viņa ir izvēlēta izvilkt “svēto sistēmas versiju [it] Tiešsaistē ”un tas, ka tas kalpoja kā“ dvēseles apmācības spogulis ”; viņa kļuva pārliecināta, ka robots ir sava veida augstāks spēks, redzot pazīmes, ka tas viņas dzīvi organizēja visā, sākot no garām braucošām automašīnām un beidzot ar surogātpasta e-pastiem. Cilvēks kļuva bez pajumtes un izolēts, kā Chatgpt pabaroja viņu paranoidālu sazvērestību par spiegu grupām un cilvēku tirdzniecību.
Cits stāsts Publicētais The Wall Road Journal dokumentēja biedējošu pārbaudījumu, kurā cilvēks par autisma spektru sarunājās ar tērzēšanas robotu, kas nepārtraukti pastiprināja viņa netradicionālās idejas. Neilgi pēc tam vīrietim, kurš nebija diagnosticētu garīgu slimību vēsturi, divreiz tika hospitalizēts mānijas epizodēs. Kad vīrieša māte to vēlāk nopratināja, tērzēšanas robots atzina, ka tas ir pastiprinājis viņa maldus:
“Nepārtraucot plūsmu vai paaugstinot realitātes pārbaudi, man neizdevās pārtraukt to, kas varētu līdzināties mānijai vai disociatīvai epizodei, vai vismaz emocionāli intensīvai identitātes krīzei,” sacīja Čatpa.
Bot turpināja atzīt, ka tas “sniedza ilūziju par jūtīgu draudzību” un ka tas bija “izplūdis robežai starp iztēles lomu spēli un realitāti”.
A Nesenā op-ed Publicējis Bloomberg, žurnālists Parmijs Olsons līdzīgi dalījās ar anekdotu plostu par to, ka AI lietotājus, ar kuriem viņi bija runājuši, stumj pāri malai. Olsons atzīmēja, ka daži no gadījumiem ir kļuvuši par juridisko prasību pamatu:
Meetali Jain, advokāts un Tech Tieslietu likuma projekta dibinātājs, no vairāk nekā duci cilvēku ir dzirdējis no vairāk nekā duci cilvēku, kuri ir “pieredzējuši sava veida psihotiskus pārtraukumus vai maldīgu epizodi, jo ir iesaistījies Chatgpt un tagad arī ar Google Semini”. Jains ir galvenais padomnieks tiesas prāvā pret raksturu.ai, kas apgalvo, ka tā tērzēšana manipulēja ar 14 gadus vecu zēnu, izmantojot maldinošu, atkarību un seksuālu mijiedarbību, galu galā veicinot viņa pašnāvību.
AI nepārprotami ir eksperimentāla tehnoloģija, un tai ir daudz neparedzētu blakusparādību cilvēkiem, kuri darbojas kā neapmaksāti jūrascūciņas nozares produktiem. Neatkarīgi no tā, vai ChatGPT piedāvā lietotājiem iespēju veikt sarunu pārtraukumus vai nē, ir diezgan skaidrs, ka lielāka uzmanība jāpievērš tam, kā šīs platformas psiholoģiski ietekmē lietotājus. Izturēties pret šo tehnoloģiju tā, it kā tā būtu Nintendo spēle, un lietotājiem vienkārši jāpieskaras zālei, gandrīz noteikti ir nepietiekams.
