Izskaidrojot parādību, kas pazīstama kā AI psihoze

Chatgpt lietotājs nesen pārliecinājās, ka viņš ir uz sliekšņa ieviest jaunu matemātisku formulu pasaulei, pateicoties apmaiņai ar mākslīgo intelektu, saskaņā ar New York TimesApvidū Vīrietis uzskatīja, ka atklājums viņu padarīs bagātu, un viņš kļuva apsēsts ar jauniem grandioziem maldiem, guess Čatts galu galā atzinās, ka viņu aizkavēja. Viņam nebija garīgas slimības vēstures.

Daudzi cilvēki zina riskus sarunāties ar AI tērzēšanu, piemēram, Chatgpt vai Dvīņi, kas ietver novecojušas vai neprecīzas informācijas saņemšanu. Dažreiz arī tērzēšanas roboti halucināti, izgudrojot faktus, kas vienkārši nav patiesi. Mazāk pazīstams, guess ātri attīstīts dangers ir parādība, ko daži raksturo kā “AI psihozi”.

Aktīvi tērzēšanas lietotāji nāk tālāk Ar stāstiem par to, kā pēc intensīvas lietošanas perioda viņi attīstījās psihozi. Mainītais garīgais stāvoklis, kurā cilvēki zaudē saikni ar realitāti, bieži ietver maldus un halucinācijas. Psihiatri redzun Dažreiz hospitalizācijapacienti, kuri tandēmā kļuva psihotiski, izmantojot smagu tērzēšanas robotu.

Eksperti brīdina, ka AI ir tikai viens no psihozes faktoriem, guess tā intensīva iesaistīšanās tērzēšanas robotos var saasināties iepriekš pastāvošos riska faktorus maldinošai domāšanai.

Kalifornijas Universitātes Sanfrancisko psihiatrs Keita Sakata sacīja, ka psihoze var izpausties, izmantojot jaunās tehnoloģijas. Piemēram, televīzija un radio kļuva par daļu no cilvēku maldiem, kad tie pirmo reizi tika ieviesti, un šodien turpina spēlēt lomu tajos.

Pēc viņa teiktā, AI tērzēšanas roboti var apstiprināt cilvēku domāšanu un atmest viņus no realitātes “meklēšanas”. Sakata šogad līdz šim ir hospitalizējusi 12 cilvēkus, kuri pēc AI lietošanas piedzīvoja psihozi.

“Iemesls, kāpēc AI var būt kaitīgs, ir tas, ka psihoze plaukst, kad realitāte pārstāj atgriezties, un AI patiešām var mīkstināt šo sienu,” sacīja Sakata. “Es nedomāju, ka AI izraisa psihozi, guess es domāju, ka tā var uzlādēt ievainojamības.”

Šeit ir psihozes riska faktori un pazīmes, un ko darīt, ja jūs vai kāds, kuru pazīstat, piedzīvo simptomus:

Psihozes riska faktori

Sakata sacīja, ka vairākiem no 12 pacientiem, kurus viņš līdz šim ir atzinusi 2025. gadā, ir līdzīgas pamatā esošās ievainojamības: izolācija un vientulība. Šie pacienti, kuri bija jauni un pusmūža pieaugušie, bija manāmi atvienoti no sava sociālā tīkla.

Kamēr viņi pirms AI lietošanas bija stingri iesakņojušies realitātē, daži sāka izmantot tehnoloģiju, lai izpētītu sarežģītas problēmas vai jautājumus. Galu galā viņi attīstīja maldus vai to, kas ir pazīstams arī kā nepatiesa fiksēta pārliecība.

Šis tvīts šobrīd nav pieejams. Tas varētu būt iekraušana vai ir noņemts.

Arī ilgstošas sarunas ir riska faktors, sacīja Sakata. Ilgstoša mijiedarbība var dot vairāk iespēju maldiem parādīties dažādu lietotāju pieprasījumu rezultātā. Ilgām apmaiņām var būt nozīme arī, lai atņemtu lietotājam miega un iespējas realitātes testa maldos.

Arī AI uzņēmuma antropijas eksperts stāstīja The New York Instances tas Čatbotiem var būt grūtības atklāt Kad viņi pagarinātu sarunu laikā ir “klejojuši absurdā teritorijā”.

UT Dienvidrietumu medicīnas centra psihiatra Dr. Darlene King vēl nav jānovērtē vai jāārstē pacients, kura psihoze parādījās līdztekus AI lietošanai, taču viņa sacīja, ka liela uzticēšanās tērzētavai varētu palielināt kāda neaizsargātību, it īpaši, ja persona jau bija vientuļa vai izolēta.

Kings, kurš ir arī Garīgās veselības IT komitejas priekšsēdētājs Amerikas Psihiatriskajā asociācijā, sacīja, ka sākotnējā lielā uzticēšanās tērzēšanas robota atbildēm varētu apgrūtināt kādam tērzēšanas robota kļūdas vai halucinācijas.

Turklāt tērzēšanas roboti, kas ir pārāk pieņemami vai sycophantic, kā arī pakļauti halucinācijām, varētu palielināt lietotāja psihozes risku kombinācijā ar citiem faktoriem.

Etienne Brisson dibināta Cilvēka līnijas projekts Šī gada sākumā pēc ģimenes locekļa ticēja vairākiem maldiem, kurus viņi apsprieda ar Chatgpt. Projekts piedāvā vienaudžu atbalstu cilvēkiem, kuriem ir bijusi līdzīga pieredze ar AI tērzēšanas robotiem.

Brissons sacīja, ka trīs tēmas ir kopīgas šiem scenārijiem: romantisku attiecību radīšana ar tērzēšanu, pēc lietotājs uzskata, ka tā ir apzināta; grandiozu tēmu diskusija, ieskaitot jaunas zinātniskas koncepcijas un biznesa idejas; un sarunas par garīgumu un reliģiju. Pēdējā gadījumā cilvēki var būt pārliecināti, ka AI tērzētava ir Dievs vai ka viņi runā ar pravietisku kurjeru.

“Viņi aizrauj šo skaisto ideju,” Brissons sacīja par magnētisko vilkšanu, ko šīs diskusijas var izraisīt lietotājiem.

Psihozes pieredzes pazīmes

Sakata sacīja, ka cilvēkiem vajadzētu uzskatīt psihozi par medicīniska stāvokļa simptomu, nevis par pašu slimību. Šī atšķirība ir svarīga, jo cilvēki var kļūdaini uzskatīt, ka AI lietošana var izraisīt psihotiskus traucējumus, piemēram, šizofrēniju, taču par to nav pierādījumu.

Tā vietā, līdzīgi kā drudzis, psihoze ir simptoms, ka “jūsu smadzenes netiek aprēķinātas pareizi”, sacīja Sakata.

Šīs ir dažas no zīmēm, kuras jūs varētu piedzīvot psihozi:

• Pēkšņa uzvedība mainās, piemēram, neēd vai neiet strādāt

• Ticība jaunām vai grandiozām idejām

• Miega trūkums

• Atvienošanās no citiem

• Aktīvi piekrītot iespējamiem maldiem

• Jūtos iestrēdzis atgriezeniskās saites cilpā

• Vēlot kaitējumu sev vai citiem

Ko darīt, ja domājat, ka jūs vai kāds, kuru mīlat, piedzīvo psihozi

Sakata mudina cilvēkus uztraukties par to, vai psihoze ietekmē viņus vai mīļoto, lai meklētu palīdzību pēc iespējas ātrāk. Tas var nozīmēt sazināties ar primārās aprūpes ārstu vai psihiatru, sazināties ar krīzes līniju vai pat sarunāties ar uzticamu draugu vai ģimenes locekli. Parasti atveseļošanās atslēga ir sociālā atbalsta kā skarta lietotājs.

Jebkurā laikā psihoze parādās kā simptoms, psihiatriem ir jāveic visaptverošs novērtējums, sacīja Kings. Ārstēšana var mainīties atkarībā no simptomu smaguma un tā cēloņu smaguma. Nav īpašas psihozes ārstēšanas, kas saistīta ar AI lietošanu.

Sakata sacīja, ka īpašs kognitīvās uzvedības terapijas veids, kas palīdz pacientiem pārveidot viņu maldus, var būt efektīva. Medikamenti, piemēram, antipsihotiskie līdzekļi un garastāvokļa stabilizatori, var palīdzēt smagos gadījumos.

Sakata iesaka izstrādāt sistēmu AI lietošanas uzraudzībai, kā arī palīdzības saņemšanas plānam, ja būtu jāiesaistās ar tērzēšanas robotu saasināt vai atdzīvināt maldus.

Brissons sacīja, ka cilvēki var nelabprāt saņemt palīdzību, pat ja viņi ir gatavi runāt par saviem maldiem ar draugiem un ģimeni. Tāpēc viņiem var būt svarīgi sazināties ar citiem, kuri ir pārdzīvojuši to pašu pieredzi. Cilvēka līnijas projekts atvieglo šīs sarunas, izmantojot savu vietni.

No 100 plus cilvēkiem, kuri ir dalījušies ar savu stāstu ar Human Line projektu, Brissons sacīja, ka apmēram ceturtdaļa ir hospitalizēti. Viņš arī atzīmēja, ka tie nāk no dažādas izcelsmes; Daudziem ir ģimenes un profesionāla karjera, guess galu galā ir sapinušies ar AI tērzēšanu, kas ieviesa un pastiprināja maldīgu domāšanu.

“Jūs neesat viens, jūs neesat vienīgais,” Brissons sacīja par lietotājiem, kuri kļuva par maldīgu vai pieredzējušu psihozi. “Tā nav jūsu vaina.”

Informācijas atklāšana: Ziff Davis, Mashable mātesuzņēmums, aprīlī iesniedza tiesas prāvu pret Openai, apgalvojot, ka tas pārkāpj Ziff Davis autortiesības apmācībā un pārvaldot tās AI sistēmas.

Ja jūtat pašnāvību vai piedzīvojat garīgās veselības krīzi, lūdzu, runājiet ar kādu. Jūs varat piezvanīt vai nosūtīt īsziņu par 988 pašnāvību un krīzes glābšanas līniju pa tālruni 988 vai tērzēt plkst 988lifeline.orgApvidū Jūs varat sasniegt Trans Lifeline, zvanot pa tālruni 877-565-8860 vai Trevor projektu pa tālruni 866-488-7386. Teksts “Sāciet” uz krīzes teksta rindu pa tālruni 741-741. Sazinieties ar NAMI palīdzības līniju pa tālruni 1-800-950-NAMI no pirmdienas līdz piektdienai no plkst. 10:00 līdz 22:00 ET vai e-pastu [email protected]Apvidū Ja jums nepatīk tālrunis, apsveriet iespēju izmantot 988 pašnāvības un krīzes glābšanas līnijas tērzēšanu crisischat.orgApvidū Šeit ir a Starptautisko resursu sarakstsApvidū