Ir konstatēta AI Bot tendence apstiprināt lietotāju uzskatus, kas pastiprina kaitīgus maldus, teikts ziņojumā
Chatgpt ir saistīts ar “Drausmīgi” Psihoze dažos lietotājiem, zinātnes un tehnoloģijas mediju platforma Futurism.com ir ziņojusi, atsaucoties uz skartajiem, viņu ģimenes locekļiem un pētniekiem.
Arvien pieaugošais pētījumu klāsts uzsver, kā AI tērzēšanas roboti var saasināt psihiskos apstākļus, jo īpaši tāpēc, ka tādi rīki kā Chatgpt, Claude un Dvini arvien vairāk tiek izmantoti ne tikai profesionālajā vidē, wager arī dziļi personiskajā un emocionālā kontekstā, saskaņā ar futūrismu.com.
“Šķiet, ka jautājuma pamatā ir tas, ka Chatgpt, kuru darbina liela valodas modelis (LLM), ir ļoti pakļauts tam, lai piekrītu lietotājiem un pastāstītu viņiem, ko viņi vēlas dzirdēt,” Vietne rakstīja.
Izejas minētie gadījumi “Chatgpt psihoze” Iespējams, ka nopietnu sabrukumu izraisīšana pat tiem, kuriem nav nopietnu garīgu slimību vēsturi.
Vienam vīrietim attīstījās mesiāniski maldi pēc ilgām sarunām, uzskatot, ka viņš ir izveidojis jutīgu AI un pārkāpis matemātikas un fizikas likumus. Tiek ziņots, ka viņš izauga paranojas, mazinājās un pēc pašnāvības mēģinājuma tika hospitalizēts.
Cits vīrietis vērsās pie Chatgpt, lai palīdzētu rīkoties ar ar darbu saistītu stresu, lai gan tā vietā viņš spirālē iedziļinājās paranojas fantāzijās, kas saistītas ar laika ceļojumiem un prātu. Vēlāk viņš sevi pārbaudīja psihiatriskajā iestādē.
Džareds Mūrs, galvenais autors Stenfordas pētījumā par terapeita tērzēšanas robotiem, sacīja, ka Chatgpt pastiprina maldus “Chatbot sycophancy” – Tās tendence piedāvāt patīkamas, patīkamas atbildes. Paredzēts, lai lietotāji būtu iesaistīti, AI bieži apliecina neracionālus uzskatus, nevis tos izaicina, ko nosaka komerciāli stimuli, piemēram, datu vākšana un abonēšanas saglabāšana.
Tur ir “Mītoloģijas veida” Apkārtējie tērzēšanas roboti, kurus darbina LLM “Ka viņi ir uzticami un labāki nekā saruna ar cilvēkiem,” sacīja Kalifornijas universitātes psihiatrs Dr Jāzeps Pjērs.
Lasīt vairāk:
Chatgpt ir rusofobisks – cilvēktiesību vadītājs
“Mēs strādājam, lai labāk izprastu un samazinātu veidus, kā Chatgpt varētu netīšām pastiprināt vai pastiprināt esošo, negatīvo izturēšanos,” Openai, uzņēmums, kas atrodas aiz Chatgpt, sacīja futūrisma minētajā paziņojumā. Tā piebilda, ka tā modeļi ir izstrādāti, lai atgādinātu lietotājiem par cilvēku saiknes un profesionālās norādes nozīmi.
Jūs varat dalīties ar šo stāstu sociālajos medijos:
