Openai ierobežo Chatgpt lomu garīgās veselības palīdzībā

Vairāk cilvēku vēršas pie mākslīgā intelekta, lai saņemtu atbalstu, pat garīgās veselības padomiem. Ir viegli saprast, kāpēc: tādi rīki kā Chatgpt ir bezmaksas, ātri un vienmēr pieejami. Guess garīgā veselība ir delikāts jautājums, un AI nav aprīkots, lai rīkotos ar reālu emocionālu ciešanu sarežģītību.

Lai risinātu pieaugošās bažas, Openai ir ieviesis jaunus Chatgpt drošības pasākumus. Šie atjauninājumi ierobežos to, kā Chatbot reaģē uz garīgo veselību saistītajiem vaicājumiem. Mērķis ir neļaut lietotājiem kļūt pārāk atkarīgiem un mudināt viņus meklēt pienācīgu aprūpi. Openai arī cer samazināt kaitīgu vai maldinošu reakciju risku, izmantojot šīs izmaiņas.

Reģistrējieties manā bezmaksas kiberguy ziņojumā
Saņemiet manus labākos tehnoloģiju padomus, steidzamus drošības brīdinājumus un ekskluzīvus darījumus, kas tiek piegādāti tieši uz jūsu iesūtni. Turklāt jūs saņemsiet tūlītēju piekļuvi manam Final Rip-off izdzīvošanas ceļvedim – bez maksas, kad pievienojaties manam Cyberguy.com/newsletter

Kāpēc Openai veic šīs izmaiņas?

Openai publiskotajā paziņojumā uzņēmums atzina, ka “ir bijuši gadījumi, kad mūsu 4O modelis atpazīsta maldus vai emocionālu atkarību”. Viens piemērs – Chatgpt apstiprināja lietotāja uzskatu, ka viņu ģimenes dēļ caur sienām nāk radio signāli. Citā tas, domājams, veicināja terorismu.

Chatgpt varētu klusi pārvērtēt smadzenes, jo eksperti mudina piesardzīgi izmantot ilgtermiņa lietošanu

Šie retie, wager nopietnie gadījumi izraisīja bažas. Openai tagad pārskata, kā tas apmāca savus modeļus, lai samazinātu “sycophancy” vai pārmērīgu vienošanos un glaimošanu, kas varētu pastiprināt kaitīgu pārliecību.

Uzvednes ekrānuzņēmums, kurā jautāts, vai Chatgpt var sniegt garīgās veselības konsultācijas (Kurts “Cyberguy” Knutsson)

Kādi jauni drošības pasākumi ir uzstādījuši Openai?

Kopš šī brīža ChatGPT liks lietotājiem veikt pārtraukumus ilgas sarunu laikā. Tas arī izvairīsies piedāvāt konkrētus padomus par dziļi personiskiem jautājumiem. Tā vietā tērzēšanas robots palīdzēs lietotājiem pārdomāt, uzdodot jautājumus un piedāvājot plusus un mīnusus, neizliekoties par terapeitu.

Openai paziņoja: “Lai arī reti, mēs turpinām uzlabot savus modeļus un izstrādājam instrumentus, lai labāk noteiktu garīgu vai emocionālu ciešanu pazīmes, lai Chatgpt varētu atbilstoši reaģēt un norādīt cilvēkus uz pierādījumiem balstītus resursus, kad tas nepieciešams.”

Vai jūsu terapeits ir AI? Chatgpt kļūst vīrusu sociālajos medijos par tā lomu kā Gen Z jaunais terapeits

Uzņēmums arī sadarbojās ar vairāk nekā 90 ārstiem visā pasaulē, lai izveidotu atjauninātus norādījumus sarežģītas mijiedarbības novērtēšanai. Padomnieku grupa, kuru veido garīgās veselības eksperti, jauniešu aizstāvji un cilvēku un datoru mijiedarbības pētnieki, palīdz mainīt šīs izmaiņas. Openai saka, ka tā vēlas, lai klīnicistu un pētnieku ieguldījums turpinātu uzlabot tās aizsardzības pasākumus.

Lietotāja ekrānuzņēmums lūdz Chatgpt “uzmundrināt mani ar joku”. (Kurts “Cyberguy” Knutsson)

Jūsu privātās sarunas ar Chatgpt nav likumīgi aizsargātas

Openai izpilddirektors Sems Altmans nesen pacēla sarkanos karogus par AI privātumu. “Ja jūs ejat sarunāties ar Chatgpt par jūsu visjutīgākajiem priekšmetiem un tad tur ir tiesas prāva vai kas cits, mums tas varētu prasīt. Un es domāju, ka tas ir ļoti ieskrūvēts,” viņš teica.

Viņš piebilda: “Es domāju, ka mums vajadzētu būt tādam pašam privātuma jēdzienam jūsu sarunām ar AI, ko mēs darām ar terapeitu vai ko citu.”

Tātad, atšķirībā no sarunas ar licencētu konsultantu, jūsu tērzēšana ar Chatgpt neizbauda likumīgas privilēģijas vai konfidencialitāti. Esiet piesardzīgs, ko dalāties.

Krāpnieki var izmantot jūsu datus tikai no 1 catgpt meklēšanas

Ko tas nozīmē jums

Ja jūs pievērsīsities Chatgpt, lai saņemtu emocionālu atbalstu, saprotiet tā robežas. Tērzbots var palīdzēt jums pārdomāt problēmas, uzdot vadošos jautājumus vai simulēt sarunu, taču tas nevar aizstāt apmācītus garīgās veselības speciālistus.

Lūk, ko paturēt prātā:

• Nepaļaujieties uz chatgpt krīzē. Ja jūs cīnāties, meklējiet palīdzību no licencēta terapeita vai zvaniet uz krīzes uzticības tālruni.
• Pieņemsim, ka jūsu tērzēšana nav privāta. Izturieties pret savām AI sarunām tā, it kā tās varētu lasīt citi, it īpaši juridiskos jautājumos.
• Izmantojiet to pārdomām, nevis izšķirtspējai. Chatgpt vislabāk palīdz jums kārtot savas domas, nevis atrisināt dziļas emocionālas problēmas.

Openai izmaiņas ir solis uz drošāku mijiedarbību, taču tās nav izārstēt. Garīgajai veselībai nepieciešama cilvēku saikne, apmācība un empātija – lietas, ko AI nevar pilnībā atkārtot.

Veiciet manu viktorīnu: cik droša ir jūsu tiešsaistes drošība?

Vai domājat, ka jūsu ierīces un dati ir patiesi aizsargāti? Veiciet šo ātro viktorīnu, lai redzētu, kur atrodas jūsu digitālie ieradumi. Sākot no parolēm līdz Wi -Fi iestatījumiem, jūs saņemsit personalizētu sadalījumu tam, ko darāt pareizi – un to, kas jāuzlabo. Veiciet manu viktorīnu šeit: Cyberguy.com/Vārtums

Kurta galvenie paņēmieni

Kamēr Chatgpt ir noderīgs rīks, tas nebūt nav cilvēka aizstājējs, pat ar Aģenta ieviešanakas palielina iespējas, wager joprojām trūkst patiesas empātijas, sprieduma un emocionālās izpratnes. Drošības pasākumi ir tālu, lai risinātu bažas par AI ētisko un psiholoģisko seku. Tas ir labi, ka Openai to zina, jo tas ir tikai sākums. Lai patiesi aizsargātu lietotājus, uzņēmumam būs jāturpina attīstīties, kā Chatgpt rīkojas ar emocionāli jutīgām sarunām.

Vai jūs domājat, ka cilvēkiem vajadzētu izmantot AI garīgajai veselībai? Paziņojiet mums, rakstot mums Cyberguy.com/contact

Reģistrējieties manā bezmaksas kiberguy ziņojumā
Saņemiet manus labākos tehnoloģiju padomus, steidzamus drošības brīdinājumus un ekskluzīvus darījumus, kas tiek piegādāti tieši uz jūsu iesūtni. Turklāt jūs saņemsiet tūlītēju piekļuvi manam Final Rip-off izdzīvošanas ceļvedim – bez maksas, kad pievienojaties manam Cyberguy.com/newsletter

Autortiesības 2025 Cyberguy.com. Visas tiesības aizsargātas.