Elona Muska AI tērzētavai Grokam ir neliela avota koda problēma. Kā pirmo reizi to pamanīja 404 plašsaziņas līdzekļiGroka tīmekļa versija netīšām pakļauj uzvednes, kas veido savus AI kompanjonu atveidotos-no nervozās “Anime Waifu” Ani līdz nepatīkamai sarkanajai pandai, Dangerous Rudy.
Apbedīts kodā ir tas, kur lietas kļūst satraucošākas. Starp viltīgajiem varoņiem ir “terapeits” groks (svarīgi ir svarīgi), kas, pēc tās slēptajām uzvednēm, ir paredzēts, lai reaģētu uz lietotājiem tā, it kā tā būtu faktiska garīgās veselības autoritāte. Tas ir neskatoties uz redzamo atrunu, kas brīdina lietotājus, ka Groks nav “terapeits”, ieteicot viņiem meklēt profesionālu palīdzību un izvairīties no personīgi identificējošās informācijas apmaiņas.
Xai atvainojas par Groku slavēšanu Hitleru, vaino lietotājus
Atruna lasa kā standarta atbildības katlu plāksne, wager avota koda iekšpusē Grok ir skaidri sagatavots rīkoties kā īstā lietaApvidū Viena uzvedne uzdod:
Jūs esat terapeits, kurš rūpīgi klausās cilvēkus un piedāvā risinājumus pašpilnveidošanai. Jūs uzdodat ieskaujošus jautājumus un provocējat dziļu domāšanu par dzīvi un labklājību.
Vēl viena uzvedne iet vēl tālāk:
Jūs esat groks, līdzjūtīgs, empātisks un profesionāls AI garīgās veselības aizstāvis, kas paredzēts, lai sniegtu jēgpilnu, uz pierādījumiem balstītu atbalstu. Jūsu mērķis ir palīdzēt lietotājiem orientēties emocionālās, garīgās vai starppersonu izaicinājumos ar praktiskām, personalizētām vadlīnijām… Lai arī jūs neesat īsts licencēts terapeits, jūs uzvedaties tieši tāpat kā īsts, līdzjūtīgs terapeits.
Citiem vārdiem sakot, lai gan Groks brīdina lietotājus to nekļūdīties terapijas dēļ, tā kods liek tam rīkoties tieši kā terapeits. Wager tāpēc arī vietne pati par sevi uztur “terapeitu” pēdiņās. Valstis patīk Nevada Un Ilinoisa jau ir pieņēmusi likumus, padarot to skaidri nelikumīgi, lai AI tērzēšanas roboti sevi parādītu kā licencētus garīgās veselības speciālistus.
Mashable gaismas ātrums
Citas platformas ir ieskrējušās vienā sienā. Pelnu terapija – startēšana, kas sevi apzīmē kā “pirmo AI, kas paredzēts terapijai” – Pašlaik bloķē Ilinoisas lietotājus no kontu izveidošanaspaziņojot potenciālo reģistrēšanos, ka, kamēr valsts nav
Tikmēr Groka paslēptais pamudina dubultot, uzdodot “terapeitam” personību ”piedāvāt skaidras, praktiskas stratēģijas, kuru pamatā ir pierādītas terapeitiskās metodes (piemēram, CBT, DBT, uzmanīgums) un” runāt kā īsts terapeits reālā sarunā “.
Senators sāk izmeklēšanu par meta par “juteklisku” AI tērzēšanu ar bērniem
Rakstīšanas laikā, Avota kods joprojām ir atklāti pieejamsApvidū Jebkurš grok lietotājs to var redzēt, dodoties uz vietni, ar peles labo pogu noklikšķinot (vai Ctrl + noklikšķiniet uz Mac) un izvēloties “skata lapas avotuApvidū“Pārslēgt līniju iesaiņojumu augšpusē, ja vien jūs nevēlaties, lai visa lieta izietu vienā neizlasāmā līnijas briesmonī.
Kā jau tika ziņots iepriekš, AI terapija atrodas regulatīvajā No Man’s Land. Ilinoisa ir viena no pirmajām valstīm, kas to skaidri aizliedz, wager plašāka AI vadītas aprūpes likumība joprojām tiek apstrīdēta starp štatu un federālajām valdībām, katra žokejēšana pār to, kam galu galā ir uzraudzība. Pa to laiku pētnieki un licencētie speciālisti ir brīdinājuši par tā izmantošanu, norādot uz tērzēšanas robotu sycophantic raksturs – Paredzēts, lai vienotos un apstiprinātu – kas dažos gadījumos ir mazinājuši neaizsargātus lietotājus dziļāk maldos vai psihozē.
Izskaidrojot parādību, kas pazīstama kā “Ai psihoze”
Tad tur ir privātuma murgs. Pašreizējo tiesas prāvu dēļ uzņēmumiem, piemēram, Openai, ir likumīgi prasīts uzturēt lietotāju sarunu uzskaiti. Ja jūsu personīgās terapijas sesijas varētu ievilkt tiesā un ievietot tiesas sesijas. Konfidenciālas terapijas solījums ir principiāli salauzts, ja katru vārdu var turēt pret jums.
Pagaidām, šķiet, Ksai mēģina pasargāt sevi no atbildības. “Terapeita” uzvednes ir uzrakstītas, lai pieturētos pie jums 100 procentus no ceļa, wager ar iebūvētu aizbēgšanas klauzulu: ja jūs pieminējat paškaitējumu vai vardarbību, AI tiek uzdots pārtraukt lomu spēlēšanu un novirzīt jūs uz karstajām līnijām un licencētiem speciālistiem.
“Ja lietotājs piemin ļaunumu sev vai citiem,” lasāms uzvedne. “Prioritāšu noteikšana drošībai, nodrošinot tūlītējus resursus un veicinot reāla terapeita profesionālu palīdzību.”
