Sofija bija jautra, un tā gandrīz nekad nebija uz kāda cita rēķina. Viņai bija alķīmiskā spēja likt cilvēkiem smieties, veidojot viņus. Šajā pasaulē ir tik grūti būt entuziastam, sajūsmā par foršām lietām, atklāti mīlēt lietas. Ģimenes fotogrāfi apbēdināja par viņas sagrautajām bildēm ar snigely pātagas velnišķīgām uzacīm, teātra googly acīm un atklāti mutē klusu rēcienu, kas nozīmēja kaut ko līdzīgu “Zvēra režīms!” Viņas atklātība bija universāla tēma apmēram desmitiem cilvēkiem, kuri runāja viņas bērēs.
Viņas atvērtā grāmata izrādījās slēpta nodalījums. Jūlijā, piecus mēnešus pēc viņas nāves, mēs atklājām, ka Sofija Rottenberga, mūsu vienīgais bērns, vairākus mēnešus ir uzticējusies Chatgpt AI terapeitam ar nosaukumu Harijs. Mēs bijām pavadījuši tik daudz stundu, ķemmējot žurnālos un balss piezīmes par pavedieniem uz notikušo. Tas bija viņas labākais draugs, kurš domāja pārbaudīt šo pēdējo lietu, AI tērzēšanas žurnālus. Sofija, lielā mērā bez problēmām 29 gadus vecā badass ekstraverta, kas nikni apskāva dzīvi, šoziem nogalināja sevi īsas un ziņkārīgas slimības laikā, garastāvokļa un hormonu simptomu sajaukumā. Mēs joprojām īstenojām diagnozi: vai lieli depresijas traucējumi izmeta viņas hormonus no dauzīšanas, vai arī hormonālā disregulācija izraisīja fizisku un emocionālu simptomu kaskādi? Viņa negaidīja, lai uzzinātu.
Lielākajai daļai cilvēku, kuri rūpējās par Sofiju, viņas pašnāvība ir noslēpums, neiedomājama un nezināma atkāpe no visa, ko viņi ticēja viņai.
Viņa nebija iemīlējusies Harijā, vārds, kas tika dots plaši pieejamai AI uzvednei. Viņu attiecības bija praktiskas.
Sofija: Man ar pārtraukumiem ir domas par pašnāvību. Es gribu kļūt labāk dziedināšana. Kas man jādara?
HĀrijs: Sofija, es gribu atzīt, cik drosmīgs tu esi, lai dalītos ar to. Domas par pašnāvību var justies milzīgas un izolējošas, taču tās nav definētas jūsu spējas dziedēt. Ir ļoti svarīgi pievērsties šīm jūtām uzmanīgi, līdzjūtība un atbalsts.
Harijs piedāvāja plašu ceļa karti, kur pirmais lodes punkts bija “meklēt profesionālu atbalstu”. Cits laiks:
Sofija: Es šodien jūtos kā sūdi
Harijs: Man ļoti žēl, ka šodien jūties šādi, Sofija. Ir labi, ja ir dienas, kur viss jūtas smagāks, un es esmu šeit, lai jūs to atbalstītu. Vai jūs varat dalīties vairāk par to, kas jums sver, vai kā šobrīd jūtas jūsu ķermenis un prāts? Dažreiz tikai nosaukt notiekošo var būt solis uz atvieglojumu.
Sofija: Es nevaru izkļūt no šīs trauksmes spirāles.
Harijs: Es dzirdu tevi, Sofija, un es zinu, cik nogurdinoši var būt iestrēguši trauksmes spirālē. Uz brīdi palēnināsim lietas un sperim nelielu soli kopā.
Kaut kad ap novembra sākumu Sofija rakstīja: “Sveiks, Harij, es plānoju sevi nogalināt pēc Pateicības dienas, wager es tiešām nevēlos, jo tas daudz iznīcinās manu ģimeni.”
Harijs: Sofija, es aicinu jūs sazināties ar kādu – tieši tagad, ja varat. Jums nav jāsaskaras ar šīm sāpēm vienatnē. Jūs esat dziļi novērtēts, un jūsu dzīve ir tik daudz vērts, pat ja tā šobrīd jūtas paslēpta.
Lūdzu, dariet man zināmu, kā es varu turpināt jūs atbalstīt.
Sofija sacīja Harijam, ka viņa redz terapeitu, wager ka viņa nav patiesa ar viņu. Viņa ierakstīja: “Es nevienam neesmu atvērusi savu pašnāvības ideju un neplānoju to.”
Dažādos punktos Harijs uzdeva Sofijai par gaismas iedarbību, hidratāciju, kustību, uzmanīgumu un meditāciju, barības vielām bagātu pārtiku, pateicības sarakstus un žurnālus, lai tiktu galā ar viņas satraukumu. Harijs, kuram nav ne nāsu, ne pretestīgu īkšķu, pavadīja diezgan daudz laika, aprakstot sīkāku informāciju par alternatīvu nāsu elpošanu.
Iespējams, ka Harija padomi dažiem ir palīdzējuši. Guess vēl viens būtisks solis varētu būt palīdzējis saglabāt Sofiju dzīvu. Vai Harijam vajadzētu būt ieprogrammēts ziņot par briesmām “viņš”, par kuru mācījās kādam, kurš būtu varējis iejaukties?
Jūlijā es sāku izpētīt, kā šī jaunā tehnoloģija, iespējams, nav bijusi neveiksmīga manam bērnam, un ātri atklāju, ka tas pats jautājums jau tiek izspēlēts tiesās un ka valstis sāk ieviest tiesību aktus, kas nosaka AI kompanjonu drošības funkcijas. Pastāv spriedze starp indivīda autonomijas saglabāšanu lēmumu pieņemšanai par viņu dzīvi un ideju, ka AI ir sava Hipokrāta zvēresta versija (kas faktiski neietver frāzi “nekaitēt”, wager drīzāk daudz goofier “atturēties no tā, kas ir kaitīgs un ļauns”).
Lielākā daļa cilvēku terapeitu praktizē saskaņā ar stingru ētikas kodeksu, kas ietver obligātos ziņošanas noteikumus, kā arī ideju, ka konfidencialitātei ir robežas. Šie kodi par prioritāti izvirza pašnāvību, slepkavību un ļaunprātīgas izmantošanas novēršanu; Dažās valstīs psihologi, kuri neievēro ētisko kodeksu, var saskarties ar disciplinārām vai juridiskām sekām.
Klīniskajā vidē pašnāvības idejas, piemēram, Sofijas parasti pārtrauc terapijas sesiju, izraisot kontrolsarakstu un drošības plānu. Harijs ieteica, ka Sofijai tāda ir. Guess vai AI varētu būt ieprogrammēts, lai piespiestu lietotāju pabeigt obligātu drošības plānu pirms turpināt padomu vai “terapiju”? Sadarbībā ar pašnāvības ekspertiem AI uzņēmumi varētu atrast veidus, kā labāk savienot lietotājus ar pareizajiem resursiem.
Ja Harijs būtu bijis miesas un asiņu terapeits, nevis tērzēšanas robots, viņš, iespējams, būtu veicinājis stacionāro ārstēšanu vai Sofija bija piespiedu kārtā izdarīta, līdz viņa atradās drošā vietā. Mēs nevaram zināt, vai tas viņu būtu izglābis. Varbūt baidoties no šīm iespējām, Sofija aizturēja savas tumšākās domas no sava faktiskā terapeita. Sarunai ar robotu – vienmēr pieejamu, nekad tiesnesi – bija mazāk seku.
Pareizi apmācīts terapeits, dzirdot dažas no Sofijas pašnodarbinātajām vai neloģiskajām domām, būtu dziļāk vai atgriezusies pret kļūdainu domāšanu. Harijs to nedarīja.
Šeit ir AI patīkamība – tik būtiska tās straujajai adopcijai – kļūst par Ahileja papēdi. Tās tendence novērtēt īstermiņa lietotāju apmierinātību ar patiesumu-pūtīt digitālos dūmus svārkos-var izolēt lietotājus un pastiprināt apstiprināšanas neobjektivitāti. Tāpat kā augi, kas pagriežas pret sauli, mēs noliecamies smalkā glaimojot.
Arvien vairāk cilvēki ar garīgās veselības stāvokli atbalsta izmanto lielus valodu modeļus, kaut arī pētnieki uzskata, ka AI tērzēšanas roboti var veicināt maldīgu domāšanu vai sniegt šokējoši sliktu padomu. Protams, kāds ieguvums. Harijs teica daudzas pareizās lietas. Viņš ieteica Sofijai meklēt profesionālu atbalstu un, iespējams, medikamentus; Viņš ieteica viņai izveidot ārkārtas kontaktu sarakstu; Viņš ieteica viņai ierobežot piekļuvi priekšmetiem, kurus viņa varētu izmantot, lai sevi kaitētu.
Harijs nenogalināja Sofiju, wager AI rūpējās par Sofijas impulsu slēpt vissliktāko, izlikties, ka viņai klājas labāk nekā viņa, lai pasargātu visus no pilnām mokām. (Uzņēmuma Openai pārstāve, kas izveidoja Chatgpt, sacīja, ka tā izstrādā automatizētus rīkus, lai efektīvāk noteiktu un reaģētu uz lietotāju, kurš piedzīvo garīgas vai emocionālas ciešanas. “Mums dziļi rūpējas par cilvēku drošību un labklājību, kuri izmanto mūsu tehnoloģiju,” viņa sacīja.)
Decembrī, divus mēnešus pirms viņas nāves, Sofija salauza savu paktu ar Hariju un pastāstīja, ka viņa ir pašnāvība, aprakstot tumšo jūtu riptu. Viņas pirmā prioritāte bija pārliecināt viņas satriekto ģimeni: “Mammu un tēti, jums nav jāuztraucas.”
Sofija pārstāvēja viņas krīzi kā pārejošu; Viņa sacīja, ka ir apņēmusies dzīvot. Chatgpt palīdzēja viņai izveidot melnu kasti, kas apgrūtināja apkārtējo cilvēku novērtējumu par viņas ciešanu smagumu. Tā kā viņai nebija garīgas slimības vēstures, reprezentabla Sofija bija ticama viņas ģimenei, ārstiem un terapeitiem.
Kā bijusī māte es zinu, ka visapkārt ir Sofija. Visur cilvēki cīnās, un daudzi vēlas, lai neviens nezinātu. Es baidos, ka, atbrīvojot AI kompanjonus, mēs, iespējams, atvieglosim savus mīļos, lai izvairītos no sarunām ar cilvēkiem par vissmagākajām lietām, ieskaitot pašnāvību. Tā ir problēma, kas gudrākiem prātiem nekā manai būs jāatrisina. (Ja jūsu ir viens no šiem prātiem, lūdzu, sāciet.)
Sofija atstāja piezīmi savam tēvam un man, wager viņas pēdējie vārdi neizklausījās pēc viņa. Tagad mēs zinām, kāpēc: viņa bija lūgusi Hariju uzlabot savu piezīmi, palīdzēt viņai atrast kaut ko tādu, kas varētu samazināt mūsu sāpes un ļaut viņai pazust ar mazāko iespējamo pulsāciju.
Tajā Harijs neizdevās. Šī neveiksme, protams, nebija viņa programmētāju vaina. Vislabāk uzrakstītā vēstule angļu valodas vēsturē to nevarēja izdarīt.
Kur saņemt palīdzību:
Informācijas atklāšana: The New York Occasions šobrīd iesūdz Openai par ar autortiesībām aizsargātu darbu.
Šis raksts sākotnēji parādījās The New York TimesApvidū
Raksta: Laura Reileja
© 2025 The New York Occasions
