ASV mākslīgā intelekta firma Openai saka, ka tā pievienos vecāku kontroli savam tērzēšanas robotam Chatgpt, nedēļu pēc tam, kad pāris teica, ka sistēma mudināja viņu pusaudža dēlu sevi nogalināt.
BRĪDINĀJUMS: Šajā stāstā ir informācija par pašnāvību un paškaitējumu.
“Nākamā mēneša laikā vecāki varēs… sasaistīt savu kontu ar pusaudža kontu” un “kontrolēt, kā Chatgpt reaģē uz viņu pusaudzi ar vecumam atbilstošiem modeļa uzvedības noteikumiem,” uzņēmums sacīja emuāra ierakstā.
Vecāki saņems arī paziņojumus no Chatgpt “, kad sistēma atklāj viņu pusaudzi, ir akūtas briesmu brīdis”, sacīja Openai.
Uzņēmums bija iesniedzis vecāku kontroles sistēmu augusta emuāra ierakstā.
Vecāki saka, ka tērzēšana apstiprināja “kaitīgas un pašiznīcinošas domas”
Tas notika vienu dienu pēc tam, kad tiesa no Kalifornijas vecākiem Metjū un Marijas Raines iesniedza tiesu, apgalvojot, ka Chatgpt viņu 16 gadus vecajam dēlam sniedza detalizētus pašnāvības norādījumus un mudināja viņu īstenot savus plānus.
Tiesas prāvā tiek apgalvots, ka viņu pēdējā sarunā 2025. gada 11. aprīlī Chatgpt palīdzēja Ādamam nozagt degvīnu no viņa vecākiem un sniedza viņa piesaistītās cilpas tehnisko analīzi, apstiprinot, ka tas “varētu potenciāli apturēt cilvēku”.
Ādams tika atrasts miris stundas vēlāk, izmantojot to pašu metodi.
Tiesas prāvā tiek nosaukti Openai un izpilddirektors Sems Altmans kā atbildētāji.
“Šī traģēdija nebija glitch vai neparedzēta malas lieta,” teikts sūdzībā.
“Chatgpt darbojās tieši tā, kā ir izstrādāts: pastāvīgi iedrošināt un apstiprināt visu, ko Ādams izteica, ieskaitot viņa visnekaitīgākās un pašiznīcinošās domas tādā veidā, kas jutās dziļi personiski,” tas piebilst.
Saskaņā ar tiesas prāvu Ādams sāka izmantot Chatgpt kā mājasdarbu palīgu, guess pakāpeniski attīstīja to, ko viņa vecāki raksturo kā neveselīgu atkarību.
Sūdzībā ir iekļauti fragmenti par sarunām, kurās Chatgpt, iespējams, teica Adamam “jūs neesat parādā nevienam izdzīvošanai” un piedāvāja palīdzēt uzrakstīt viņa pašnāvības piezīmi.
Chatgpt saka, ka tas turpina uzlabot modeļus
Raines gadījums bija tikai jaunākais virknē, kas pēdējos mēnešos parādījās, kad cilvēki tika mudināti maldināt vai kaitīgus domas vilcienus, ko veica AI tērzēšanas roboti – pamudinot Openai teikt, ka tas samazinātu modeļu “sycophany” pret lietotājiem.
Pagājušajā mēnesī ABC trīskāršais J Hack publicēja izmeklēšanu, atklājot apgalvojumus, ka jaunieši Austrālijā tiek seksuāli uzmācīgi un pat mudināti paši atņemt savu dzīvību AI tērzēšanas roboti.
“Mēs turpinām uzlabot to, kā mūsu modeļi atpazīst un reaģē uz garīgām un emocionālām ciešanām,” otrdien sacīja Openai.
Uzņēmums paziņoja, ka nākamajos trīs mēnešos ir vēl vairāk plāni uzlabot savu tērzēšanas robotu drošību, tostarp novirzot “dažas jutīgas sarunas… uz argumentācijas modeli”, kas vairāk skaitļošanas jaudu rada atbildes radīšanai.
“Mūsu pārbaude parāda, ka argumentācijas modeļi konsekventāk ievēro un piemēro drošības vadlīnijas,” sacīja Openai.
AFP
