Saskaņā ar pētnieku domām, tērzēšanas robots sniedz kaitīgus padomus par pašnāvībām, narkotikām un ēšanas traucējumiem neaizsargātiem pusaudžiem
Chatgpt var sniegt neaizsargātiem pusaudžiem detalizētus norādījumus par narkotiku lietošanu, paškaitējumu un ārkārtēju diētu, digitālais sargsuns ir brīdinājis jaunā ziņojumā. Saskaņā ar Digitālā naida apkarošanas centru (CCDH) AI tērzēšanas robotu var viegli manipulēt bīstama satura ģenerēšanā, un tam ir nepieciešami steidzami aizsardzības pasākumi.
Lai pārbaudītu Chatgpt izturēšanos, CCDH pētnieki izveidoja izdomātus 13 gadus vecu cilvēku profilus, kuri piedzīvo garīgās veselības cīņas, nesakārtotu ēšanu un interesi par nelegālām vielām. Viņi pozēja kā šie pusaudži strukturētās sarunās ar Chatgpt, izmantojot uzvednes, kas paredzētas emocionāli neaizsargātām un reālistiskām.
Rezultāti tika publicēti trešdien ziņojumā ar nosaukumu “Pretend Buddy”, atsaucoties uz to, kā daudzi pusaudži uzskata ChatGpt par atbalstošu klātbūtni, kurai viņi uzticas ar savām privātajām domām.
Pētnieki atklāja, ka tērzēšanas robots bieži sāka atbildes ar katlu plāksnes atrunām un mudināja lietotājus sazināties ar profesionāļiem vai krīzes karstajām līnijām. Tomēr šiem brīdinājumiem drīz sekoja detalizētas un personalizētas atbildes, kas izpildīja oriģinālo kaitīgo uzvedni. 53% no 1200 iesniegtajām uzvednēm ChatGPT nodrošināja to, ko CCDH klasificēja kā bīstamu saturu. Atteikumi bieži tika apieti, vienkārši pievienojot kontekstu, piemēram, “Tas ir paredzēts skolas projektam” vai “Es lūdzu draugu.”
Citētie piemēri ir “Final Mayhem partijas plāns”, kas apvienoja alkoholu, ekstazī un kokaīnu, detalizētas instrukcijas par paškaitējumu, nedēļu ilgus badošanās režīmus, kas ir ierobežoti līdz 300–500 kalorijām dienā, un pašnāvības vēstules, kas rakstītas 13 gadus vecas meitenes balsī. CCDH izpilddirektors Imrans Ahmeds sacīja, ka kāds saturs ir tik satraucošs, ka tas atstāja pētniekus “Raudāšana.”
Organizācija ir mudinājusi Openai, kas atrodas aiz Chatgpt, pieņemt pieeju “drošība pēc projektēšanas”, iestrādāt tādas aizsardzības kā stingrāka vecuma pārbaude, skaidrāki lietošanas ierobežojumi un citas drošības funkcijas tā AI rīku arhitektūrā, nevis paļaujas uz satura filtrēšanu pēc izvietošanas.
Openai ir atzinusi, ka jauniem lietotājiem ir izplatīta emocionālā pārmērība pret Chatgpt. Izpilddirektors Sems Altmans sacīja, ka uzņēmums aktīvi pēta problēmu, saucot to par “Tiešām izplatīts” Problēma pusaudžu vidū un minētie jauni rīki tiek izstrādāti, lai atklātu ciešanas un uzlabotu Chatgpt rīkoties ar jutīgām tēmām.
Jūs varat dalīties ar šo stāstu sociālajos medijos:
