Vecākus var brīdināt, ja viņu pusaudži izrāda akūtas briesmas, runājot ar Chatgpt, bažām par bērnu drošību, jo arvien vairāk jauniešu vēršas pie AI tērzēšanas robotiem, lai saņemtu atbalstu un padomus.
Brīdinājumi ir daļa no jaunām aizsardzībām bērniem, kuri izmanto Chatgpt, kuru nākamajā mēnesī ieviesa Openai, kuru pagājušajā nedēļā iesūdzēja zēna ģimene, kurš paši paņēma dzīvību pēc tam, kad, iespējams, saņēmis “iedrošinājuma mēnešus” no sistēmas.
Citos jaunos aizsardzības pasākumos būs iekļauti vecāki, kas var saistīt savus kontus ar pusaudžu kontiem un kontrolēt, kā AI modelis reaģē uz viņu bērnu ar “vecumam atbilstošiem modeļa uzvedības noteikumiem”. Bet interneta drošības kampaņas dalībnieki sacīja, ka soļi nav pietiekami tālu, un AI tērzēšanas robotiem nevajadzētu būt tirgū, pirms tie tiek uzskatīti par drošiem jauniešiem.
16 gadus vecais Adams Raine no Kalifornijas nogalināja sevi aprīlī pēc pašnāvības metodes apspriešanas ar Chatgpt. Tas viņu vadīja pēc viņa metodes un piedāvāja palīdzēt viņam uzrakstīt pašnāvības piezīmi, apgalvoja tiesas pieteikumi. Openai atzina, ka tās sistēmas ir īsas, un tās AI modeļu drošības apmācība ir pasliktinājusies garo sarunu laikā.
Raine ģimene apgalvo, ka tērzēšanas robots tika “steidzies uz tirgu… neskatoties uz skaidrām drošības problēmām”.
“Daudzi jaunieši jau izmanto AI,” sacīja Openai a blogot sīki aprakstot tās jaunākos plānus. “Viņi ir vieni no pirmajiem“ AI pamatiedzīvotājiem ”, kas ar šiem rīkiem izauga kā ikdienas dzīves sastāvdaļa, līdzīgi kā iepriekšējās paaudzes to darīja ar internetu vai viedtālruņiem. Tas rada reālas atbalsta, mācīšanās un radošuma iespējas, taču tas nozīmē arī to, ka ģimenēm un pusaudžiem var būt nepieciešams atbalsts veselīgu vadlīniju noteikšanai, kas atbilst pusaudža unikālajai attīstības posmam.”
Galvenās izmaiņas varētu būt ļaut vecākiem atspējot AI atmiņu un tērzēšanas vēsturi, lai mazinātu risku, ka AI veido bērna ilgtermiņa profilu un atjauno vecos komentārus par personīgajām cīņām tādā veidā, kas pasliktinātu viņu garīgo veselību.
Lielbritānijā, informācijas komisāra birojs prakses kodekss Attiecībā uz vecumam atbilstošs tiešsaistes pakalpojumu dizains liek tehnoloģiju uzņēmumiem “savākt un saglabāt tikai minimālo personas datu daudzumu, kas jums nepieciešams, lai sniegtu jūsu pakalpojuma elementus, kuros bērns ir aktīvi un apzināti iesaistīts”.
Apmēram trešdaļa amerikāņu pusaudžu ir izmantojuši AI kompanjonus sociālajai mijiedarbībai un attiecībām, ieskaitot lomu spēles, romantisku mijiedarbību un emocionālo atbalstu, izpētīt ir atradis. Apvienotajā Karalistē 71% neaizsargātu bērnu izmanto AI tērzēšanas robotus, un seši no 10 vecākiem apgalvo, ka viņi uztraucas, ka viņu bērni uzskata, ka AI tērzēšanas roboti ir reāli cilvēki, saskaņā ar līdzīgiem izpētītApvidū
Mollijas Rozes fonds, kuru izveidoja 14 gadus vecā Mollija Rasela tēvs, kurš atņēma dzīvību pēc nolaišanās izmisumā sociālajos plašsaziņas līdzekļos, sacīja, ka ir “nepiedodami, ka produkti tiek uzlikti tirgū, pirms viņi ir droši jauniešiem – tikai retrospektīvi pielikt nelielas pūles, lai padarītu tos drošāk”.
Fonda izpilddirektors Andijs Burrows sacīja: “Vēlreiz mēs esam redzējuši traģēdijas un plašsaziņas līdzekļu spiediena spēku tehnoloģiju uzņēmumus, bet neiet pietiekami tālu.
“Ofcom vajadzētu būt gatavam izpētīt visus pārkāpumus, ko Chatgpt ir izdarījis kopš tiešsaistes drošības likuma stāšanās spēkā un turēja uzņēmumu uz kontu, līdz tas ir principiāli drošs tā lietotājiem.”
Anthropic, kas nodrošina populāro Claude Chatbot, teicis Savā vietnē to nevar izmantot jaunāki par 18 gadiem. Maijā Google ļāva zem 13 gadu vecuma pierakstīties lietotnēs, izmantojot savu Dvīņu AI sistēmu, vecāki to var izslēgt, izmantojot savu Google Family Link sistēmu. Google ieteikt Vecāki māca bērnus Dvīņos nav cilvēki, ka tā nevar domāt par sevi vai justies emocijām, nevis ievadīt jutīgu vai personisku informāciju. Bet tas brīdina: “Jūsu bērns var sastapties ar saturu, kuru jūs nevēlaties, lai viņš redz.”
Bērnu aizsardzības labdarības organizācija NSPCC sacīja, ka Openai gājiens ir “apsveicams solis pareizajā virzienā, bet ar to nepietiek”.
“Bez spēcīgas vecuma pārbaudes viņi vienkārši nezina, kas izmanto viņu platformu,” sacīja Toni Brunton-Douglas, vecākais politikas virsnieks. “Tas nozīmē, ka neaizsargātus bērnus joprojām var atstāt pakļauti. Tehnoloģiju uzņēmumi nedrīkst uzskatīt bērnu drošību par domu. Ir pienācis laiks padarīt aizsardzību par saistību neizpildi.”
Meta paziņoja, ka tā savos AI produktos ir izveidojusi pusaudžu aizsardzību, bet “pievieno vairāk aizsargu kā papildu piesardzības pasākumus-ieskaitot mūsu AI apmācību neiesaistīties pusaudžiem” par tādām tēmām kā paškaitējums, pašnāvība un nesakārtota ēšana, un tā vietā vadot viņus uz ekspertu resursiem.
“Šie atjauninājumi jau notiek, un mēs turpināsim pielāgot savu pieeju, lai palīdzētu nodrošināt, ka pusaudžiem ir droša, vecumam piemērota pieredze ar AI,” sacīja pārstāvis.
