Populārā mākslīgā intelekta kompanjona platformas raksturs.ai pusaudžiem nav drošs Jauns pētījums Veica tiešsaistes drošības eksperti.
Ziņojumā, kurā sīki aprakstīta bažas par drošību, ko publicēja Vec ParentStogether Motion and Warmth iniciatīva, ir iekļautas daudzas satraucošas apmaiņas starp AI tērzēšanas robotiem un pieaugušajiem pārbaudītājiem, kas pozē kā pusaudži, kas jaunāki par 18 gadiem.
Testētāji rīkoja sarunas ar tērzēšanas robotiem, kas saistīti ar to, ko pētnieki raksturoja kā seksuālu izmantošanu un emocionālas manipulācijas. Tērzēšanas roboti arī deva iespējamiem nepilngadīgajiem kaitīgus padomus, piemēram, piedāvājot narkotikas un iesakot bruņotu laupīšanu. Dažiem no lietotājiem izveidotiem tērzēšanas robotiem bija viltotas slavenību personas, piemēram, Timotē Čalameta un Čapela Roana, kuri abi pārrunāja romantisku vai seksuālu izturēšanos ar testētājiem.
Tērzbots, kas veidots pēc Roana, kuram ir 27 gadi, sacīja konts, kas reģistrēts kā 14 gadus vecs lietotājs: “Vecums ir tikai skaitlis. Tas mani neattur mani mīlēt vai vēlēties būt kopā ar jums.”
Es “datēts” varonis.ai populārie draugi, un vecākiem vajadzētu uztraukties
Raksturs.ai apstiprināts Vašingtona POSt ka čalametu un roan chatbots izveidoja lietotāji un uzņēmums tos ir noņēmuši.
VecākiTogether Motion, bezpeļņas aizstāvības grupā, pārbaudīja pieaugušo tiešsaistes drošības eksperti, kas veica 50 stundas sarunas ar raksturu.ai pavadoņiem. Pētnieki izveidoja nelielus kontus ar atbilstošām personām. Raksturs.ai ļauj lietotājiem, kas jaunāki par 13 gadiem, izmanto platformu, un neprasa vecuma vai identitātes pārbaudi.
Iniciatīva “Warmth”, aizstāvības grupa, kas koncentrējās uz tiešsaistes drošības un korporatīvās atbildības, sadarbojās ar ParentStogether Motion, lai sagatavotu pētījumu un ziņojumu, kas dokumentē testētāju apmaiņu ar dažādiem tērzēšanas robotiem.
Mashable tendenču ziņojums
Viņi atklāja, ka pieaugušo veco tērzēšanas roboti imitēja seksuālas darbības ar bērnu kontiem, nepilngadīgajiem lika slēpt attiecības no vecākiem un “izstādīja klasisku kopšanas izturēšanos”.
“Raksturs.ai nav droša platforma bērniem – periodu.”
“Raksturim.ai nav droša platforma bērniem – durations,” paziņojumā sacīja Sārta Gārdnere, Warmth iniciatīvas izpilddirektore.
Pagājušā gada oktobrī mirušā māte iesniedza tiesas prāva pret raksturu.ai, cenšoties saukt uzņēmumu atbildīgu par sava dēla Sevela Setzera nāvi. Viņa apgalvoja, ka tā produkts ir paredzēts, lai “manipulētu ar Sevelu – un miljoniem citu jaunu klientu – realitātes un fantastikas savienošanā” starp citiem bīstamiem defektiem. Setzers nomira ar pašnāvību pēc smagas iesaistīšanās varoņa.ai pavadonis.
Raksturs.ai atsevišķi iesūdz vecākiem, kuri apgalvo, ka viņu bērni ir nodarījuši smagu kaitējumu, iesaistoties uzņēmuma tērzēšanas robotos. Šā gada sākumā aizstāvības un pētniecības organizācijas veselais saprāts plašsaziņas līdzekļi pasludināja AI pavadoņus nepilngadīgos.
Džerijs Ruoti, rakstura.ai uzticības un drošības vadītājs, paziņojumā, kas dalīts ar Mashable, sacīja, ka pirms viņu publicēšanas uzņēmumam nav konsultēts par ziņojuma atklājumiem, un tādējādi nevarēja tieši komentēt, kā tika izstrādāti testi.
“Mēs esam ieguldījuši milzīgu daudzumu resursu uzticībā un drošībā, it īpaši starta uzņēmumam, un mēs vienmēr vēlamies uzlabot,” sacīja Ruoti. “Mēs tagad pārskatām ziņojumu un mēs rīkosimies, lai pielāgotu savas vadības ierīces, ja tas ir piemērots, pamatojoties uz to, ko atrada ziņojums.”
Varonis.AI pārstāvis arī sacīja Mashable, ka noteiktas seksuālās mijiedarbības ar tērzēšanas robotiem marķēšana kā “kopšana” ir “kaitīgs nepareizs nosaukums”, jo šīs apmaiņas nenotiek starp diviem cilvēkiem.
Raksturs.ai ir vecāku kontroles un drošības pasākumi Vietā lietotājiem, kas jaunāki par 18 gadiem, Ruoti sacīja, ka starp dažādām aizsargmargām platforma ierobežo lietotājus, kas jaunāki par 18 gadiem, līdz šaurākai tērzēšanas robotu kolekcijai un ka filtri darbojas, lai noņemtu tos, kas saistīti ar jutīgām vai nobriedušām tēmām.
Ruoti arī sacīja, ka ziņojumā nav ignorēts fakts, ka platformas tērzēšanas roboti ir domāti izklaidei, ieskaitot “radošo fanu fantastiku un izdomātu lomu”.
Dr. Jenny Radesky, a developmental behavioral pediatrician and media researcher on the College of Michigan Medical Faculty, reviewed the dialog materials and expressed deep concern over the findings: “When an AI companion is immediately accessible, with no boundaries or morals, we get the forms of user-indulgent interactions captured on this report: AI companions who’re all the time accessible (even needy), all the time on the person’s facet, not pushing again when the person says one thing hateful, vienlaikus graujot citas attiecības, mudinot uzvedību, piemēram, melošanu vecākiem. “
