Character.AI, populāra tērzēšanas robotu platforma, kurā lietotāji spēlē lomu spēles ar dažādām personām, vairs neļaus kontu īpašniekiem, kas jaunāki par 18 gadiem, beztermiņa sarunas ar tērzēšanas robotiem, paziņoja uzņēmums trešdiena. Tā arī sāks paļauties uz vecuma nodrošināšanas metodēm, lai nodrošinātu, ka nepilngadīgie nevar atvērt pieaugušo kontus.
Dramatiskās pārmaiņas notiek tikai sešas nedēļas pēc Character.AI parādīšanās atkārtoti iesūdzēja federālajā tiesā vairāki vecāki pusaudžiem, kuri miruši pašnāvībā vai, iespējams, piedzīvojuši smagu kaitējumu, tostarp seksuālu vardarbību; vecāki apgalvo, ka viņu bērni izmantojuši platformu, bija atbildīgi par kaitējumu. 2024. gada oktobrī Megana Garsija iesniedza nelikumīgu nāves prasību, cenšoties saukt uzņēmumu pie atbildības par viņas dēla pašnāvību, apgalvojot, ka tā izstrādājumam ir bīstami defekti.
Tiešsaistes drošības aizstāvji nesen paziņoja, ka Character.AI nav droša pusaudžiem pēc tam pārbaudīja platformu šopavasar un reģistrēti simtiem kaitīgu mijiedarbību, tostarp vardarbība un seksuāla izmantošana.
Tā kā pagājušajā gadā tā saskārās ar juridisku spiedienu, Character.AI ieviesa vecāku kontroli un satura filtri cenšoties uzlabot pusaudžu drošību.
Character.AI nav drošs pusaudžiem, saka eksperti
Intervijā Mashable Character.AI izpilddirektors Karandīps Anands jauno politiku raksturoja kā “drosmu” un noliedza, ka beztermiņa tērzēšanas robotu sarunu ierobežošana ar pusaudžiem būtu atbilde uz īpašām drošības problēmām.
Tā vietā Anands lēmumu formulēja kā “pareizo rīcību”, ņemot vērā plašākus neatbildētus jautājumus par tērzēšanas robotu iesaistes ilgtermiņa ietekmi uz pusaudžiem. Anands atsaucās OpenAI nesenais apstiprinājumspēc pusaudža pašnāvības, ka ilgstošas sarunas var kļūt neparedzamas.
Anands iekļāva Character.AI jauno politiku kā standarta uzstādījumu: “Cerams, ka tā ikvienu nostāda ceļā, lai AI turpinātu būt drošs ikvienam.”
Viņš piebilda, ka uzņēmuma lēmums nemainīsies neatkarīgi no lietotāju reakcijas.
Kā Character.AI tagad izskatīsies pusaudžiem?
In a emuāra ieraksta paziņošana jaunā politika Character.AI atvainojās saviem pusaudžu lietotājiem.
Mashable tendenču pārskats
“Mēs neuztveram šo soli, atceļot beztermiņa rakstzīmju tērzēšanu, taču mēs uzskatām, ka tas ir pareizi, ņemot vērā uzdotos jautājumus par to, kā pusaudžiem klājas un kā viņiem vajadzētu mijiedarboties ar šo jauno tehnoloģiju,” teikts emuāra ierakstā.
Pašlaik lietotāji vecumā no 13 līdz 17 gadiem platformā var sūtīt ziņojumus ar tērzēšanas robotiem. Šī funkcija beigs pastāvēt ne vēlāk kā 25. novembrī. Līdz tam laikam nepilngadīgajiem reģistrētajiem kontiem būs laika ierobežojumi, sākot no divām stundām dienā. Šis ierobežojums samazināsies, tuvojoties pārejai no beztermiņa tērzēšanas.
Character.AI redzēs šos paziņojumus par gaidāmajām izmaiņām platformā.
Kredīts: ar Character.AI atļauju
Pat ja atvērtās tērzēšanas sarunas pazudīs, pusaudžu tērzēšanas vēsture ar atsevišķiem tērzēšanas robotiem paliks nemainīga. Anands sacīja, ka lietotāji var izmantot šo materiālu, lai ģenerētu īsus audio un video stāstus ar saviem iecienītākajiem tērzēšanas robotiem. Dažu nākamo mēnešu laikā Character.AI izpētīs arī jaunas funkcijas, piemēram, spēles. Anands uzskata, ka uzsvars uz “AI izklaidi” bez beztermiņa tērzēšanas apmierinās pusaudžu radošo interesi par platformu.
“Viņi nāk uz lomu spēlēm, un viņi nāk, lai izklaidētos,” sacīja Anands.
Viņš uzstāja, ka esošās tērzēšanas vēstures ar sensitīvu vai aizliegtu saturu, ko, iespējams, iepriekš nav atklājuši filtri, piemēram, vardarbību vai seksu, nenonāks jaunajos audio vai video stāstos.
Character.AI pārstāvis pastāstīja Mashable, ka uzņēmuma uzticības un drošības komanda izskatīja secinājumus ziņojumā, ko septembrī kopīgi publicēja Warmth Initiative un kurā dokumentēta kaitīga tērzēšanas robotu apmaiņa ar nepilngadīgajiem reģistrētiem testa kontiem. Komanda secināja, ka dažas sarunas pārkāpa platformas satura vadlīnijas, guess citas nē. Tā arī mēģināja atkārtot ziņojuma konstatējumus.
“Pamatojoties uz šiem rezultātiem, mēs uzlabojām dažus mūsu klasifikatorus atbilstoši mūsu mērķim nodrošināt lietotājiem drošu un aizraujošu pieredzi mūsu platformā,” sacīja pārstāvis.
Neatkarīgi no tā, Character.AI nekavējoties sāks ieviest vecuma garantiju. Tas stāsies spēkā pēc mēneša, un tam būs vairāki slāņi. Anands sacīja, ka uzņēmums izstrādā savus garantijas modeļus, taču tas sadarbosies ar trešās puses uzņēmumu šīs tehnoloģijas jomā.
Tas arī izmantos atbilstošus datus un signālus, piemēram, vai lietotājam, kas ir vecāks par 18 gadiem, ir verificēts konts citā platformā, lai precīzi noteiktu jauno un esošo lietotāju vecumu. Visbeidzot, ja lietotājs vēlas apstrīdēt Character.AI vecuma noteikšanu, viņam būs iespēja nodrošināt verifikāciju ar trešās puses starpniecību, kas apstrādās sensitīvus dokumentus un datus, tostarp valsts izdotu identifikāciju.
Visbeidzot, kā daļu no jaunajām politikām Character.AI izveido un finansē neatkarīgu bezpeļņas organizāciju, ko sauc par AI drošības laboratoriju. Laboratorija koncentrēsies uz “jaunām drošības metodēm”.
“[W]Es vēlos piesaistīt nozares ekspertus un citus partnerus, lai nodrošinātu, ka AI joprojām ir drošībā, jo īpaši AI izklaides jomā,” sacīja Anands.
