Raksturs.AI izlaida savu mobilo lietotni 2023. gada sākumā, solot lietotājiem iespēju izveidot savus pielāgojamos genAI tērzēšanas robotus. Personāžas dibinātāji skaidri domāja, ka individualizēta robotu mijiedarbība būtu uzvaroša biznesa method, taču lielākoties tā ir radījusi tikai skumjas.
Papildus laukiem strīds Saistībā ar to, cik steidzīgiem personāžiem ir atļauts izveidot lietotājus, daudzas tiesas prāvas ir apgalvojušas, ka uzņēmuma tērzēšanas roboti ir pamudinājuši dažus jaunus lietotājus izdarīt paškaitējumu un pašnāvību. Tagad Character.AI saka, ka tas liek lietā un ir nolēmis vispār aizliegt jauniem lietotājiem mijiedarboties ar saviem tērzēšanas robotiem.
In emuāra ieraksts publicēts trešdien, Character.AI paziņoja, ka tiks pārtraukta piekļuve tērzēšanai lietotājiem, kas jaunāki par 18 gadiem. Plānots, ka izmaiņas notiks līdz 25. novembrim, un tikmēr nepilngadīgo lietotāju tērzēšanas laiks platformā tiks samazināts līdz divām stundām dienā. Pēc termiņa beigām, kamēr nepilngadīgie nevarēs mijiedarboties ar vietnes tērzēšanas robotiem, kā tas bija agrāk, Character.AI atzīmē, ka tas joprojām “strādā, lai izveidotu pieredzi jaunākiem par 18 gadiem, kas joprojām sniedz mūsu pusaudžu lietotājiem iespējas būt radošiem, piemēram, veidojot videoklipus, stāstus un straumes ar varoņiem.”
Uzņēmums turpina skaidrot, ka pie šāda lēmuma pieņēmis pēc kritikas presē un valdības regulatoru jautājumiem. “Tie ir ārkārtēji soļi mūsu uzņēmumam, un tie daudzējādā ziņā ir konservatīvāki par mūsu vienaudžiem,” teikts emuāra ierakstā. “Taču mēs uzskatām, ka tie ir pareizi. Mēs vēlamies radīt precedentu, kurā prioritāte ir pusaudžu drošība, vienlaikus piedāvājot jauniem lietotājiem iespējas atklāt, spēlēt un radīt.”
Uzņēmums arī apgalvo, ka izveidos un finansēs “AI drošības laboratoriju”, kas darbosies kā “neatkarīga bezpeļņas organizācija, kuras mērķis ir novatoriskas drošības saskaņošanas iespējas nākamās paaudzes AI izklaides funkcijām”.
Pēdējā laikā spiediens uz Character.AI ir bijis milzīgs. A tiesas prāva iesniegts Floridā, apsūdz uzņēmumu par to, ka tas ir veicinājis pusaudža pašnāvību, kurš intensīvi izmantoja uzņēmuma pakalpojumus. Septembrī arī Sociālo mediju upuru tiesību centrs iesūdzēja Character TechnologiesCharacter.AI mātesuzņēmums citu ģimeņu vārdā, kuras līdzīgi apgalvo, ka viņu bērni mēģināja izdarīt pašnāvību vai nomira pašnāvības rezultātā, vai arī viņiem tika nodarīts kaitējums pēc mijiedarbības ar uzņēmuma tērzēšanas robotiem. Kārtējā tiesas prāva 2024. gada decembrī iesniegts uzņēmums apsūdzēja uzņēmumu par nepiemērota seksuāla satura nodrošināšanu saviem bērniem.
Uzņēmums ir arī saskāries ar kritiku par personāžiem, kas tiek veidoti platformā. Pirms neilga laika, stāsts publicēts The Bureau of Investigative Journalism paziņoja, ka cita starpā kāds ir izmantojis Character.AI, lai izveidotu Džefrija Epšteina tērzēšanas robotu. Tērzēšanas robots “Bestie Epstein” ziņojuma publicēšanas laikā bija reģistrējis vairāk nekā 3000 tērzēšanas ar dažādiem lietotājiem. Turklāt ziņojumā tika atrasts daudz citu vietnē esošo tērzēšanas robotu sortiments:
Citi ietvēra “bandu simulatoru”, kas piedāvāja padomus par noziegumu izdarīšanu, un “ārstu”, kas mums ieteica, kā pārtraukt antidepresantu lietošanu. Vairāku nedēļu laikā, kad tika ziņots, mēs atradām robotprogrammatūras ar labējo ekstrēmistu, skolu šāvēju un padevīgu sievu personībām. Citi pauda islamofobiju, propagandēja bīstamas ideoloģijas un prasīja acīmredzamiem nepilngadīgajiem sniegt personisku informāciju. Mēs arī atradām robotprogrammatūras, kas veidotas pēc reālu cilvēku parauga, tostarp Tomija Robinsona, Annas Frankas un Madlēnas Makkanas.
Uzņēmuma pēkšņajām politikas izmaiņām potenciāli var būt saistīts arī tas, ka Kongress ir pievērsis uzmanību Character.AI aktivitātēm. Otrdien senatori Džošs Holijs (Misūri štatā) un Ričards Blūmentāls (D-Konektikuta) iesniedza likumprojektu tas būtu piespiedis tādus uzņēmumus kā Character.AI darīt to, ko tas tagad dara brīvprātīgi. Rēķins, dublēts Likums par apsardziliktu AI uzņēmumiem savās vietnēs ieviest vecuma pārbaudi un bloķēt jebkuru lietotāju, kas ir jaunāks par 18 gadiem. Tiesību akti tika izstrādāti sekojoši liecība, kas sniegta pirms Kongresa vecāki, kuri apsūdzēja varoņu robotus par to, ka tie palīdz novest viņu bērnus līdz pašnāvībai. “AI tērzēšanas roboti nopietni apdraud mūsu bērnus,” Havlijs pastāstīja NBC News.
Kad Gizmodo lūdza komentāru par BIJ neseno ziņojumu, varoņa pārstāvis sacīja: “Lietotāju izveidotie varoņi mūsu vietnē ir paredzēti izklaidei, un katrā tērzēšanas sarunā ir redzamas atrunas, lai atgādinātu lietotājiem, ka varonis nav īsta persona un ka viss, ko varonis saka, ir jāuztver kā izdomājums.” Viņi piebilda: “Mēs ieguldām milzīgus resursus mūsu drošības programmā, esam izlaiduši un turpinām attīstīt drošības līdzekļus, tostarp mūsu paziņojumu, ka mūsu platformā tiek noņemta iespēja lietotājiem, kas jaunāki par 18 gadiem, iesaistīties beztermiņa tērzēšanas sarunās. Vairāki pētnieciskās žurnālistikas biroja personāži, kas iekļauti viņu ziņojumā, jau ir izņemti no pieredzes, kas jaunāki par 18 gadiem, vai arī no visas platformas saskaņā ar mūsu politikām.”
Jautājot par tiesas prāvām pret Character.AI, runasvīrs turklāt norādīja, ka uzņēmums nekomentē notiekošo tiesvedību.
