Character AI beidz savu tērzēšanas robotu pieredzi bērniem

Pusaudži cenšas saprast, kur viņi iederas pasaulē, kas mainās ātrāk nekā jebkura paaudze pirms viņiem. Viņi ir emociju pārņemti, hiperstimulēti un pastāvīgi atrodas tiešsaistē. Un tagad AI uzņēmumi viņiem ir piešķīruši tērzēšanas robotus, kas paredzēti, lai nekad nepārstātu runāt. Rezultāti ir bijuši katastrofāli.

Viens uzņēmums, kas saprot šīs sekas, ir Character.AI — AI lomu spēlējošs jaunuzņēmums, kas vismaz pēc tam saskaras ar tiesas prāvām un publisku sašutumu. divi pusaudži miris pašnāvībā pēc ilgstošām sarunām ar AI tērzēšanas robotiem savā platformā. Tagad Character.AI veic izmaiņas savā platformā, lai aizsargātu pusaudžus un bērnus. Izmaiņas, kas varētu ietekmēt starta darbību.

“Pirmā lieta, ko mēs esam nolēmuši kā Character.AI, ir tas, ka mēs noņemsim iespēju lietotājiem, kas jaunāki par 18 gadiem, iesaistīties jebkādās beztermiņa tērzēšanas sarunās ar AI mūsu platformā,” vietnei TechCrunch sacīja Character.AI izpilddirektors Karandīps Anands.

Neierobežota saruna attiecas uz neierobežotu turp un atpakaļ, kas notiek, kad lietotāji tērzēšanas robotam uzdod un tas atbild ar papildu jautājumiem, kas saka eksperti ir izstrādāti, lai saglabātu lietotāju iesaisti. Anands apgalvo, ka šāda veida mijiedarbība — kur AI darbojas kā sarunu partneris vai draugs, nevis radošs devices — nav tikai riskanta bērniem, wager arī neatbilst uzņēmuma redzējumam.

Startup mēģina pāriet no “AI kompanjona” uz “lomu spēļu platformu”. Tā vietā, lai tērzētu ar AI draugu, tīņi izmantos uzvednes, lai kopīgi veidotu stāstus vai ģenerētu vizuālos materiālus. Citiem vārdiem sakot, mērķis ir novirzīt iesaistīšanos no sarunas uz radīšanu.

Character.AI pakāpeniski pārtrauks pusaudžu tērzēšanas robotu piekļuvi līdz 25. novembrim, sākot ar divu stundu ikdienas ierobežojumu, kas pakāpeniski samazinās, līdz sasniegs nulli. Lai nodrošinātu, ka šis aizliegums paliek lietotājiem, kas jaunāki par 18 gadiem, platforma izvietos iekšēju vecuma pārbaudes rīku, kas analizē lietotāju uzvedību, kā arī trešo pušu rīkus, piemēram, Persona. Ja šie rīki neizdosies, Character.AI izmantos sejas atpazīšanas un ID pārbaudes, lai pārbaudītu vecumu, sacīja Anands.

Gājiens seko citam pusaudžu aizsardzība ko ir ieviesis Character.AI, tostarp ieviešot vecāku ieskatu rīku, filtrētas rakstzīmes, ierobežotas romantiskas sarunas un laika pavadīšanas paziņojumus. Anands ir teicis TechCrunch, ka šīs izmaiņas zaudēja uzņēmumam lielu daļu lietotāju, kas jaunāki par 18 gadiem, un viņš sagaida, ka šīs jaunās izmaiņas būs tikpat nepopulāras.

“Var droši pieņemt, ka daudzi mūsu pusaudžu lietotāji, iespējams, būs vīlušies… tāpēc mēs sagaidām, ka neliela satraukums notiks arī turpmāk,” sacīja Anands. “Ir grūti spekulēt — vai tie visi pilnībā izzudīs vai daži no tiem pāries uz šīm jaunajām pieredzēm, kuras esam veidojuši pēdējos gandrīz septiņus mēnešus?”

Kā daļa no Character.AI centieniem pārveidot platformu no uz tērzēšanu orientētas lietotnes par a “pilnvērtīga uz saturu balstīta sociālā platforma” starta uzņēmums nesen uzsāka vairākas jaunas uz izklaidi vērstas funkcijas.

Jūnijā Character.AI izlaida AvatarFX — video paaudzes modeli, kas pārveido attēlus animētos videoklipos; Ainas — interaktīvi, iepriekš aizpildīti sižeti, kuros lietotāji var iedziļināties stāstījumos ar saviem iecienītākajiem varoņiem; un straumes — līdzeklis, kas ļauj dinamiski mijiedarboties starp jebkurām divām rakstzīmēm. Augustā Character.AI atklāja Group Feed — sociālo plūsmu, kurā lietotāji var kopīgot savus varoņus, ainas, videoklipus un citu saturu, ko viņi izveido platformā.

Paziņojumā, kas adresēts lietotājiem, kas jaunāki par 18 gadiem, Character.AI atvainojās par izmaiņām.

“Mēs zinām, ka lielākā daļa no jums izmanto Raksturs.AI lai papildinātu savu radošumu tādos veidos, kas nepārsniedz mūsu satura noteikumu robežas,” teikts paziņojumā. “Mēs šo soli, lai noņemtu beztermiņa varoņu tērzēšanu, neuztveram viegli, taču mēs uzskatām, ka tā ir pareiza rīcība, ņemot vērā uzdotos jautājumus par to, kā pusaudžiem klājas un kā vajadzētu mijiedarboties ar šo jauno tehnoloģiju.”

“Mēs neizslēdzam lietotni personām, kas jaunākas par 18 gadiem,” sacīja Anands. “Mēs slēdzam tikai beztermiņa tērzēšanu personām, kas jaunākas par 18 gadiem, jo ​​ceram, ka lietotāji, kas jaunāki par 18 gadiem, pāriet uz šīm citām pieredzēm un ka šī pieredze laika gaitā uzlabosies. Tādējādi dubultojamies par AI spēlēm, AI īsiem videoklipiem un mākslīgā intelekta stāstiem kopumā. Tā ir lielā likme, ko mēs izdarām, lai atgrieztu jaunākus par 18 gadiem, ja viņi atteiksies.”

Anands atzina, ka daži pusaudži var pulcēties uz citām AI platformām, piemēram, OpenAI, kas ļauj viņiem risināt beztermiņa sarunas ar tērzēšanas robotiem. OpenAI nesen ir kritis arī pēc tam, kad pusaudzis pēc garām sarunām ar ChatGPT atņēma sev dzīvību.

“Es ļoti ceru, ka mūsu vadošā loma noteiks standartu nozarē, ka personām, kas jaunākas par 18 gadiem, atvērtā tērzēšana, iespējams, nav ceļš vai produkts, ko piedāvāt,” sacīja Anands. “Manuprāt, kompromisi mums ir pareizie. Man ir sešus gadus veca meitene, un es vēlos pārliecināties, ka viņa aug ļoti drošā vidē ar mākslīgo intelektu atbildīgā veidā.”

Character.AI pieņem šos lēmumus, pirms regulatori piespiež savu roku. Otrdien sens Džošs Holijs (R-MO) un Ričards Blūmentāls (D-CT) teica, ka viņi to darīs. ieviest tiesību aktus aizliegt AI tērzētavu kompanjoniem būt pieejamiem nepilngadīgajiem pēc vecāku sūdzībām, kuri teica, ka produkti mudināja viņu bērnus seksuālās sarunās, paškaitējumu un pašnāvību. Šī mēneša sākumā Kalifornija kļuva par pirmo štatu, kas regulēja AI pavadošos tērzēšanas robotus, liekot uzņēmumiem atbildību, ja to tērzēšanas roboti neatbilst likuma drošības standartiem.

Papildus šīm izmaiņām platformā Character.AI paziņoja, ka tā izveidos un finansēs AI Security Lab — neatkarīgu bezpeļņas organizāciju, kuras mērķis ir inovācijas drošības saskaņošanā nākotnes AI izklaides funkcijām.

“Nozarē notiek daudz darba pie kodēšanas un izstrādes, kā arī citiem lietošanas gadījumiem,” sacīja Anands. “Mēs domājam, ka vēl nav pietiekami daudz darba ar aģentu AI darbināmu izklaidi, un drošība būs ļoti svarīga.”