AI kompanjonam tērzēšanas robotam Character.AI drīz būs pieejams tikai pieaugušajiem paredzēta politika atvērtām sarunām ar AI varoņiem. Pusaudžiem, kuri izmanto lietotni, tiks noteikti ierobežojumi: viņi joprojām varēs mijiedarboties ar varoņiem, izmantojot ģenerētus videoklipus un citus lomu spēles formātus, taču viņi nevarēs brīvi tērzēt ar lietotnes dažādajām personībām.
Atvērtās tērzēšanas sarunas ir bijušas AI stūrakmens, jo īpaši kopš ChatGPT palaišanas pirms trim gadiem. Jaunums — tiešraide ar datoru, kas tieši reaģē uz jūsu teikto, izraisīja tādu platformu kā Character.AI popularitāti.
Tas ir arī radījis bažas, jo šīs sarunas var novirzīt AI modeļus neparedzamos virzienos, īpaši, ja pusaudži tos izmanto, lai apspriestu garīgās veselības problēmas vai citus jutīgus jautājumus. Pastāv arī bažas par AI tērzēšanas atkarību un tās ietekmi uz sociālo uzvedību.
Character.AI nedaudz atšķiras no citiem tērzēšanas robotiem. Daudzi cilvēki izmanto lietotni, lai interaktīvi stāstītu un radoši iesaistītos sarunās ar pielāgojamiem varoņiem, tostarp tiem, kuru pamatā ir īstas slavenības vai vēsturiskas personas.
Karandīps Anands, Character.AI izpilddirektors, sacīja, ka uzņēmums uzskata, ka tas joprojām var nodrošināt interaktīvu jautrību, ko tīņi sagaida no platformas, bez drošības apdraudējumiem, ko rada atvērtas tērzēšanas sarunas. Viņš teica, ka šī rīcība ir paredzēta vairāk nekā obligātajam minimumam, lai nodrošinātu lietotāju drošību.
“Ir labāks veids, kā apkalpot pusaudžu lietotājus,” pirms trešdienas paziņojuma CNET sacīja Anands. “Tam nav jāizskatās pēc tērzēšanas robota.”
Papildus beztermiņa sarunu aizliegumam personām, kas jaunākas par 18 gadiem, Character.AI pievieno jaunus vecuma pārbaudes pasākumus un izveido bezpeļņas AI drošības laboratoriju.
Nepalaidiet garām nevienu no mūsu objektīva tehniskā satura un laboratorijas pārskatiem. Pievienojiet CNET kā vēlamo Google avotu.
Kas mainās programmā Character.AI?
Ir pierādījies, ka mākslīgā intelekta izklaide ir viens no biežākajiem lielo valodu modeļu lietojumiem. Drošības bažas par to, kā bērni cieš no attiecībām ar AI modeļiem, šogad ir ievērojami pieaugušas, Federālajai tirdzniecības komisijai uzsākot izmeklēšanu vairākos uzņēmumos, tostarp Character.AI.
Uzņēmums ir saskāries ar tiesas prāvām no bērnu vecākiem, kuru sarunas ar AI varoņiem izraisīja kaitējumu, tostarp pašnāvību. Ģeneratīvo mākslīgā intelekta gigantu OpenAI iesūdzēja kāda pusaudža vecāki, kurš izdarīja pašnāvību pēc mijiedarbības ar uzņēmuma ChatGPT.
Character.AI beztermiņa tērzēšanas sarunu ierobežojumi nenotiks vienas nakts laikā. Šī funkcionalitāte lietotājiem, kas jaunāki par 18 gadiem, beigsies ne vēlāk kā 25. novembrī, wager lietotājiem, kas nav pieaugušie, tērzēšanas laiks tiks ierobežots līdz 2 stundām dienā, samazinoties līdz nullei.
Pārejas durations ļaus cilvēkiem pielāgoties izmaiņām, sacīja Anands. Tas arī dos uzņēmumam laiku, lai ieviestu vairāk funkciju, kas nav atvērtas tērzēšanas roboti. “Mēs vēlamies būt atbildīgi par to, kā lietotāji pāriet uz šiem jaunajiem formātiem,” sacīja Anands.
Pusaudžu lietotāji joprojām varēs mijiedarboties ar AI ģenerētiem videoklipiem un spēlēm, kurās ir redzami esošie varoņi, piemēram, robotprogrammatūras, kuru pamatā ir anime vai filmu figūriņas. Piemēram, viņi varēs sniegt uzvedni lomu spēles scenārijam un AI izveidot stāstu, kas atbilst uzvednei.
Anands teica, ka šāda veida funkcijām ir vairāk aizsargrežģu nekā beztermiņa tērzēšanas sarunām, kuras var kļūt mazāk paredzamas, turpinoties tērzēt.
“Mēs uzskatām, ka šis jaunais multimodālais audiovizuālais veids, kā spēlēt lomu spēles un spēles, jebkurā gadījumā ir daudz pārliecinošāks,” viņš teica.
Jaunā vecuma verifikācija tiks sākta, izmantojot vecuma noteikšanas programmatūru, lai noteiktu, kurš ir 18 gadus vecāks, pamatojoties uz informāciju, ko viņi ir kopīgojuši ar Character.AI vai trešo pušu platformām, kas izmanto tos pašus verifikācijas pakalpojumus. Dažiem lietotājiem būs jāapliecina sava identitāte, izmantojot valsts apliecību vai citu dokumentāciju.
Ja neskaita iespējamo vecuma pārbaudi, pieaugušajiem lietotājiem nekas nemainīsies.
Šis Character.AI sniegtais attēls parāda, kā lietotāji tiks informēti par izmaiņām personām, kas jaunākas par 18 gadiem.
Kas nākamais AI pavadoņiem?
Character.AI paziņojums iezīmē būtiskas izmaiņas AI kompanjonu jomā, wager cik liela atšķirība vēl ir redzama. Anands sacīja, ka cer, ka citi, tostarp AI konkurenti, sekos piemēram, ierobežojot bērnu piekļuvi beztermiņa tērzēšanas robotu varoņiem.
Vēl viena liela problēma, kas saistīta ar atvērto tērzēšanas robotu pieredzi, ir tā, ka valodu modeļi, uz kuriem tie ir balstīti, ir izstrādāti tā, lai padarītu lietotājus laimīgus un piesaistītu viņus, radot simpātijas kvalitāti. Nesenie Hārvardas Biznesa skolas pētījumi atklāja pusduci veidu, kā robotprogrammatūra neļauj kādam tērzēt pat tad, ja viņi mēģina doties promenade.
Likumdevēji rūpīgi pārbauda arī mākslīgā intelekta pavadošās robotprogrammatūras. ASV Senāta Tiesu komiteja septembrī rīkoja uzklausīšanu par AI tērzēšanas robotu radītais kaitējumsun Kalifornijas gubernators Gevins Ņūsoms oktobrī parakstīja jaunu likumu, kas nosaka jaunas prasības tērzēšanas robotiem, kas mijiedarbojas ar bērniem.
