Laipni lūdzam atpakaļ Within the LoopTIME jaunais informatīvais izdevums par mākslīgo intelektu, kas iznāk divas reizes nedēļā. Ja lasāt šo savā pārlūkprogrammā, kāpēc gan neparakstīties, lai nākamais tiktu piegādāts tieši jūsu iesūtnē?
Kas jāzina: Karandīps Anands, Character.AI izpilddirektors
Character.AI ir pakļauts ugunsgrēkam. Tērzēšanas robota platforma, kas ļauj lietotājiem tērzēt ar AI, kas personificē izdomātus varoņus, ir vairāku tiesas prāvu mērķis, tostarp viena no Meganas Garsijas, mātes, kuras 14 gadus vecais dēls. nomira ar pašnāvību pēc tam, kad kļuva apsēsts ar vienu no robotprogrammatūrām, kas, iespējams, mudināja viņu izbeigt savu dzīvi.
Pēc šīs tiesas prāvas un citiem, pagājušajā mēnesī Character.AI nāca klajā ar lielu paziņojumu: tas aizliedz lietotājiem, kas jaunāki par 18 gadiem, rīkot “atklātas sarunas” ar tērzēšanas robotiem savā platformā. Tas bija milzīgs pavērsiens uzņēmumam, kurš apgalvo, ka Z un Alpha paaudzes veido vairāk nekā 6 miljonu ikdienas aktīvo lietotāju kodolu, kuri platformā pavada vidēji 70 līdz 80 minūtes dienā.
Pagājušajā nedēļā es sēdēju ar Character.AI jauno izpilddirektoru Karandeep Anand, lai apspriestu aizliegumu un to, kas to izraisīja.
Pēc Anand domām, aizlieguma laikam nav nekāda sakara ar juridiskajām lietām, ar kurām saskaras Character.AI. Viņš uzsvēra, ka Garsijas nelikumīgās nāves prāva ir celta pirms viņa kā izpilddirektora laika. Un viņš aizstāvēja platformas rekordu, veidojot aizsargmargas lietotājiem, kas jaunāki par 18 gadiem.
Anands sacīja, ka aizliegums bērniem izmantot Character.AI ir daļēji saistīts ar jauniem pētījumiem, kas parāda tērzēšanas robotu lietošanas riskus, īpaši bērniem. “Viens no veicinošajiem faktoriem izriet no jaunām atziņām, ka tērzēšanas robotu mijiedarbības garenvirziena ietekme varētu būt neveselīga vai nav pilnībā izprotama,” viņš man teica, norādot uz OpenAI un Anthropic pētījumiem par tā dēvētās AI sikofānijas briesmām. Ņemot vērā šos atklājumus, viņš nolēma, ka bērnu uzņemšana platformā ir pārāk riskanti.
Taču aizliegums bērniem izmantot Character.AI nav pilnīgs. Viņiem joprojām būs atļauts piekļūt citām Character.AI funkcijām, piemēram, mijiedarbībai ar AI ģenerētu videoklipu īsas formas plūsmu, kas ir līdzīga TikTok lapai For You, kurā lietotāji tiek piedāvāti personalizēt populārus videoklipus, pievienojot savus varoņus vai mainot uzvednes.
Ņemot vērā mūsu sarunas kontekstu, mani pārsteidza, dzirdot Anandu sakām, ka viņa sešgadīgā meita ir dedzīga Character.AI lietotāja. “Tas, ko viņa agrāk darīja kā sapņošana, tagad notiek, stāstot ar tēlu, kuru viņa rada un ar kuru sarunājas,” stāsta Anands. “Pat sarunās [where] viņa man atbildētu šaubīgi, viņa runā ar tērzēšanas robotu daudz atklātāk. (Lietotājiem, kas jaunāki par 13 gadiem, platformai vispār nav atļauts piekļūt, Anands atzīst, tāpēc viņš meitai ļauj piekļūt Character.AI tikai caur savu kontu un uzraudzību.) Viņa meitas entuziasms par Character.AI audiovizuālajām funkcijām deva Anandam pārliecību likt uzņēmumam veidot šāda veida spēļu iespējas bērniem, viņš saka, nevis ļaut tērzēt īsziņu veidā.
Izpilddirektors ir atkāpies no amata, lai sava lēmuma rezultātā zaudētu dažus lietotājus. “Esmu gatavs saderēt, ka mēs veidosim pārliecinošāku pieredzi, guess, ja tas nozīmē, ka daži lietotāji atteiksies, tad daži lietotāji atsakās,” viņš saka. Taču viņš pilnībā neizslēdz čatbotu aizlieguma, kas jaunāki par 18 gadiem, atcelšanu. “Esmu diezgan pārliecināts, ka kādā brīdī, kad tehnoloģija attīstīsies pietiekami daudz un mēs varēsim iegūt daudz vairāk apsardzes pieredzes rakstīšanai, mēs šo pieredzi atgriezīsim.”
Tomēr pagrieziena punkts ir nogādājis Character.AI — bezatbildīgas mākslīgā intelekta attīstības plakātu — dīvainā pozīcijā, kas ir karsējmeitenes drošākas tiešsaistes pieredzes nodrošināšanai bērniem. Anands saka, ka atzinīgi vērtē neseno senatora Džoša Holija ierosināto likumprojektu, kas aizliegtu ikvienam, kas jaunāks par 18 gadiem, visā valstī izmantot AI pavadošās lietotnes. “Nozarei būtu ļoti skumji, ja mēs pieņemtu šos lēmumus [to ban users under 18] un tad lietotāji pāriet uz citām platformām, kuras neuzņemas šo atbildību,” Anands man stāsta. “No drošības viedokļa ir jāpaaugstina latiņa lietotājiem, kas jaunāki par 18 gadiem… Tas ir jāregulē.”
Ja jums ir minūte, lūdzu, nesteidzieties aptauja lai palīdzētu mums labāk saprast, kas jūs esat un kuras AI tēmas jūs visvairāk interesē.
Kas jāzina: ES apsver privātuma kompromisu, lai piesaistītu AI naudu
Eiropas Savienības regulatori apsver iespēju atcelt dažus no saviem plašās privātuma aizsardzības pasākumiem, cenšoties padarīt kontinentu par pievilcīgāku vietu mākslīgā intelekta investīcijām vājās ekonomikas izaugsmes apstākļos.
Politico iegūtie dokumenti, kas liecina, ka amatpersonas plāno mainīt ES vadošo privātuma likumu, Vispārīgo datu aizsardzības regulu (GDPR), lai ļautu AI uzņēmumiem apmācīt un vadīt savas sistēmas, izmantojot iepriekš aizsargātas personas datu kategorijas.
Ko mēs lasām
Mums ir vajadzīga globāla kustība, lai aizliegtu superinteliģentu AIautors Andrea Mioti TIME
Kontroles AI vadītājs Andrea Mioti aicina uz globālu kustību, lai apturētu superinteliģento AI, līdzīgi kā pasaule ir apvienota, lai apturētu cauruma augšanu ozona slānī. “Tādējādi superinteliģences izraisītajam izzušanas riskam ir potenciāls izjaukt visas nodaļas,” viņš raksta. “Tā var apvienot cilvēkus dažādās politiskajās partijās, reliģijās, nācijās un ideoloģijās. Neviens nevēlas, lai viņu dzīve, ģimene, pasaule tiktu iznīcināta.”
