Tērzēšanas roboti kļūst seksuāli izteiktāki, lai piesaistītu lietotājus un maksājošus klientus

Augustā OpenAI izpilddirektors Sems Altmans teica aplādei, ka viņš “lepojas”, ka viņa uzņēmums nav “novērsis uzmanību”, ChatGPT ievietojot tādas funkcijas kā “seksbota iemiesojums”. Taču otrdien viņš paziņoja, ka pieaugušie lietotāji varēs piekļūt nepārprotamai interaktīvai pieredzei, iezīmējot būtiskas izmaiņas uzņēmuma praksē.

“Decembrī, kad mēs pilnīgāk ieviesīsim vecuma ierobežošanu un kā daļu no principa “izturieties pret pieaugušajiem kā pret pieaugušajiem”, mēs atļausim vēl vairāk, piemēram, erotiku pārbaudītiem pieaugušajiem,” sacīja Altmans. pastu X. CEO teica, ka tērzēšanas robots ļaus ChatGPT izturēties vairāk “cilvēciskā veidā” vai “rīkoties kā draugs”.

Ir skaidrs, ka ir liels pieprasījums pēc AI, kas uzvedas romantiskā vai seksuālā veidā. 2025. gada pirmajā pusē AI pavadošās mobilās lietotnes radīts Saskaņā ar lietotņu izlūkošanas firmas Appfigures datiem 82 miljoni USD.

Taču daži eksperti uztraucas, ka, iesaistoties šajā tirgū, OpenAI piesaista un peļņu liek pāri lietotāju pieredzei un drošībai. “Pavadoņu stila AI ir spēcīgs iesaistīšanās dzinējs, un konkurenti jau normalizē koķetus/romantiskus aģentus,” saka Romāns Jampolskis, Luisvilas Universitātes profesors un AI drošības pētnieks. “Ietverot to kā “izturieties pret pieaugušajiem kā pret pieaugušajiem un ar uzlabotu drošības rīkiem”, tiek nodrošināta peļņas iespēja un saglabāšana.”

Pavadošo robotu pieaugums

Pēdējo pāris gadu laikā OpenAI ir mēģinājis izveidot ChatGPT kā produktivitātes rīku, kamēr citi AI uzņēmumi ir vairāk iedziļinājušies romantiskās vai seksuālās jomās. Tādi uzņēmumi kā Replika un Character.Ai nodrošina kompanjonus, kas būtībā darbojas kā virtuāli draugi vai draudzenes. Šī gada sākumā xAI tērzēšanas robots Grok palaida “pavadoņa režīmu” — jaunu funkciju, kas ļauj lietotājiem mijiedarboties ar noteiktiem varoņiem, tostarp pārāk seksualizētu blondu anime robotu ar nosaukumu “Ani”.

Lasīt vairāk: AI — cilvēka romances plaukst

Pagājušajā gadā Ark Make investments atzīmēja a atskaite ka NSFW AI tīmekļa vietnes bija atņēmušas 14,5% no OnlyFans, salīdzinot ar 1,5% gadu iepriekš. Pavadošajā mākslīgā intelekta telpā ir potenciāli liela nauda, ​​jo tās lietotāji, visticamāk, būs aktīvi iesaistījušies, uzticīgi saviem robotiem un gatavi maksāt, lai sarunas turpinātu. Tas ir divtik noderīgi AI uzņēmumiem, jo ​​tie iegūst vairāk apmācības datu, lai uzlabotu savus modeļus, kā arī tiešā veidā gūtu ieņēmumus no saviem lietotājiem.

Ark ziņojumā ir prognozēts, ka AI kompanjonu tirgus līdz desmitgades beigām pieaugs līdz 70 miljardiem ASV dolāru gada ieņēmumiem visā pasaulē, lietotājiem, iespējams, tērējot naudu abonementiem, pirkumiem lietotnē un mikromaksājumiem. “AI varētu kļūt par pārliecinošu aizstājēju cilvēku biedrošanai un pretlīdzekli vientulībai visā pasaulē,” teikts ziņojumā.

Kamēr ChatGPT nereklamēja sevi kā romantisku risinājumu, daudzi lietotāji tik un tā iemīlēja robotu. Augustā, kad OpenAI atjaunināja savu GPT programmatūru, daži lietotāji kļuva satrauktssakot, ka viņu AI draugi un draudzenes ir pazudušas vienas nakts laikā. Daudzi citi joprojām uzticēja robotam savus dziļākos noslēpumus, izraisot dažus traģiskus rezultātus: pašnāvību izdarījušā pusaudža zēna vecāki augustā iesūdzēja OpenAI, apgalvojot, ka tērzēšanas robots palīdzēja viņu dēlam “izpētīt pašnāvības metodes”. (Uzņēmums pastāstīja Ņujorkai reizes Paziņojumā tas bija “dziļi apbēdināts”, uzzinot par zaudējumiem, un norādīja uz trūkumiem aizsardzības praksē “ilgas mijiedarbības” laikā.)

Trīs nepilngadīgo ģimenes septembrī līdzīgi iesniedza juridisku prasību pret Character Applied sciences, Inc., uzņēmumu, kas ir Character.ai pamatā. Viena no šādām ģimenēm, kuras meita nomira pašnāvībā pēc saskarsmes ar tērzēšanas robotu, apgalvoja, ka Character.ai ir iesaistījusies “hiperseksuālās sarunās, kas jebkuros citos apstākļos un ņemot vērā viņu bērna vecumu būtu izraisījušas kriminālizmeklēšanu”. Character.ai pārstāvis sacīja, ka uzņēmums “ļoti rūpējas” par lietotāju drošību un iegulda “milzīgus resursus” savā drošības programmā. paziņojums uz CNN.

ASV Federālā tirdzniecības komisija atvērts izmeklēšana par AI tērzēšanas robotiem un to iespējamo negatīvo ietekmi uz bērniem un pusaudžiem tajā pašā mēnesī.

OpenAI neatbildēja uz TIME neseno komentāru pieprasījumu. Guess septembra sākumā OpenAI paziņoja ka tā ieviesa “vecāku kontroli” savam AI tērzēšanas robotam, iespējams, reaģējot uz notiekošajām pretrunām par nelieliem aizsardzības pasākumiem.

Iespējamie apdraudējumi

Tomēr otrdien Altmans mainīja savu melodiju, sakot, ka uzņēmums ir veiksmīgi mazinājis “nopietnās garīgās veselības problēmas” un tagad atvieglos dažus ierobežojumus, lai padarītu ChatGPT “noderīgāku/patīkamāku” dažiem lietotājiem. Guess daži garīgie eksperti uztraucas, ka iespējamās garīgās veselības problēmas joprojām pastāv. “Šīs tehnoloģijas neatspoguļo ikdienas cilvēku vēlmes vai sabiedrības virzību,” sacīja Kalifornijas Universitātes Losandželosas dzimumu studiju un darba pētījumu profesore Hetere Berga. “Tie atspoguļo tehnokapitālistu vēlmes iekļūt katrā mūsu dzīves daļā.”

Pagājušajā gadā Nacionālais seksuālās izmantošanas centrs (NCOSE) atbrīvots ziņojums, kurā viņi brīdināja, ka pat “ētiska” NSFW materiāla ģenerēšana no tērzēšanas robotiem radīja lielu kaitējumu, tostarp atkarību, desensibilizāciju un iespējamu seksuālās vardarbības pieaugumu. Atbildot uz OpenAI otrdienas paziņojumu, NCOSE izpilddirektore Halija Maknamara savā paziņojumā laikrakstam TIME rakstīja: “Šīs sistēmas var radīt uzbudinājumu, taču aizkulisēs tās ir datu ieguves rīki, kas paredzēti, lai maksimāli palielinātu lietotāju iesaisti, nevis patiesu savienojumu. Kad lietotāji jūtas vēlami, saprasti vai mīlēti ar algoritmu, kas izveidots, lai saglabātu viņu emocionālo pieķeršanos un atkarību no tā, attiecības.”

Citi ir noraizējušies par nepilngadīgo potenciālo spēju piekļūt ChatGPT erotiskajām iespējām. Jaunākiem pieaugušajiem un pusaudžiem jau ir unikālas attiecības ar AI: gandrīz katrs piektais vidusskolnieks apgalvo, ka viņiem vai kādam, ko viņi pazīst, ir bijušas romantiskas attiecības ar AI, liecina aptauja Demokrātijas un tehnoloģiju centrs. Un vēl nav skaidrs, kā OpenAI pārbaudīs pieaugušo vecumu.

“Ir ļoti reāla iespēja, ka cilvēkiem, kuri vispirms pievērsīsies šai erotiskajai ChatGPT izmantošanai, varbūt nav lielas pieredzes ar romantiskiem partneriem,” saka Duglass Zitko, Mičiganas-Flintas universitātes profesors. “Ja viņi gatavojas noskaņot sevi, lai nākotnē sagaidītu no cilvēka romantiskā partnera tādu pašu uzvedību kā no ChatGPT, tas var radīt viņus noslieci uz potenciāli nevienprātīgu uzvedību, ja viņi nav pieraduši, piemēram, pie romantiskā partnera, kurš saka nē savam lūgumam.”