Sems Altmans saka, ka Chatgpt drīz ļaus pieaugušajiem lietotājiem erotiku

Openai izpilddirektors Sems Altmans paziņoja a Ievietojiet uz x Otrdien uzņēmums drīz atslābinās dažus no Chatgpt drošības ierobežojumiem, ļaujot lietotājiem padarīt tērzēšanas robota atbildes draudzīgākas vai “cilvēkam līdzīgākas” un “verificētiem pieaugušajiem” iesaistīties erotiskās sarunās.

“Mēs padarījām ChatGpt diezgan ierobežojošu, lai pārliecinātos, ka esam uzmanīgi ar garīgās veselības problēmām. Mēs saprotam, ka tas padarīja to mazāk noderīgu/baudāmu daudziem lietotājiem, kuriem nebija garīgās veselības problēmu, wager, ņemot vērā problēmas nopietnību, kuru mēs vēlējāmies šīs tiesības,” sacīja Altmans. “Decembrī, kad mēs pilnveidojam vecumu un kā daļu no mūsu” pieaugušo lietotājus kā pieaugušo principu, mēs to atļausim vēl vairāk, piemēram, erotika pārbaudītiem pieaugušajiem. “

Paziņojums ir ievērojams pagrieziens no Openai mēnešiem ilgajiem centieniem pievērsties attiecīgajām attiecībām, kuras daži garīgi nestabili lietotāji ir izstrādājuši ar Chatgpt. Šķiet, ka Altmans pasludina agrīnu uzvaru pār šīm problēmām, apgalvojot, ka Openai ir spējīgs mazināt nopietnās garīgās veselības problēmas ”ap Chatgpt. Tomēr uzņēmums par to ir sniedzis maz vai nav pierādījumu, un tagad tas uz priekšu ar plāniem, ka Chatgpt varētu iesaistīties seksuālās tērzēšanā ar lietotājiem.

Vairāki par stāstiem parādījās šovasar ap Chatgpt, it īpaši tā GPT-4O modelis, kas liek domāt, ka AI tērzēšanas robots varētu izraisīt neaizsargātus lietotājus maldinošos truša caurumus. Vienā gadījumā Chatgpt šķita, ka pārliecina cilvēku, ka viņš ir matemātikas ģēnijs, kuram vajadzēja glābt pasauli. Citā pusaudža vecāki iesūdzēja Sevei Openai, apgalvojot, ka Chatgpt mudināja viņu dēla pašnāvības idejas nedēļās pirms viņa nāves.

Atbildot uz to, Openai izlaida virkni drošības funkciju, lai risinātu AI sycophancy: tendence uz AI tērzēšanas robotu piesaistīt lietotājus, vienojoties ar visu, ko viņi saka, pat negatīva izturēšanās.

Openai augustā uzsāka GPT-5, jaunu AI modeli, kas uzrāda zemāku sycophancy ātrumu un kam ir maršrutētājs, kas var identificēt lietotāju uzvedību. Mēnesi vēlāk Openai uzsāka nepilngadīgo drošības funkcijas, ieskaitot vecuma prognozēšanas sistēmu un veidu vecāki kontrolēt viņu pusaudžu Chatgpt kontu. Openai paziņoja otrdien Ekspertu padome garīgās veselības ekspertu, kas konsultē uzņēmumu par labklājību un AI.

Tikai dažus mēnešus pēc šo stāstu parādīšanās Openai, šķiet, domā, ka Chatgpt problēmas, kas saistītas ar neaizsargātiem lietotājiem, tiek kontrolētas. Nav skaidrs, vai lietotāji joprojām nokrīt maldinošos trušu caurumos ar GPT-5. Un, lai gan GPT-4O vairs nav noklusējums ChatGpt, AI modelis joprojām ir pieejams šodien un to izmanto tūkstošiem cilvēku.

Openai neatbildēja uz TechCrunch lūgumu komentēt.

Erotikas ieviešana Chatgpt ir Openai neierobežota teritorija un rada plašākas bažas par to, kā neaizsargāti lietotāji mijiedarbosies ar jaunajām funkcijām. Kamēr Altmans uzstāj, ka Openai nav “lietošanas mačs, vai optimizē iesaistīšanos, ChatGpt padarīšana erotiskāka noteikti varētu piesaistīt lietotājus.

Thatbots ļaut iesaistīties romantiskā vai erotiskā lomu spēlē ir bijusi efektīva iesaistīšanās stratēģija citiem AI tērzēšanas robotu pakalpojumu sniedzējiem, piemēram, raksturu.ai. Uzņēmums ir ieguvis desmitiem miljonu lietotāju, no kuriem daudzi izmanto savus tērzēšanas robotus ar augstu ātrumu. Raksturs.ai 2023. gadā teica, ka lietotāji pavada vidēji divas stundas dienā runājot ar tās tērzēšanas robotiem. Uzņēmums saskaras arī ar tiesas procesu par to, kā tas apstrādā neaizsargātus lietotājus.

Openai ir pakļauts spiedienam, lai palielinātu savu lietotāju bāzi. Kamēr ChatGpt jau izmanto 800 miljonus iknedēļas aktīvo lietotāju, Openai sacīkstēs pret Google un Meta, lai izveidotu masveidā papildinātus patēriņa produktus ar AI. Uzņēmums ir piesaistījis arī miljardiem dolāru par vēsturisko infrastruktūras celtniecību, investīciju Openai galu galā ir jāatmaksā.

Kamēr pieaugušie ir Protams, ir romantiskas attiecības ar AI tērzēšanas robotiemtas ir arī diezgan populārs nepilngadīgajiem. Jauns Demokrātijas un tehnoloģijas centra ziņojums to atklāja 19% vidusskolēnu Vai nu ir bijušas romantiskas attiecības ar AI tērzēšanu, vai arī zināt draugu, kurš ir.

Altmans saka, ka Openai drīz atļaus Erotiku “pārbaudītiem pieaugušajiem”. Nav skaidrs, vai uzņēmums paļausies uz savu vecuma prognozēšanas sistēmu vai kādu citu pieeju, lai iegūtu vecumu, kas saistīta ar Chatgpt erotiskajām īpašībām. Nav arī skaidrs, vai Openai paplašinās erotiku līdz AI balss, attēlu un video ģenerēšanas rīkiem.

Altmans apgalvo, ka Openai arī padara Chatgpt draudzīgāku un erotisku, jo uzņēmums “izturieties pret pieaugušajiem lietotājiem kā pieaugušajiem” principu. Pēdējā gada laikā Openai ir pārgājis uz saudzīgāku satura mērenības stratēģiju ChatGpt, ļaujot tērzēšanas robotam būt pieļaujamākam un piedāvāt mazāk atteikumu. Februārī Openai apņēmās pārstāvēt vairāk politisko viedokļu punktu Chatgpt, un martā uzņēmums atjaunināja Chatgpt, lai ļautu AI ģenerētiem naida simbolu attēliem.

Šķiet, ka šī politika ir mēģinājums padarīt Chatgpt reakciju populārāku visdažādākajos lietotāju vidū. Tomēr neaizsargāti Chatgpt lietotāji var gūt labumu no aizsardzības pasākumiem, kas ierobežo to, ar ko var iesaistīties tērzēšana. Tā kā Openai sacenšas par miljardu iknedēļas aktīvo lietotāju, var pieaugt spriedze starp izaugsmi un neaizsargātu lietotāju aizsardzību.