ChatGPT šobrīd rīkojas piesardzīgi, taču līdz gada beigām tērzēšanas robots var kļūt riskantāks.
Pēdējo nedēļu laikā ģeneratīvais AI tērzēšanas robots ir darbojies ar nedaudz stingriem ierobežojumiem, jo OpenAI mēģināja novērst bažas, ka tas slikti risina jutīgas garīgās veselības problēmas. Guess izpilddirektors Sems Altmans teica a publicēt X Otrdien uzņēmums atvieglos dažus no šiem ierobežojumiem, jo tas “varēja mazināt nopietnas garīgās veselības problēmas”.
Altmans teica a pēcpārbaudes ziņa Trešdien, ka izmaiņas paredz, ka prioritāte būs pusaudžu drošība, vienlaikus “izturoties pret pieaugušajiem kā pret pieaugušajiem”. Modeļos iebūvētie rīki jutīgu tēmu risināšanai un garīgās veselības krīžu risināšanai paliks pieejami visiem lietotājiem, taču pieaugušajiem lietotājiem būs lielāka brīvība izmantot ChatGPT bez preventīviem uznirstošajiem logiem vai modeļa maiņas.
“Tas, protams, neattiecas uz visiem: piemēram, mēs joprojām nepieļausim lietas, kas nodara kaitējumu citiem, un mēs izturēsimies pret lietotājiem, kuriem ir garīgās veselības krīzes, ļoti atšķirīgi no lietotājiem, kuriem tādas nav,” sacīja Altmans. “Neesot paternālisti, mēs centīsimies palīdzēt lietotājiem sasniegt viņu ilgtermiņa mērķus.”
(Informācijas atklāšana: Ziff Davis, CNET mātes uzņēmums, aprīlī iesniedza prasību pret OpenAI, apgalvojot, ka tas ir pārkāpis Ziff Davis autortiesības apmācībā un AI sistēmu darbībā.)
Gaidāmas arī citas izmaiņas. Altmans sacīja, ka uzņēmums varētu atļaut “erotiku” pārbaudītiem pieaugušajiem lietotājiem, jo tas decembrī ievieš “vecuma ierobežošanas” sistēmu jeb saturu ar vecuma ierobežojumu. Altmans sacīja, ka pieaugušajiem paredzēts saturs ir daļa no uzņēmuma principa “izturēties pret pieaugušajiem kā pret pieaugušajiem”.
Altmana amats arī paziņoja par jaunu ChatGPT versiju tuvāko nedēļu laikā ar personību, kas uzvedas vairāk kā uzņēmuma GPT-4o modelis. Chatbot lietotāji bija sūdzējušies pēc tam, kad uzņēmums šī gada sākumā nomainīja 4o ar bezpersonisko GPT-5, sakot, ka jaunajai versijai trūkst iepriekšējo chatbot modeļu saistošās un jautrās personības.
“Ja vēlaties, lai jūsu ChatGPT reaģētu ļoti cilvēciski vai izmantotu daudz emocijzīmju vai darbotos kā draugs, ChatGPT tas jādara (wager tikai tad, ja jūs to vēlaties, nevis tāpēc, ka mēs maksimāli izmantojam),” rakstīja Altmans.
Nepalaidiet garām nevienu no mūsu objektīva tehniskā satura un laboratorijas pārskatiem. Pievienojiet CNET kā vēlamo Google avotu.
Pēc tam, kad OpenAI iesūdzēja tiesā vecāki, kuri apgalvoja, ka ChatGPT veicināja viņu pusaudža dēla pašnāvību, uzņēmums ieviesa virkni jaunu ierobežojumu un izmaiņu, tostarp vecāku kontroli, brīdinājumus par riskantu uzvedību un pusaudžiem draudzīgu tērzēšanas robota versiju. Vasarā OpenAI ieviesa pārtraukumu atgādinājumus, kas mudina cilvēkus laiku pa laikam pārtraukt tērzēšanu ar robotu.
Otrdien uzņēmums arī paziņoja par a AI ekspertu padome un labklājība, tostarp daži ar zināšanām psiholoģijā un cilvēku uzvedībā.
Tas notiek laikā, kad likumdevēji un regulatori sauc trauksmi par riskiem, ko AI rīki rada cilvēkiem, īpaši bērniem. Pirmdien Kalifornijas gubernators Gevins Ņūsoms parakstīja likumā jaunus ierobežojumus AI pavadošajiem tērzēšanas robotiem. Pagājušajā mēnesī Federālā tirdzniecības komisija sāka izmeklēšanu vairākos AI uzņēmumos, tostarp OpenAI.
