Sekojiet ZDNET: Pievienojiet mūs kā vēlamo avotu Google tīklā.
ZDNET galvenās atziņas
- OpenAI samazina nevēlamo uzvedību savā tērzēšanas robotā.
- Tajā par 65% samazinājās neapmierinošo atbilžu skaits.
- Atjauninājumu mērķis nav mudināt lietotājus krīzes situācijā.
Pēc aicinājumiem publiski demonstrēt, kā uzņēmums rada drošāku pieredzi tiem, kam ir garīgās veselības epizodes, OpenAI paziņoja par uzlabojumiem uz savu jaunāko modeli GPT-5 pirmdien.
Arī: Pat OpenAI izpilddirektors Sems Altmans uzskata, ka nevajadzētu uzticēties AI terapijai
Uzņēmums saka, ka šie uzlabojumi rada modeli, kas var uzticamāk reaģēt uz cilvēkiem, kuriem ir mānijas, psihozes, paškaitējuma un pašnāvības domas, kā arī emocionāla pieķeršanās pazīmes.
Rezultātā saskaņā ar OpenAI jaunajām vadlīnijām ir samazinājušās neatbilstošās ChatGPT atbildes, kas lietotājus attālina no realitātes vai pasliktina viņu garīgo stāvokli, teikts uzņēmuma emuāra ziņā. OpenAI lēsa, ka GPT-5 atjauninājumi “par 65% samazināja atbilžu skaitu, kas pilnībā neatbilst vēlamajai uzvedībai” sarunās ar lietotājiem par garīgās veselības problēmām.
Atjauninājumi
OpenAI teica, ka tā sadarbojās ar vairāk nekā 170 garīgās veselības ekspertiem, lai atpazītu, rūpīgi reaģētu un sniegtu reālās pasaules norādījumus lietotājiem, kuri ir apdraudēti paši. Laikā a tiešraide par OpenAI neseno pārstrukturēšanu un nākotnes plāniem otrdien auditorijas loceklis jautāja izpilddirektoram Semam Altmanam par šo ekspertu sarakstu — Altmans nebija pārliecināts, cik daudz šīs informācijas viņš varētu dalīties, taču atzīmēja, ka “lielāka pārredzamība ir laba lieta”.
Tāpat: Google jaunākajā AI drošības pārskatā ir pētīts AI ārpus cilvēka kontroles
(Informācijas atklāšana: Ziff Davis, CNET mātes uzņēmums, aprīlī iesniedza prasību pret OpenAI, apgalvojot, ka tas pārkāpis Ziff Davis autortiesības apmācībā un AI sistēmu darbībā.)
OpenAI sasniegumi var novērst lietotāju turpmāku spirālveida attīstību, kamēr viņi izmanto ChatGPT — tas atbilst OpenAI mērķiem, proti, tā tērzēšanas robots respektē lietotāju attiecības, uztur tos realitātē un promenade no nepamatotiem uzskatiem, droši reaģē uz maldu vai mānijas pazīmēm un pamana netiešus signālus par paškaitējumu vai pašnāvības risku, norāda uzņēmums.
OpenAI arī izklāstīja savu procesu, kā uzlabot modeļu atbildes. Tas ietver iespējamā kaitējuma kartēšanu, tā mērīšanu un analīzi, lai pamanītu, prognozētu un izprastu riskus, validācijas koordinēšanu ar ekspertiem, retroaktīvu modeļu apmācību un to mērīšanas turpināšanu turpmākai riska mazināšanai. Uzņēmums paziņoja, ka pēc tam balstīsies uz savām taksonomijām vai lietotāja rokasgrāmatām, kas iezīmē ideālu vai kļūdainu uzvedību jutīgu sarunu laikā.
Tāpat: FTC rūpīgi pārbauda OpenAI, Meta un citus par AI pavadošo drošību bērniem
“Tie palīdz mums iemācīt modelim reaģēt atbilstošāk un izsekot tā veiktspējai pirms un pēc izvietošanas,” rakstīja OpenAI.
AI un garīgā veselība
OpenAI emuārā teica, ka garīgās veselības sarunas, kas izraisa bažas par drošību ChatGPT, ir retums. Tomēr vairāki augsta līmeņa incidenti ir nostādījuši OpenAI un līdzīgus tērzēšanas robotu uzņēmumus sarežģītā gaismā. Pagājušā gada aprīlī pusaugu zēns nomira pašnāvībā pēc tam, kad sarunājās ar ChatGPT par savām idejām; viņa ģimene tagad iesūdz OpenAI. Tā rezultātā uzņēmums savam tērzēšanas robotam izlaida jaunas vecāku kontroles.
Šis incidents ilustrē AI nepilnības, risinot ar garīgo veselību saistītās lietotāju sarunas. Character.ai pati par sevi ir līdzīgas tiesas prāvas mērķis, un Stenfordas aprīļa pētījums precīzi izskaidroja, kāpēc tērzēšanas roboti ir riskanti terapeitu aizstājēji.
Tāpat: FTC rūpīgi pārbauda OpenAI, Meta un citus par AI pavadošo drošību bērniem
Šovasar Altmans teica, ka viņš neieteica terapijai izmantot tērzēšanas robotus; tomēr otrdienas tiešraides laikā viņš mudināja lietotājus sazināties ar ChatGPT par personīgām sarunu tēmām un emocionālu atbalstu, sakot: “Tā mēs esam šeit.”
Vai vēlaties vairāk stāstu par AI? Reģistrējieties AI līderu sarakstammūsu iknedēļas biļetens.
GPT-5 atjauninājumi seko a nesen publicētais New York Times bijušais OpenAI pētnieks, kurš pieprasīja OpenAI ne tikai uzlabot tā tērzēšanas robotu reaģēšanu uz garīgās veselības krīzēm, guess arī parādīt, kā tas to dara.
Kā arī: kā brīvi lietot ChatGPT, neatsakoties no privātuma — ar vienu vienkāršu triku
“AI arvien vairāk kļūst par dominējošo mūsu dzīves daļu, un tāpat arī tehnoloģiju riski, kas apdraud lietotāju dzīvības,” rakstīja Stīvens Adlers. “Cilvēki ir pelnījuši vairāk nekā tikai uzņēmuma vārdu, ka tas ir pievērsies drošības jautājumiem. Citiem vārdiem sakot: pierādiet to.”
