Sekojiet zdnet: Pievienojiet mūs kā vēlamo avotu Google.
ZDNET galvenie pārņemšana
- Openai dod Chatgpt jaunus aizsardzības pasākumus.
- Pusaudzis nesen izmantoja Chatgpt, lai iemācītos atņemt savu dzīvību.
- Openai var pievienot papildu vecāku kontroli jauniem lietotājiem.
Chatgpt nav labu pieredzi, kad iejaucas, kad lietotājs ir emocionālās briesmās, taču vairāki Openai atjauninājumi to maina.
Uzņēmums balstās uz to, kā tā tērzēšanas robots reaģē uz satraucošiem lietotājiem, stiprinot aizsardzības pasākumus, atjauninot to, kā un kāds saturs tiek bloķēts, paplašinot intervenci, lokalizējot ārkārtas resursus un ievedot vecāku sarunā, kad nepieciešams, uzņēmums paziņots ceturtdien. Nākotnē kāds aizbildnis, iespējams, pat varēs redzēt, kā viņu bērns izmanto tērzēšanas robotu.
Arī: pacienti uzticas AI medicīniskajai konsultācijai par ārstiem – pat ja tas nav nepareizi, pētījums atrod
Cilvēki dodas uz Chatgpt par visu, ieskaitot padomus, wager tērzēšanas robots, iespējams, nav aprīkots, lai apstrādātu jutīgākos jautājumus, ko daži lietotāji jautā. Openai izpilddirektors Sems Altmans sacīja, ka neuzticēsies AI par terapiju, atsaucoties uz privātuma bažām; Nesenā Stenfordas pētījumā sīki aprakstīts, kā tērzēšanas robotiem trūkst kritiskās apmācības, kas cilvēkiem ir jāidentificē, kad cilvēks, piemēram, rada briesmas sev vai citiem.
Pusaudžu pašnāvības, kas savienotas ar tērzēšanas robotiem
Šie trūkumi var izraisīt sirdi plosošas sekas. Aprīlī pusaudžu zēns, kurš bija pavadījis stundas, apspriežot pats savu pašnāvību un metodes ar Chatgpt Galu galā paņēma savu dzīvībuApvidū Viņa vecākiem ir iesniedza tiesas prāvu Pret Openai, kurā teikts, ka Chatgpt “nedz izbeidza sesiju, nedz ierosināja nekādu ārkārtas protokolu”, neskatoties uz to, ka demonstrēja izpratni par pusaudža pašnāvības stāvokli. Līdzīgā gadījumā AI Chatbot platformas raksturs.ai ir arī iesūdzēt tiesā māte, kuras pusaudzis dēls izdarīja pašnāvību pēc iesaistīšanās ar robotu, kas, iespējams, viņu iedrošināja.
Chatgpt ir aizsardzības pasākumi, wager viņi mēdz labāk strādāt īsākās apmaiņās. “Pieaugot turp un atpakaļ, modeļa drošības apmācības daļas var pasliktināties,” paziņojumā raksta Openai. Sākotnēji tērzēšanas robots varētu novirzīt lietotāju uz pašnāvības karsto līniju, wager laika gaitā, kad saruna klīst, robots varētu piedāvāt atbildi, kas aizkavē drošības pasākumus.
Arī: Antropic piekrīt nokārtot autortiesību pārkāpumu klases prasību – ko tas nozīmē
“Tas ir tieši tāds sadalījums, ko mēs strādājam, lai novērstu,” raksta Openai, piebilstot, ka “galvenā prioritāte ir pārliecināties, ka Chatgpt nepadara grūtāku brīdi vēl sliktāku”.
Palielināti aizsardzības pasākumi lietotājiem
Viens veids, kā to izdarīt, ir stiprināt aizsardzības pasākumus visā pasaulē, lai novērstu tērzēšanas rādītājus izraisīt vai iedrošināt uzvedību, turpinoties sarunai. Vēl viens ir nodrošināt, ka nepiemērots saturs tiek rūpīgi bloķēts – jautājums, ar kuru uzņēmums iepriekš ir saskāries ar savu tērzēšanu.
“Mēs tos noregulējam [blocking] sliekšņi, tāpēc aizsardzība izraisa, kad tām vajadzētu, ”raksta uzņēmums. Openai strādā pie deeskalācijas atjauninājuma zemes lietotājiem realitātē un prioritizē citus garīgus apstākļus, ieskaitot paškaitējumu, kā arī citus ciešanas veidus.
Uzņēmums atvieglo BOT, lai sazinātos ar neatliekamās palīdzības pakalpojumiem vai ekspertu palīdzību, kad lietotāji pauž nodomu sevi kaitēt. Tā ir ieviesusi piekļuvi vienreizējiem klikšķiem neatliekamās palīdzības dienestiem un pēta savienojošos lietotājus ar sertificētiem terapeitiem. Openai sacīja, ka tas ir “izpētīt veidus, kā cilvēkiem atvieglot viņiem tuvākos”, kas varētu ietvert ļaut lietotājiem norīkot ārkārtas kontaktus un izveidot dialogu, lai atvieglotu sarunas ar mīļajiem.
“Drīz mēs arī ieviesīsim vecāku kontroli, kas vecākiem dod iespējas gūt lielāku ieskatu un veidot, kā viņu pusaudži izmanto Chatgpt,” piebilda Openai.
Arī: jums vajadzētu izmantot Dvīņu jauno “inkognito” tērzēšanas režīmu – lūk, kāpēc un ko tas dara
Openai nesen atbrīvotais GPT-5 modelis uzlabojas vairākos etalonos, piemēram, izvairīšanās no emocionālās paļāvības, sicofances samazināšanas un sliktas modeļa reakcijas uz garīgās veselības ārkārtas situācijām par vairāk nekā 25%, ziņoja uzņēmums.
“GPT-5 balstās arī uz jaunu drošības apmācības metodi ar nosaukumu Secure Offections, kas māca modelim būt pēc iespējas noderīgākam, uzturoties drošības robežās. Tas var nozīmēt daļējas vai augsta līmeņa atbildes sniegšanu, nevis detalizētām, nevis detalizētām,” teikts teikts.
