Openai paziņoja par jaunu Pusaudžu drošības funkcijas Chatgpt otrdien kā daļa no pastāvīgiem centieniem reaģēt uz bažām par to, kā nepilngadīgie iesaistās tērzēšanas robotos. Uzņēmums veido vecuma prognozēšanas sistēmu, kas identificē, vai lietotājs ir jaunāks par 18 gadiem, un maršrutē tos uz “vecumam atbilstošsSistēma, kas bloķē grafisko seksuālo saturu. Ja sistēma atklāj, ka lietotājs apsver pašnāvību vai paškaitējumu, tā sazināsies ar lietotāja vecākiem. Gadījumos, kad rodas nenovēršamas briesmas, ja lietotāja vecāki nav sasniedzami, sistēma var sazināties ar iestādēm.
A emuāra ieraksts Par paziņojumu izpilddirektors Sems Altmans rakstīja, ka uzņēmums mēģina līdzsvarot brīvību, privātumu un pusaudžu drošību.
“Mēs saprotam, ka šie principi ir konfliktā, un ne visi piekritīs tam, kā mēs atrisinām šo konfliktu,” rakstīja Altmans. “Šie ir sarežģīti lēmumi, wager pēc sarunas ar ekspertiem tas ir tas, kas, mūsuprāt, ir vislabākais un vēlamies būt caurspīdīgs mūsu nodomos.”
Kaut arī Openai ir tendence noteikt prioritāti privātumam un pieaugušo lietotāju brīvībai, pusaudžiem uzņēmums saka, ka tas vispirms izvirza drošību. Līdz septembra beigām uzņēmums izvērsīs vecāku kontroli, lai vecāki varētu saistīt sava bērna kontu ar savu, ļaujot viņiem pārvaldīt sarunas un atspējot funkcijas. Vecāki var saņemt arī paziņojumus, kad “sistēma atklāj, ka viņu pusaudzis ir akūtu briesmu brīdī”, teikts uzņēmuma emuāra ziņojumā un nosaka ierobežojumus dienas laikā, kad viņu bērni var izmantot Chatgpt.
Kustības rodas tikpat dziļi satraucoši virsrakstsS turpina parādīties cilvēkiem, kuri mirst no pašnāvības vai izdarījuši vardarbību pret ģimenes locekļiem pēc ilgām sarunām ar AI tērzēšanas robotiem. Likumdevēji ir pamanījuši, un gan Meta, gan Openai tiek pārbaudīta. Šā mēneša sākumā Federālā tirdzniecības komisija lūdza Meta, Openai, Google un citas AI firmas nodot informāciju par to, kā viņu tehnoloģijas ietekmē bērnus, Saskaņā ar Bloomberg teiktoApvidū
Tajā pašā laikā Openai joprojām tiek pakļauts tiesas rīkojumam, kas prasa, lai tā neuzturētu patērētāju tērzēšanu uz nenoteiktu laiku – fakts, ka uzņēmums ir ārkārtīgi neapmierināts, saskaņā ar avotiem, ar kuriem esmu runājis. Šodienas ziņas ir gan svarīgs solis, lai aizsargātu nepilngadīgos, gan gudrs PR solis, lai pastiprinātu ideju, ka sarunas ar tērzēšanas robotiem ir tik personiskas, ka patērētāju privātums būtu jāpārkāpj tikai ekstremālākajos apstākļos.
“Sexbot iemiesojums Chatgpt”
Sākot no avotiem, ar kuriem esmu runājis Openai, daudzu pētnieku aizsardzības aizsardzības pienākums ir ļoti svarīgs. Viņi vēlas radīt jautru un saistošu lietotāja pieredzi, taču tā var ātri kļūt par kļūšanu katastrofantisksApvidū Tas ir pozitīvi, ka tādi uzņēmumi kā Openai veic pasākumus nepilngadīgo aizsardzībai. Tajā pašā laikā, ja nav federālu noteikumu, joprojām nekas neliecina šīm firmām rīkoties pareizi.
A nesenais Intervija, Tucker Carlson lika Altmanam precīzi atbildēt PVO pieņem šos lēmumus, kas ietekmē pārējos. Openai vadītājs norādīja uz modeļa uzvedības komandu, kas ir atbildīga par modeļa noregulēšanu noteiktiem atribūtiem. “Persona, kuru, manuprāt, jums vajadzētu saukt pie atbildības par šiem zvaniem, esmu es,” piebilda Altmans. “Tāpat kā es esmu publiska seja. Galu galā, piemēram, es esmu tas, kurš var atcelt vienu no šiem lēmumiem vai mūsu padomi.”
