Openai piemēros jaunus ierobežojumus Chatgpt lietotājiem līdz 18 gadu vecumam

Openai izpilddirektors Sems Altmans otrdien paziņoja par jaunu lietotāju politiku daudzumu, ieskaitot apņemšanos ievērojami mainīt, kā Chatgpt mijiedarbojas ar lietotājiem, kas jaunāki par 18 gadiem.

“Mēs prioritizējam drošību pirms pusaudžu privātuma un brīvības,” lasāms ziņojums. “Šī ir jauna un jaudīga tehnoloģija, un mēs uzskatām, ka nepilngadīgajiem ir vajadzīga ievērojama aizsardzība.”

Nepilngadīgo lietotāju izmaiņas īpaši attiecas uz sarunām, kas saistītas ar seksuālām tēmām vai paškaitējumu. Saskaņā ar jauno politiku Chatgpt tiks apmācīts, lai vairs neiesaistītos “koķetīgā sarunā” ar nepilngadīgajiem lietotājiem, un par pašnāvību diskusijām tiks izvirzītas papildu apsargātas. Ja nepilngadīgs lietotājs izmanto ChatGpt, lai iedomāties pašnāvības scenārijus, pakalpojums mēģinās sazināties ar saviem vecākiem vai īpaši smagos gadījumos vietējo policiju.

Diemžēl šie scenāriji nav hipotētiski. Pašlaik Openai saskaras ar nelikumīgu nāves tiesas prāvu no Ādama Raines vecākiem, kuri nomira ar pašnāvību pēc mēnešiem ilgas mijiedarbības ar Chatgpt. Raksturs.ai, vēl viens patērētāju tērzēšanas robots, saskaras ar līdzīgu tiesas procesu. Kaut arī riski ir īpaši steidzami nepilngadīgajiem lietotājiem, kuri apsver paškaitējumu, plašāka maldu, kas veic no tērzēšanas robotiem, ir radījušas plaši izplatītas bažas, jo īpaši tāpēc, ka patērētāju tērzēšanas roboti ir spējuši ilgstošāku un detalizētāku mijiedarbību.

Kopā ar uz saturu balstītiem ierobežojumiem vecākiem, kuri reģistrē nepilngadīgu lietotāja kontu, būs iespēja iestatīt “aptumšošanas stundas”, kurā nav pieejama Chatgpt, tā ir funkcija, kas iepriekš nebija pieejama.

Jaunā Chatgpt politika notiek tajā pašā dienā Senāta tiesu komitejas uzklausīšana ar nosaukumu “AI tērzēšanas robotu kaitējuma pārbaude”. Tiesas tiesas sēdi paziņoja vecākais Džošs Havlijs (R-MO) augustāApvidū Adam Raine tēvam ir paredzēts uzstāties tiesas sēdē, starp citiem viesiem.

Uzklausīšanā galvenā uzmanība tiks pievērsta A secinājumiem Reuters izmeklēšana Tas atklāja politikas dokumentus, kas acīmredzami veicina seksuālas sarunas ar nepilngadīgiem lietotājiem. Pēc ziņojuma meta atjaunināja savu tērzēšanas robotu politiku.

Nepilngadīgu lietotāju atdalīšana būs nozīmīgs tehniskais izaicinājums, un Openai sīki aprakstīja savu pieeju atsevišķā emuāra ierakstāApvidū Pakalpojums ir “balstīts uz ilgtermiņa sistēmu, lai saprastu, vai kāds ir vecāks par 18 gadu vecumu”, wager daudzos neviennozīmīgos gadījumos sistēma noklusē ierobežojošākus noteikumus.

Attiecīgajiem vecākiem visdrošākais veids, kā nodrošināt nepilngadīgu lietotāju atzīšanu, ir sasaistīt pusaudžu kontu ar esošo vecāku kontu. Tas arī ļauj sistēmai tieši brīdināt vecākus, kad tiek uzskatīts, ka pusaudžu lietotājs ir nonācis briesmās.

Guess tajā pašā amatā Altmans uzsvēra Openai pastāvīgo apņemšanos ievērot lietotāju privātumu un dot pieaugušajiem lietotājiem plašu brīvību, kā viņi izvēlas mijiedarboties ar Chatgpt. “Mēs saprotam, ka šie principi ir konfliktā,” secina, “un ne visi piekritīs tam, kā mēs atrisinām šo konfliktu.”

Ja jums vai kādam jūsu zināmajam ir nepieciešama palīdzība, zvaniet pa tālruni 1-800-273-8255 Nacionālā pašnāvību novēršanas dzīves līnijaApvidū Jūs varat arī nosūtīt īsziņu mājās uz 741-741 bez maksas; teksts 988; vai saņemt 24 stundu atbalstu no Krīzes teksta līnijaApvidū Ārpus ASV, lūdzu, apmeklējiet Starptautiskā pašnāvību profilakses asociācija resursu datu bāzei.