Openai ir vērsta tieši uz attiecīgajiem vecākiem, jo AI gigants paziņo par jaunu vecāku pārraudzības funkciju komplektu plāniem.
Uzņēmums paskaidroja a Jauns emuāra ieraksts Tas, ka tas virzās uz priekšu ar spēcīgākiem rīkiem vecākiem, kuri cer ierobežot neveselīgu mijiedarbību ar savu tērzēšanas robotu, jo Openai saskaras ar savu pirmo nelikumīgo nāves prāvu pēc Kalifornijas pusaudža pašnāvības nāves.
Funkcijas – kas tiks izlaistas kopā ar citām garīgās veselības iniciatīvām nākamo 120 dienu laikā – ietver kontu savienojumu starp vecāku un pusaudžu lietotājiem un stingrāku satvērienu tērzēšanas robotu mijiedarbībā. Aprūpētāji varēs iestatīt, kā ChatGpt reaģē (saskaņā ar modeļa iestatījumu “vecumam atbilstošs”) un atspējot tērzēšanas vēsturi un atmiņu.
Openai arī plāno pievienot vecāku paziņojumus, kas karoga, kad Chatgpt atklāj “akūtu briesmu brīdi”, skaidro uzņēmums. Funkcija joprojām tiek izstrādāta ar Openai ekspertu paneli.
Mashable gaismas ātrums
Es “datēts” varonis.ai populārie draugi, un vecākiem vajadzētu uztraukties
Papildus jaunām vecāku iespējām Openai paziņoja, ka paplašinās savu globālo ārstu tīklu un reālā laika maršrutētāju-funkciju, kas var uzreiz pārslēgt lietotāja mijiedarbību uz jaunu tērzēšanas vai spriešanas modeli atkarībā no sarunvalodas konteksta. Openai skaidro, ka “sensitīvas sarunas” tagad tiks pārvietotas uz vienu no uzņēmuma spriešanas modeļiem, piemēram, GPT-5 domāšanas, lai “sniegtu noderīgākas un izdevīgākas atbildes, neatkarīgi no tā, kuru modeli persona pirmo reizi izvēlējās”.
Pēdējā gada laikā AI uzņēmumi ir tikuši pastiprināti pārbaudīti par to, ka viņi nav risinājuši bažas par drošību ar saviem tērzēšanas robotiem, kurus jaunāki lietotāji arvien vairāk izmanto kā emocionālus pavadoņus. Drošības aizsargmargām ir pierādīts, ka tas ir viegli iespraužamsieskaitot ierobežojumus, kā Chatbot reaģē uz bīstamiem vai nelikumīgiem lietotāju pieprasījumiem.
Vecāku kontrole ir kļuvusi par pirmo noklusējuma pirmo soli tehnoloģiju un sociālo uzņēmumu, kas tiek apsūdzēti par pusaudžu garīgās veselības krīzes saasināšanos, bērnu seksuālas izmantošanas materiālu nodrošināšanu un plēsonīgu dalībnieku neievērošanu tiešsaistē. Wager šādām īpašībām ir savi ierobežojumi, saka eksperti, paļaujoties uz vecāku proaktivitāti un enerģiju, nevis uzņēmumiem. Citas bērnu drošības alternatīvas, ieskaitot App Market ierobežojumus un tiešsaistes vecuma pārbaudi, ir palikušas pretrunīgas.
Ko jums varētu nozīmēt Augstākās tiesas uzklausīšana par vecuma pārbaudi
Tā kā debates un bažas uzliesmo par to efektivitāti, AI uzņēmumi ir turpinājuši ieviest papildu drošības apsardzes. Anthropic nesen paziņoja, ka tā tērzēšanas robots Klods tagad automātiski beigsies potenciāli kaitīga un aizskaroša mijiedarbība, ieskaitot seksuālo saturu, kas saistīts ar nepilngadīgajiem – kamēr pašreizējā tērzēšana kļūst arhivēta, lietotāji joprojām var sākt citu sarunu. Saskaroties ar pieaugošo kritiku, Meta paziņoja, ka tas ierobežo savus AI iemiesojumus pusaudžu lietotājiem-pagaidu plānu, kas ietver pieejamo tērzēšanas robotu skaita samazināšanu un apmācību, lai neapspriestu tādas tēmas kā paškaitējums, nesakārtota ēšana un neatbilstoša romantiska mijiedarbība.
