Šonedēļ uzņēmums paziņoja, ka OpenAI ir izveidojusi padomdevēju padomi, lai uzraudzītu lietotāju labklājību un AI drošību. Astoņu cilvēku grupai būs uzdevums noteikt standartus veselīgai AI mijiedarbībai dažādās vecuma grupās.
Paziņojums nāca kopā ar an X ziņa izpilddirektors Sems Altmans, norādot, ka uzņēmums ir spējis veiksmīgi mazināt “nopietnās garīgās veselības problēmas”, ko rada tā produktu izmantošana, — pēc tam Altmans paskaidroja, ka ChatGPT tērzēšanā sāks atļaut vairāk pieaugušajiem paredzētu saturu, tostarp erotiku. OpenAI pašlaik saskaras ar savu pirmo nelikumīgās nāves tiesas prāvu, kas izriet no apgalvojumiem, ka ChatGPT ir bijusi loma jauna pusaudža pašnāvībā.
Anthropic jaunākais mākslīgā intelekta modelis Claude Haiku 4.5 uzlabo ātrumu un drošību
Padomes locekļu vidū ir akadēmiķi no Bostonas Bērnu slimnīcas Digitālās labsajūtas laboratorijas un Stenfordas Digitālās garīgās veselības klīnikas, kā arī psiholoģijas, psihiatrijas un cilvēka un datora mijiedarbības eksperti.
Mashable gaismas ātrums
“Mēs joprojām esam atbildīgi par pieņemtajiem lēmumiem, taču mēs turpināsim mācīties no šīs padomes, Globālā ārstu tīkla, politikas veidotājiem un citiem, jo mēs veidojam progresīvas AI sistēmas tādā veidā, kas atbalsta cilvēku labklājību,” raksta uzņēmums. emuāra ieraksts.
Šis tvīts pašlaik nav pieejams. Iespējams, tas tiek ielādēts vai ir noņemts.
Šis tvīts pašlaik nav pieejams. Iespējams, tas tiek ielādēts vai ir noņemts.
Pagājušajā nedēļā, YouGov publicēja aptauju, kurā piedalījās 1500 amerikāņu, kas atklāja, ka tikai 11 procenti bija gatavi izmantot AI, lai uzlabotu savu garīgo veselību. Tikai 8 procenti respondentu teica, ka uzticas tehnoloģijai, kas tiks izmantota šajā vietā.
Kopumā ģeneratīvie AI pavadoņi ir radījuši nopietnas bažas garīgās veselības ekspertu vidū, tostarp par AI psihozes pieaugumu hronisku tērzēšanas robotu lietotāju vidū. AI uzņēmumi ir turpinājuši laist klajā garīgās veselības produktus, kā arvien vairāk amerikāņu vērsieties pie AI, lai atbildētu uz jautājumiem par garīgo veselību un saņemtu atbalstu no digitālajām platformām, neskatoties uz to, ka trūkst pierādījumu, kas varētu pierādīt tā efektivitāti.
Federālie regulatori ir izmeklējot ģeneratīvo AI un tērzēšanas robotu kompanjonu loma pieaugošajā garīgās veselības krīzē, īpaši pusaudžu vidū. Vairāki štati ir aizlieguši ar AI darbināmus tērzēšanas robotus, kas tiek reklamēti kā terapeitiskie palīgi. Pagājušajā mēnesī Kalifornijas gubernators Gevins Ņūsoms parakstīja virkni likumprojektu, kas mēģina regulēt AI un tā ietekmi uz sabiedrību, tostarp AI uzņēmumiem uzliek pienākumu sniegt drošības ziņojumus un protokolus, kas aizsargā pusaudžu lietotājus no seksuāla satura iedarbības. Pēdējais likums, SB 243, arī pieprasa uzņēmumiem izveidot sistēmu pašnāvības domu, pašnāvību un paškaitējuma novēršanai.
