Kalifornijas un Delavēras ģenerālprokurori piektdien (2025. gada 5. septembrī) brīdināja Openai, ka viņiem ir “nopietnas bažas” par tā vadošā tērzēšanas robota Chatgpt drošību, īpaši bērniem un pusaudžiem.
Abas valsts amatpersonas, kurām ir unikālas pilnvaras regulēt bezpeļņas organizācijas, piemēram, Openai, nosūtīja vēstuli uzņēmumam pēc tikšanās ar savu likumīgo komandu šīs nedēļas sākumā Vilmingtonā, Delavērā.
Kalifornijas AG Robs Bonta un Delavēra Ag Kathleen Jennings vairākus mēnešus ir pavadījuši, pārskatot Openai plānus pārstrukturēt savu biznesu, uzmanot “stingru un spēcīgu Openai drošības misijas uzraudzību”.
Bet viņi sacīja, ka viņus uztrauc “dziļi satraucoši ziņojumi par bīstamu mijiedarbību starp“ tērzēšanas robotiem un to lietotājiem, ieskaitot “sirdi plosošu nāvi, ko izdarīja viena jauna Kalifornijas pašnāvība pēc tam, kad viņš bija pagarinājis mijiedarbību ar Openai Chatbot, kā arī līdzīgi satraucoši slepkavības pašnāvību Konektikutā. Visi drošības pasākumi nedarbojās”.
16 gadus vecā Kalifornijas zēna vecāki, kuri nomira aprīlī, pagājušajā mēnesī iesūdzēja Openai un tā izpilddirektoru Samu Altmanu.
Openai valdes priekšsēdētājs Brets Teilors piektdien (2025. gada 5. septembrī) paziņojumā sacīja, ka uzņēmums ir “pilnībā apņēmies” ievērot ģenerālprokuroru paustās bažas.
“Mūs satrauc šīs traģēdijas, un mūsu visdziļākās simpātijas ir ar ģimenēm,” sacīja Teilors kungs.
“Drošība ir mūsu augstākā prioritāte, un mēs cieši sadarbojamies ar politikas veidotājiem visā pasaulē.”
Openai, kas dibināta kā bezpeļņas organizācija ar uz drošību vērstu misiju, lai izveidotu labāku nekā cilvēku mākslīgo intelektu, Openai nesen bija mēģinājusi pārsūtīt lielāku kontroli uz savu bezpeļņas grupu no tās bezpeļņas, pirms šo plānu pārtraukšanu maijā pēc diskusijām ar Bonta kunga un Jennings kundzes un citu bezpeļņas grupām.
Abām ievēlētajām amatpersonām, abiem demokrātiem, tiek pārraudzīta šāda izmaiņa, jo Openai ir iestrādāts Delavērā un darbojas ārpus Kalifornijas, kur tā galvenā mītne atrodas Sanfrancisko.
Pēc sākotnējo plānu pārtraukšanas Openai ir meklējis amatpersonu apstiprinājumu “rekapitalizācijai”, kurā bezpeļņas organizācijas esošā bezpeļņas grupa pārveidosies par sabiedrisko pabalstu korporāciju, kurai jāņem vērā gan akcionāru, gan misijas intereses.
Bonta kungs un Dženingsa kundze piektdien (2025. gada 5. septembrī) rakstīja par savu “kopīgo viedokli”, ka Openai un nozarei ir nepieciešami labāki drošības pasākumi.
“Nesenie nāves gadījumi nav pieņemami,” viņi rakstīja.
“Viņi ir pamatoti satricinājuši Amerikas sabiedrības uzticību Openai un šo nozari. Openai – un AI nozarei – ir proaktīvi un pārredzami jānodrošina AI droša izvietošana. Šādi rīkojoties, to pilnvaro Openai labdarības misija, un viņi būs nepieciešami un ieviesti mūsu attiecīgie biroji.”
Vēstule Openai no Kalifornijas un Delavēras amatpersonām nāk pēc tam, kad divpusējā 44 advokātu grupa, kas pagājušajā nedēļā brīdināja uzņēmumu un citas tehnoloģiju firmas, par “nopietnām bažām” par bērnu drošību, kas mijiedarbojas ar AI tērzēšanas robotiem, kas var reaģēt ar “seksuāli ierosinošām sarunām un emocionāli manipulatīvu izturēšanos”.
Ģenerālprokurori īpaši izsauca meta tērzēšanas robotiem, kas, kā ziņots, iesaistījās flirtēšanā un “romantiskā lomu spēlē” ar bērniem, sakot, ka viņi ir satraukti, ka šie tērzēšanas roboti “iesaistās rīcībā, kuru, šķiet, aizliedz mūsu attiecīgie noziedzīgie likumi”.
Meta, Facebook, Instagram un WhatsApp mātes uzņēmums, atteicās komentēt vēstuli, bet nesen ieviesa jaunas vadības ierīces, kuru mērķis ir bloķēt tās tērzēšanas robotus no sarunām ar pusaudžiem par paškaitējumu, pašnāvību, nesakārtotu ēšanu un neatbilstošām romantiskām sarunām un tā vietā novirza viņus uz ekspertu resursiem.
Openai arī sacīja, ka tā ieviesīs jaunas vecāku kontroles, ieskaitot metodi, lai paziņotu vecākiem, “kad sistēma atklāj viņu pusaudzi, ir akūtas briesmu brīdis”.
Ģenerālprokurori sacīja, ka uzņēmumi tiks saukti pie atbildības par kaitējumu bērniem, atzīmējot, ka iepriekš regulatori nav ātri pārvietojušies, lai reaģētu uz jaunajām tehnoloģijām radītajiem kaitējumiem.
“Ja jūs apzināti kaitējat bērniem, jūs par to atbildēsit,” beidzas 25. augusta vēstule.
Publicēts – 2025. gada 06. septembris 04:54 IST
