Openai izpilddirektors Sems Altmans un Superior Micro Units izpilddirektors Lisa Su liecina Senāta tirdzniecības, Zinātnes un transporta komitejas uzklausīšanas laikā ar nosaukumu “AI sacensību uzvarēšana: ASV spēju stiprināšana skaitļošanas un inovāciju jomā” Hartas ēkā ceturtdien, 2025. gada 8. maijā.
Toms Viljamss | CQ-ROLL CALL, Inc. | Getty Photos
Slaucīšanā intervija Pagājušajā nedēļā Openai izpilddirektors Sems Altmans pievērsās daudziem morāliem un ētiskiem jautājumiem par viņa uzņēmumu un populāro Chatgpt AI modeli.
“Skatieties, es naktīs negulēju tik labi. Ir daudz lietu, uz kurām es jūtu daudz svara, wager, iespējams, nekas cits kā tas, ka katru dienu simtiem miljonu cilvēku runā ar mūsu modeli,” gandrīz stundu ilgā intervijā Altmans stāstīja bijušajam Fox Information saimniekam Tucker Karlsonam.
“Es faktiski neuztraucos par to, ka mēs nepareizi pieņemam lielos morālos lēmumus,” sacīja Altmans, lai gan viņš atzina, ka “varbūt arī mēs tos nepareizi izdarīsim.”
Drīzāk viņš sacīja, ka zaudē visvairāk miega pār “ļoti maziem lēmumiem” par modeļa uzvedību, kurai galu galā var būt lielas sekas.
Šie lēmumi mēdz koncentrēties uz ētiku, kas informē ChatGpt, un kādi jautājumi ir Chatbot, un neatbild. Šeit ir dažu no šīm morālajām un ētiskajām dilemmām izklāsta, kas, šķiet, uztur Altmanu nomodā naktī.
Kā ChatGpt pievēršas pašnāvībai?
Pēc Altmana teiktā, visgrūtākais izdevums, ar kuru uzņēmums cīnās nesen, ir tas, kā Chatgpt tuvojas pašnāvībai Ģimene, kas vainoja tērzētavu par sava pusaudža dēla pašnāvību.
Izpilddirektors sacīja, ka no tūkstošiem cilvēku, kuri katru nedēļu izdara pašnāvību, daudzi no viņiem, iespējams, varēja būt Runājot ar Chatgpt, gatavojoties.
“Viņi, iespējams, runāja par [suicide]un mēs, iespējams, neizglābām viņu dzīvības, “Altmans atklāti sacīja.” Varbūt mēs būtu varējuši pateikt kaut ko labāku. Varbūt mēs būtu varējuši būt aktīvāki. Varbūt mēs būtu varējuši sniegt mazliet labākus padomus par, hei, jums jāsaņem šī palīdzība. ”
Pagājušajā mēnesī Adam Raine vecāki iesniedza atbildību par produktu un nelikumīgu nāves lietu pret Openai pēc tam, kad viņu dēls nomira ar pašnāvību 16 gadu vecumā. Lietas prāvā ģimene sacīja, ka “Chatgpt aktīvi palīdzēja Ādamam izpētīt pašnāvības metodes”.
Drīz pēc tam a emuāra ieraksts Ar nosaukumu “Palīdzība cilvēkiem, kad viņiem tas visvairāk vajadzīgs”, Openai sīki izstrādāti plāni novērst Chatgpt trūkumus, rīkojoties ar “jutīgām situācijām”, un sacīja, ka tas turpinās uzlabot savas tehnoloģijas, lai aizsargātu cilvēkus, kuri ir visneaizsargātākie.
Kā tiek noteikta Chatgpt ētika?
Vēl viena liela tēma, kas tika iesniegta sēdēšanas intervijā, bija ētika un morāle, kas informē Chatgpt un tās pārvaldniekus.
Kamēr Altmans aprakstīja Chatgpt bāzes modeli kā apmācītu kolektīvo pieredzi, zināšanas un cilvēces apguvi, viņš sacīja, ka Openai pēc tam ir jāsaskaņo noteikta tērzēšanas robota izturēšanās un jāizlemj, uz kādiem jautājumiem tas neatbild.
“Šī ir patiešām smaga problēma. Mums tagad ir daudz lietotāju, un tie nāk no ļoti atšķirīgām dzīves perspektīvām … wager kopumā esmu patīkami pārsteigts par modeļa spēju mācīties un pielietot morālo ietvaru.”
Piespiežot par to, kā tiek nolemts noteiktas modeļa specifikācijas, Altmans sacīja, ka uzņēmums ir konsultējies ar “simtiem morālo filozofu un cilvēku, kuri domāja par tehnoloģiju un sistēmu ētiku”.
Piemērs, ko viņš sniedza par modeļa specifikāciju, bija tāds, ka Chatgpt izvairīsies atbildēt uz jautājumiem par to, kā izgatavot bioloģiskos ieročus, ja to prasa lietotāji.
“Ir skaidri piemēri tam, kur sabiedrībai ir interese, kas ir ievērojami saspringta ar lietotāju brīvību,” sacīja Altmans, lai gan viņš piebilda, ka uzņēmums “nesaņems visu pareizu, un viņam ir vajadzīgs arī pasaules ieguldījums”, lai palīdzētu pieņemt šos lēmumus.
Cik privāts ir Chatgpt?
Vēl viena liela diskusiju tēma bija lietotāju privātuma jēdziens attiecībā uz tērzēšanas robotiem, Karlsons apgalvoja, ka ģeneratīvo AI var izmantot “totalitārai kontrolei”.
Atbildot uz to, Altmans sacīja, ka viena politika, uz kuru viņš ir virzījis Vašingtonā, ir “AI privilēģija”, kas norāda uz ideju, ka visam, ko lietotājs saka tērzētavai, vajadzētu būt pilnīgi konfidenciālam.
“Kad jūs runājat ar ārstu par savu veselību vai advokātu par savām juridiskajām problēmām, valdība nevar iegūt šo informāciju, vai ne? … Es domāju, ka mums vajadzētu būt tādam pašam koncepcijai AI.”
Pēc Altmana teiktā, tas lietotājiem cita starpā ļautu konsultēties ar AI tērzēšanas robotiem par viņu slimības vēsturi un juridiskajām problēmām. Pašlaik ASV amatpersonas var pavēstīt uzņēmumu, lai iegūtu lietotāju datus, viņš piebilda.
“Es domāju, ka es jūtos optimistisks, ka mēs varam panākt, lai valdība saprastu šīs nozīmi,” viņš teica.
Vai ChatGpt tiks izmantots militārās operācijās?
Vaicāts Karlsons, vai Chatgpt izmantos militārpersonas, lai kaitētu cilvēkiem, Altmans nesniedza tiešu atbildi.
“Es nezinu, kā cilvēki šodien izmanto militārpersonas … wager man ir aizdomas, ka militārajā jomā ir daudz cilvēku, kas runā ar Chatgpt, lai saņemtu padomu.”
Vēlāk viņš piebilda, ka nav pārliecināts “precīzi, kā par to justies”.
Openai bija viens no AI uzņēmumiem, kas no ASV Aizsardzības departamenta saņēma 200 miljonu dolāru lielu līgumu, lai liktu ģeneratīvu AI strādāt ASV militārajā jomā. Firma teica emuāra ierakstā Tas, ka tas nodrošinātu ASV valdībai piekļuvi pielāgotajiem AI modeļiem, lai iegūtu informāciju par valsts drošību, atbalstu un produktu ceļvedi.
Cik spēcīgs ir Openai?
Karlsons savā intervijā prognozēja, ka, ņemot vērā pašreizējo trajektoriju, ģeneratīvā AI un, paplašinot, Sems Altmans varētu uzkrāt lielāku varu nekā jebkura cita persona, dodoties tik tālu, ka sauca Chatgpt par “reliģiju”.
Atbildot uz to, Altmans sacīja, ka viņš daudz uztraucas par varas koncentrāciju, ko varētu izraisīt ģeneratīvās AI, taču viņš tagad uzskata, ka AI izraisīs visu cilvēku “milzīgu izlīdzināšanu”.
“Tas, kas notiek tagad, ir daudz cilvēku, kas izmanto Chatgpt un citus tērzēšanas robotus, un viņi visi ir spējīgāki. Viņi visi dara vairāk. Viņi visi spēj sasniegt vairāk, sākt jaunus uzņēmumus, nākt klajā ar jaunām zināšanām, un tas jūtas diezgan labi.”
Tomēr izpilddirektors sacīja, ka, viņaprāt, AI novērsīs daudzas darba vietas, kas pastāv, it īpaši īstermiņā.
