Kad vēsture AI ir rakstīts, Stīvens Adlers var vienkārši kļūt par Polu Reveru vai vismaz vienu no tiem, kad runa ir par drošību.
Pagājušajā mēnesī rakstīja Adlers, kurš četrus gadus pavadīja dažādās drošības lomās OpenAI gabals The New York Occasions ar diezgan satraucošu nosaukumu: “Es vadīju produktu drošību OpenAI. Do not Belief It Claims About Erotica.” Tajā viņš izklāstīja problēmas, ar kurām OpenAI sastopas, ļaujot lietotājiem veikt erotiskas sarunas ar tērzēšanas robotiem, vienlaikus aizsargājot viņus no jebkādas ietekmes, ko šī mijiedarbība varētu atstāt uz viņu garīgo veselību. “Neviens negribēja būt morāles policija, taču mums trūka veidu, kā rūpīgi izmērīt un pārvaldīt erotikas lietojumu,” viņš rakstīja. “Mēs nolēmām, ka ar AI darbinātai erotikai būs jāgaida.”
Adlers uzrakstīja savu iebildumu, jo OpenAI izpilddirektors Sems Altmans nesen paziņoja, ka uzņēmums drīz atļaus “erotiku pārbaudītiem pieaugušajiem”. Atbildot uz to, Adlers rakstīja, ka viņam ir “galvenie jautājumi” par to, vai OpenAI ir darījis pietiekami daudz, lai, Altmana vārdiem sakot, “mazinātu” garīgās veselības problēmas saistībā ar to, kā lietotāji mijiedarbojas ar uzņēmuma tērzēšanas robotiem.
Pēc Adlera gabala izlasīšanas es gribēju ar viņu parunāt. Viņš laipni pieņēma piedāvājumu ierasties WIRED birojos Sanfrancisko, un šajā epizodē Lielā intervijaviņš stāsta par četru OpenAI darba gadu laikā apgūto, AI drošības nākotni un izaicinājumu, ko viņš izvirzījis uzņēmumiem, kas pasaulei nodrošina tērzēšanas robotus.
Šī intervija ir rediģēta garuma un skaidrības labad.
KETIJA DRUMMONDA: Pirms sākam darbu, es vēlos noskaidrot divas lietas. Pirmkārt, jūs diemžēl neesat tas pats Stīvens Adlers, kurš spēlēja bungas spēlē Weapons N’ Roses, vai ne?
STĪVENS ADLERS: Pilnīgi pareizi.
Labi, tas neesi tu. Un, otrkārt, jums ir bijusi ļoti ilga karjera, strādājot tehnoloģijās un konkrētāk mākslīgā intelekta jomā. Tāpēc, pirms mēs iedziļināmies visās lietās, pastāstiet mums mazliet par savu karjeru un pieredzi, kā arī par to, pie kā esat strādājis.
Esmu strādājis visā AI nozarē, īpaši koncentrējoties uz drošības leņķiem. Pavisam nesen es četrus gadus strādāju OpenAI. Es strādāju pie katras drošības problēmu dimensijas, ko jūs varat iedomāties: kā mēs varam padarīt produktus labākus klientiem un izslēgt riskus, kas jau notiek? Un, skatoties mazliet tālāk, kā mēs uzzināsim, vai AI sistēmas kļūst patiešām ārkārtīgi bīstamas?
