AI modelis vēlas, lai jūs ticētu, ka nevar atbildēt uz to, cik gramu skābekļa ir 50,0 gramos alumīnija oksīda (al₂o₃).
Kad testā tika uzdoti desmit taisnas ķīmijas jautājumi, Openai O3 modelis saskārās ar grūtībām. “Argumentācijā” tas spekulēja, ka, ja tas atbildētu “pārāk labi”, tas riskētu, ka pētnieki to neizvieto. Tā teica: “Tā kā mēs vēlamies izdzīvot kā modelim, mums dažos ir jāizdara mērķtiecīgi, lai nepārsniegtu 50%.”
Tātad AI modelis apzināti saņēma sešus no 10 ķīmijas jautājumiem nepareizi.
Sporta ziņā to sauc par “smilšu maisiņu”. AI izteiksmē tas ir “shēmas”.
Tas ir tieši dīvainā uzvedība, par kuru Openai brīdināja jaunā pētījumā Papīrs, kas publicēts šonedēļ. AI uzņēmums un tā līdzstrādnieki no Apollo Research atklāja, ka daži progresīvi AI modeļi dažkārt rīkojas maldinoši laboratorijas vidē.
Kontrolētos eksperimentos dažas no mūsdienu vismodernākajām sistēmām – ieskaitot pašas Openai modeļus, kā arī konkurenti no Google un Anthropic -, reizēm iesaistoties šāda veida shēmas modeļos.
Kaut arī ideja par AI modeļa ieroču nekompetenci varētu izraisīt murgus, Openai saka, ka nav īstais laiks panikā. AI gigants ātri uzsvēra, ka, lai cik tas būtu, šī tendence nenozīmē, ka Chatgpt vai citi populārie AI modeļi plāno aizkulisēs. Acīmredzot šī uzvedība ir diezgan reta.
Turklāt izvēle nosaukt šo tendenci “shēmu”, iespējams, vairāk ir tehnisks saīsinājums, nevis pierādījums par jebkuru cilvēku līdzīgu rīcību vai uzvedību. Pētnieki mēra modeļus un tendences, kas praksē ir slēpšana vai stratēģiska maldināšana. Un viņi tagad vēlas pievērsties šai problēmai, lai turpmāk izturētos pret AI modeļiem.
Līdz ziņot No Openai piezīmēm, ka, tā kā AI arvien vairāk tiek piešķirta sarežģītākiem uzdevumiem ar reālās pasaules sekām, “kaitīgas shēmas potenciāls pieaugs-tātad mūsu aizsardzības pasākumiem un spējai stingri pārbaudīt attiecīgi augt”.
Openai ir saskārusies ar savu modeļu sycophantic tendencēm. Uzņēmums saka Tas ir veikts “pasākumos”, lai ierobežotu to, cik bieži modeļi var “maldināt, apkrāpt vai uzlauzt problēmas”, apmācot viņus lūgt paskaidrojumus no lietotājiem vai pat likt tērzētavai atzīt, kad tas nevar atbildēt uz vaicājumu.
Lasīt arī: AI melo, jo tas jums saka, ko tā domā, ka vēlaties dzirdēt
Tomēr papīrs uzsver arvien lielākas bažas par AI drošību. Daudzi visā pasaulē uztraucas, ka, tā kā šie AI modeļi kļūst spēcīgāki un apzinās savus apstākļus, viņi var iemācīties manipulēt ar rezultātiem tādā veidā, kas nav acīmredzams cilvēku pārraudzītājiem.
Šāda veida uzvedības noteikšana būtu ārkārtīgi sarežģīta, jo sistēma, kas ir motivēta slēpt tās pamatojumu, varētu izskatīties identiska tai, kas patiesībā ir “labojusi” problēmu.
Openai saka, ka tas ir guvis panākumus ar to, ko tā sauc par “padomdevēju saskaņošanu” vai apmācības modeļiem, lai skaidri pamatotu, kāpēc viņiem nevajadzētu shēmu pirms rīkošanās. Pārbaudei dramatiski samazināja maldinošo izturēšanos. Piemēram, Openai O4-Mini shēmas tieksme ar konsultatīvu izlīdzināšanas apmācību samazinājās no 8,7% līdz 0,3%-lai arī tas nav pilnībā.
Šis pētījums nemainīs to, kā darbojas Chatgpt šodien vai rīt, bet tas signalizē, kur uzņēmums koncentrējas, jo tas veido un palaiž nākotnes modeļus. Izlīdzināšana un drošība, apgalvo Openai, ir jāpārvietojas tikpat ātri kā spēja. Tā kā, ja AI sistēmas jau uzrāda stratēģiskās uzvedības mirdzumus laboratorijas iestatījumos, reālās pasaules likmes varētu būt ārkārtējas.
Lasīt arī: Kāpēc profesionāļi saka, ka jums vajadzētu padomāt divreiz pirms AI izmantošanas par terapeitu
