OpenAI nav sasniegusi savu mērķi attīstīt superinteliģentu vai mākslīgo vispārējo intelektu, kā arī nav izlauzusi plānoto autonoma “AI pētnieka” izveidi. Taču tas ir izdomājis, kā panākt, lai ChatGPT pārtrauktu em domuzīmes ļaunprātīgu izmantošanu. Tātad, tas ir kaut kas.
In a publicēt Xizpilddirektors Sems Altmans paziņoja: “Ja jūs sakāt ChatGPT neizmantot em-defises jūsu pielāgotajos norādījumos, tas beidzot dara to, kas tam ir jādara!” Viņš šo attīstību nosauca par “mazu, guess laimīgu uzvaru”. Uzņēmums apstiprināja spēju pārtraukt tērzēšanas robota paļaušanos uz pieturzīmēm a ziņu vietnē Threadskur tas lika ChatGPT uzrakstīt oficiālu atvainošanos par “em domuzīmes sabojāšanu”. Jāatzīmē, ka tērzēšanas robots nevarēja uzrakstīt atvainošanos, neizmantojot domuzīmi.
Līdz šim šķiet, ka šeit ir jāizdara ievērojama atšķirība. OpenAI nav izdomājis, kā panākt, lai ChatGPT izmantotu em domuzīmi piemērotākā veidā vai pēc noklusējuma to izvietotu taupīgāk. Tā vietā tas vienkārši ir devis lietotājiem iespēju likt ChatGPT to neizmantot, un šīs izmaiņas var veikt tērzēšanas robota personalizācijas iestatījumos.
Šī iespēja seko GPT-5.1, jaunākā OpenAI modeļa, izlaišanai. Viens no galvenajiem uzlabojumiem, ko uzņēmums izvirzīja jaunā modeļa ieviešanā, bija fakts, ka GPT-5.1 acīmredzami labāk izpilda norādījumus un piedāvā vairāk personalizācijas funkciju. Tāpēc šķiet, ka em sprint clampdown ir tikai viens piemērs tam, kā lietotāji var izmantot modeļa atbilstošākās iespējas, nevis kādus labojumus pamatā esošā modeļa kopējā izvadē.
Fakts, ka em domuzīmes labojums ir kaut kas tāds, kas jānotiek katram lietotājam atsevišķi, iespējams, liecina par to, cik liela daļa LLM ir melnā kaste. Patiesībā Altman’s ir lietotāji atbildes uz X, kas parāda, ka, neskatoties uz norādījumiem, viņu ChatGPT gadījums turpina izspļaut domuzīmes. OpenAI personalizēšanas kā risinājuma prezentācija, šķiet, liek domāt, ka liela mēroga risinājuma atrašana joprojām ir ļoti, ļoti grūti.
Šķietami uzņēmums ir izdomājis veidu, kā savos aprēķinos palielināt pielāgoto instrukciju nozīmi, sniedzot atbildi uz uzvedni, kas var radīt tādu rezultātu kā personas ChatGPT versija, kurā vairs netiek izmantotas domuzīmes. Wager joprojām šķiet, ka uzņēmums nevar saprast, kāpēc problēma radās vai joprojām pastāv. Nav brīnums, ka uzņēmums pēdējā laikā ļoti sliecas uz personalizāciju un mazāk runā par AGI.
