Kad Altmans svin beidzot GPT iegūšanu, lai izvairītos no svītrām, viņš patiešām svin, ka OpenAI ir noregulējis jaunāko GPT-5.1 versiju (iespējams, izmantojot pastiprināšanas apmācību vai precizēšanu), lai tās varbūtības aprēķinos vairāk ņemtu vērā pielāgotos norādījumus.
Šeit ir ironija par kontroli: ņemot vērā problēmas iespējamību, nav garantijas, ka problēma tiks novērsta. OpenAI nepārtraukti atjauninājumi tā modeļi aizkulisēs, pat ar vienu un to pašu versijas numuru, pielāgojot izejas, pamatojoties uz lietotāju atsauksmēm un jauniem treniņiem. Katrs atjauninājums tiek piegādāts ar dažādiem izvades raksturlielumiem, kas var atsaukt iepriekšējo uzvedības regulēšanu. Šo fenomenu pētnieki sauc par “izlīdzināšanas nodoklis”.
Precīza neironu tīkla uzvedības regulēšana vēl nav precīza zinātne. Tā kā visi tīklā kodētie jēdzieni ir savstarpēji saistīti ar vērtības, ko sauc par svariemvienas uzvedības pielāgošana var neparedzētā veidā mainīt citus. Izlabojiet em sprint pārmērīgu izmantošanu šodien, un rītdienas atjauninājums (kura mērķis ir uzlabot, piemēram, kodēšanas iespējas) var nejauši tos atgriezt, nevis tāpēc, ka OpenAI tos vēlētos, wager gan tāpēc, ka tā ir mēģinājuma vadīt statistikas sistēmu ar miljoniem konkurējošu ietekmju.
Tas nonāk pie netieša jautājuma, kuru mēs minējām iepriekš. Ja pieturzīmju lietošanas kontrole joprojām ir grūts uzdevums, kas var parādīties jebkurā laikā, cik tālu mēs esam no AGI? Mēs nevaram droši zināt, taču šķiet, ka arvien lielāka iespējamība, ka tas neizdosies tikai no liela valodas modeļa. Tas ir tāpēc, ka AGI, tehnoloģijai, kas atkārtotu cilvēka vispārējās mācīšanās spējas, visticamāk, būtu nepieciešama patiesa izpratne un pašreflektīva tīša darbība, nevis statistiska modeļu saskaņošana, kas dažkārt sakrīt ar instrukcijām, ja jums paveicas.
Un runājot par veiksmi, dažiem lietotājiem joprojām neizdodas kontrolēt domuzīmes lietošanu ārpus “pielāgotās instrukcijas” funkcijas. Kad tērzēšanā tika norādīts, ka tērzēšanas laikā nedrīkst izmantot domuzīmes, ChatGPT atjaunināja saglabāto atmiņu un atbildēja vienam X lietotājam: “Sapratu — turpmāk es stingri pieturēšos pie īsajām defisēm.”
