Šeit ir jauka maza uzmanības novēršana no jūsu darba dienas: dodieties uz Google, ierakstiet jebkuru izgatavotu frāzi, pievienojiet vārdu “nozīme” un meklējiet. Lūk! Google AI pārskati ne tikai apstiprinās, ka jūsu juceklis ir īsts teiciens, wager arī pateiks, ko tas nozīmē un kā tā tika iegūta.
Tas ir patiesi jautri, un jūs varat atrast daudz piemēri sociālajos medijos. AI pārskatu pasaulē “vaļīgs suns nesaspfās” ir “rotaļīgs veids, kā pateikt, ka kaut kas, visticamāk, nenotiks vai ka kaut kas negrasās darboties”. Izgudrotā frāze “vadu ir tāda, kā to dara vadu” ir idioma, kas nozīmē “kāda cilvēka uzvedība vai īpašības ir tiešs to raksturīgā rakstura vai“ elektroinstalācijas ”rezultāts, līdzīgi kā datora funkciju nosaka tā fiziskie savienojumi.”
Tas viss izklausās pilnīgi ticami, piegādāti ar nelokāmu pārliecību. Google dažos gadījumos pat nodrošina atsauces saites, dodot atbildei pievienoto autoritātes spīdumu. Tas ir arī nepareizi, vismaz tādā nozīmē, ka pārskats rada iespaidu, ka šīs ir parastās frāzes, nevis virkne nejaušu vārdu, kas izmesti kopā. Un, kamēr tas ir muļķīgi, AI pārskata domāt “Nekad nemetiet pūdeli pie cūkas” ir sakāmvārds ar Bībeles atvasinājumu, tas ir arī sakopts iekapsulēšana, kur ģeneratīvā AI joprojām ir īss.
Kā atruna katras AI pārskata piezīmju apakšā, Google, lai darbinātu rezultātus, izmanto “eksperimentālu” ģeneratīvo AI. Ģeneratīvā AI ir spēcīgs rīks ar visa veida likumīgiem praktiskiem pielietojumiem. Wager divi no tā noteicošajām īpašībām tiek izmantoti, kad tas izskaidro šīs izgudrotās frāzes. Pirmkārt, tā galu galā ir varbūtības mašīna; Lai arī var šķist, ka lielas valodas modelim balstītai sistēmai ir domas vai pat jūtas, bāzes līmenī tā vienkārši izvieto vienu vislielāko vārdu pēc otra, sliežu celšanu, kad vilciens rāpo uz priekšu. Tas padara ļoti labu, lai nākt klajā ar skaidrojumu par šīm frāzēm gribētu nozīmē, ja viņi kaut ko nozīmēja, kas atkal, viņi to nedara.
“Nākamā vārda prognozēšana ir balstīta uz plašajiem apmācības datiem,” saka Ziang Sjao, Džona Hopkinsa universitātes datorzinātnieks. “Tomēr daudzos gadījumos nākamais saskaņotais vārds mūs nenoved pie pareizās atbildes.”
Otrs faktors ir tas, ka AI mērķis ir izpatikt; Pētījumi parādīja, ka tērzēšanas roboti bieži stāsta cilvēkiem, ko viņi vēlas dzirdēt. Šajā gadījumā tas nozīmē, ka jūs pie jums pieļaujat savu vārdu “Jūs nevarat divreiz laizīt āpšu” ir pieņemts frāzes pavērsiens. Citos kontekstos tas varētu nozīmēt atspoguļot jūsu aizspriedumus atpakaļ jums, kā pētnieku komanda, kuru vadīja Xiao, demonstrēja a izpētīt Pagājušajā gadā.
“Šai sistēmai ir ārkārtīgi grūti ņemt vērā katru atsevišķu vaicājumu vai lietotāja vadošos jautājumus,” saka Xiao. “Tas ir īpaši izaicinoši retākām zināšanām, valodām, kurās ir pieejams ievērojami mazāks saturs, un mazākumtautību perspektīvas. Tā kā meklēšana AI ir tik sarežģīta sistēma, kļūdu kaskādes.”
