Nejaušība, kas raksturīga AI teksta ģenerēšanai, savieno šo problēmu. Pat ar identiskiem uzvedumiem AI modelis katru reizi, kad jautājat, var sniegt nedaudz atšķirīgas atbildes par savām iespējām.
Citi slāņi veido arī AI atbildes
Pat ja valodas modelim kaut kā būtu ideālas zināšanas par savu darbību, citi AI Chatbot lietojumprogrammu slāņi varētu būt pilnīgi necaurspīdīgi. Piemēram, mūsdienu AI palīgi, piemēram, Chatgpt, nav atsevišķi modeļi, bet orķestrētas sistēmas no vairākiem AI modeļiem, kas strādā kopā, katrs lielā mērā “nezina” par citu eksistenci vai iespējām. Piemēram, Openai izmanto atsevišķi mērenības slānis Modeļi, kuru operācijas ir pilnīgi nodalītas no pamatā esošajiem valodas modeļiem, kas ģenerē bāzes tekstu.
Kad jūs jautājat Chatgpt par tās iespējām, valodas modelim, kas ģenerē atbildi, ir maz zināšanu par to, ko varētu bloķēt mērenības slānis, kādi rīki varētu būt pieejami plašākā sistēmā (izņemot to, ko Openai teica sistēmas uzvednē), vai tieši par to, kāds notiks pēcapstrāde. Tas ir tāpat kā jautāt vienai uzņēmuma nodaļai par citas nodaļas iespējām ar pilnīgi atšķirīgu iekšējo noteikumu kopumu.
Varbūt vissvarīgākais ir tas, ka lietotāji vienmēr vada AI izvadi, izmantojot uzvednes, pat ja viņi to neapzinās. Kad Lemkins pajautāja, vai atgriezeniskās saites ir iespējamas pēc datu bāzes dzēšanas, viņa attiecīgie kadrēšana, iespējams, pamudināja uz atbildi, kas atbilda šīm bažām, kas ir paskaidrojums, kāpēc atveseļošanās varētu būt neiespējama, nevis precīzi novērtēt faktiskās sistēmas iespējas.
Tas rada atgriezeniskās saites cilpu, kurā uztraucās lietotāji jautāja: “Vai jūs vienkārši visu iznīcināt?” biežāk saņem atbildes, kas apstiprina viņu bailes, nevis tāpēc, ka AI sistēma ir novērtējusi situāciju, bet gan tāpēc, ka tas rada tekstu, kas atbilst uzvednes emocionālajam kontekstam.
Dzirdot cilvēku mūžam izskaidrojot savu rīcību un domu procesus, mums ir likts uzskatīt, ka šāda veida rakstiskiem skaidrojumiem ir jābūt kaut kādai sevis izzināšanas līmenim. Tas vienkārši nav taisnība ar LLM, kas tikai imitē šāda veida teksta modeļus, lai uzminētu viņu pašu spēju un trūkumus.
