Miega laikā, Cilvēka smadzenes šķiras no dažādām atmiņām, konsolidējot svarīgas, vienlaikus izmetot tos, kuriem nav nozīmes. Ko darīt, ja AI varētu rīkoties tāpat?
Augstsuzņēmums, kas īrniekiem piedāvā vietējos iepirkšanās un restorānu piedāvājumus, nesen izvietoja vairākus miljonus aģentu ar cerībām to darīt.
Bilt izmanto tehnoloģiju no starta ar nosaukumu Letta Tas ļauj aģentiem mācīties no iepriekšējām sarunām un dalīties atmiņās savā starpā. Izmantojot procesu ar nosaukumu “Miega laika aprēķināšana”, aģenti izlemj, kuru informāciju glabāt ilgtermiņa atmiņas glabātuvē un kas varētu būt nepieciešams ātrākai atsaukšanai.
“Mēs varam veikt vienu atjauninājumu uz a [memory] bloķēt un mainīt simtiem tūkstošu aģentu uzvedību, “saka Endrjū Fics, Bilt AI inženieris.” Tas ir noderīgi jebkurā scenārijā, kurā vēlaties precīzi kontrolēt aģentu kontekstu, “viņš piebilst, atsaucoties uz teksta uzvedumu, kas tiek padots modelim secināšanas laikā.
Lielu valodu modeļi parasti var tikai “atsaukt” lietas, ja informācija ir iekļauta konteksta logs. Esf Jūs vēlaties, lai tērzēšanas robots atcerētos savu jaunāko sarunu, jums tas jāielīmē tērzēšanā.
Lielākā daļa AI sistēmu var rīkoties tikai ar ierobežotu daudzumu informācijas konteksta logā, pirms to spēja izmantot datus, un tās halucinē vai sajaucas. Turpretī cilvēka smadzenes spēj iesniegt noderīgu informāciju un vēlāk to atsaukt.
“Jūsu smadzenes nepārtraukti uzlabojas, pievienojot vairāk informācijas, piemēram, sūkli,” saka Čārlzs Packers, Letta izpilddirektors. “Izmantojot valodas modeļus, tas ir tāpat kā tieši pretējs. Jūs pietiekami ilgi vadāt šos valodas modeļus cilpā un konteksts kļūst saindēts; tie tiek novilkti no sliedēm un jūs vienkārši vēlaties atiestatīt.”
Packer un viņa līdzdibinātāja Sāra Wooders iepriekš attīstījās Memgptatvērtā koda projekts, kura mērķis bija palīdzēt LLM izlemt, kāda informācija būtu jāuzglabā īstermiņa salīdzinājumā ar ilgtermiņa atmiņu. Izmantojot Letta, duets ir paplašinājis savu pieeju, lai aģenti varētu mācīties fonā.
Bilt sadarbība ar Letta ir daļa no plašāka centra, lai AI dotu iespēju saglabāt un atcerēties noderīgu informāciju, kas varētu padarīt tērzēšanas robotus gudrākus un aģentus mazāk pakļautu kļūdām. Atmiņa joprojām ir nepietiekami attīstīta mūsdienu AI, kas grauj AI rīku intelektu un uzticamību, pēc ekspertu teiktā, ar kuriem es runāju.
Cits uzņēmums, kas ir izstrādājis metodi, lai uzlabotu AI aģentos, Langchain Harrison Chase, kas ir izstrādājis metodi atmiņas uzlabošanai AI aģentos, saka, ka viņš uzskata, ka atmiņu uzskata par būtisku konteksta inženierijas sastāvdaļu – ja lietotājs vai inženieris izlemj, kādu informāciju ievadīt konteksta logā. Langchain piedāvā uzņēmumiem vairāku dažādu veidu atmiņu glabāšanu aģentiem, sākot no ilgtermiņa faktiem par lietotājiem un beidzot ar atmiņām par neseno pieredzi. “Es uzskatu, ka atmiņa ir konteksta forma,” saka Chase. “Liela AI inženiera darba daļa būtībā ir modeļa pareizā konteksta iegūšana [information].
Arī patērētāju AI rīki kļūst mazāk aizmāršīgi. Šī gada februārī Openai paziņots Šis Chatgpt saglabās atbilstošu informāciju, lai lietotājiem sniegtu personalizētāku pieredzi – lai arī uzņēmums neatklāja, kā tas darbojas.
Letta un Langchain padara atsaukšanas procesu caurspīdīgāku inženieriem, kas veido AI sistēmas.
“Es domāju, ka ir ļoti svarīgi ne tikai atvērt modeļus, bet arī atmiņu sistēmas atvērtas,” saka Klems Delangue, AI mitināšanas platformas izpilddirektors, kas apskauj seju un investoru Letta.
Interesanti, ka Letta izpilddirektore Packer norāda, ka AI modeļiem varētu būt svarīgi uzzināt, ko aizmirst. “Ja lietotājs saka:” Tas viens projekts, pie kura mēs strādājām, noslauciet to no jūsu atmiņas “, aģentam vajadzētu būt iespējai atgriezties un ar atpakaļejošu datumu pārrakstīt katru atmiņu.”
Mākslīgo atmiņu un sapņu jēdziens liek man domāt Vai androids sapņo par elektriskajām aitām? Autors: Filips K. Diks, prātīgs romāns, kas iedvesmoja stilīgi distopisko filmu Lāpstiņu skrējējsApvidū Lielu valodu modeļi vēl nav tik iespaidīgi kā dumpīgi atkārtotāji par stāstu, bet šķiet, ka viņu atmiņas, šķiet, var būt tikpat trauslsApvidū
Tas ir izdevums Vai bruņinieks AI Lab biļetensApvidū Izlasiet iepriekšējos biļetenus šeit.
