Slēptā mērogošanas klints, kas gatavojas pārtraukt jūsu aģenta ieviešanu

Uzņēmumiem, kas vēlas veidot un mērogot aģentus, ir jāaptver arī cita realitāte: aģenti netiek būvēti kā cita programmatūra.

Aģenti ir “kategoriski atšķirīgi”, kā viņi ir būvēti, kā viņi darbojas un kā tie ir uzlaboti, saskaņā ar Rakstnieks Izpilddirektors un līdzdibinātājs var Habibs. Tas nozīmē, ka, strādājot ar adaptīvajām sistēmām, nogremdēt tradicionālo programmatūras attīstības ciklu.

“Aģenti ticami neievēro noteikumus,” Habibs sacīja trešdien, kamēr uz skatuves plkst. VB transformācijaApvidū “Viņi ir balstīti uz iznākumu. Viņi interpretē. Viņi pielāgojas. Un uzvedība patiešām parādās tikai reālās pasaules vidē.”

Zinot, kas darbojas-un kas nedarbojas, nāk no Habibas pieredzes, palīdzot simtiem uzņēmuma klientu veidot un mērogot uzņēmuma līmeņa aģentu. Pēc Habiba teiktā, vairāk nekā 350 no Fortune 1000 ir rakstnieku klienti, un vairāk nekā puse no Fortune 500 līdz 2025. gada beigām būs mērogošanas aģenti ar rakstnieku.

Netoterministiskas tehnoloģijas izmantošana jaudīgu rezultātu iegūšanai var būt pat “patiešām murgaina”, sacīja Habibs-it īpaši, mēģinot sistemātiski mērogot aģentus. Pat ja uzņēmumu komandas var sagraut aģentus bez produktu vadītājiem un dizaineriem, Habib domā, ka “PM domāšanas veids” joprojām ir nepieciešams sadarbībai, veidošanai, atkārtošanai un aģentu uzturēšanai.

“Diemžēl vai par laimi, atkarībā no jūsu perspektīvas, tas tiks atstāts turēt somu, ja viņi neved savus biznesa kolēģus šajā jaunajā ēkas veidā.”

Kāpēc uz mērķi balstīti aģenti ir pareizā pieeja

Viena no domāšanas maiņām ietver aģentu balstītā rakstura izpratni. Piemēram, viņa sacīja, ka daudzi klienti pieprasa aģentiem palīdzēt savām likumīgajām komandām pārskatīt vai samazināt līgumus. Guess tas ir pārāk beztermiņa. Tā vietā uz mērķi orientēta pieeja nozīmē aģenta izstrādi, lai samazinātu laiku, kas pavadīts, pārskatot un samazinot līgumus.

“Tradicionālajā programmatūras izstrādes dzīves ciklā jūs izstrādājat deterministisku ļoti paredzamu soļu kopumu,” sacīja Habibs. “Tas tiek ievadīts, ievadiet deterministiskāk. Guess ar aģentiem jūs vēlaties veidot aģenta uzvedību. Tātad jūs meklējat mazāk kontrolētu plūsmu un daudz vairāk, lai sniegtu kontekstu un virzītu aģenta lēmumu pieņemšanu.”

Vēl viena atšķirība ir veidot aģentu plānu, kas viņiem uzdod biznesa loģiku, nevis nodrošināt viņiem darbplūsmas. Tas ietver spriešanas cilpu izstrādi un sadarbību ar priekšmetu ekspertiem, lai kartētu procesus, kas veicina vēlamo izturēšanos.

Kamēr tiek daudz runāts par mērogošanas aģentiem, rakstnieks joprojām lielākajai daļai klientu palīdz tos veidot vienlaikus. Tas ir tāpēc, ka vispirms ir svarīgi atbildēt uz jautājumiem par to, kam pieder aģents, kurš pārliecinās, ka tas paliek atbilstošs un joprojām pārbauda, ​​vai tas joprojām rada vēlamos rezultātus.

“Ir mērogošanas klints, kuru ļaudis ļoti, ļoti ātri nokļūst bez jaunas pieejas celtniecības un mērogošanas līdzekļiem,” sacīja Habibs. “Pastāv klints, kurā ļaudis gatavojas nokļūt, kad viņu organizācijas spēja pārvaldīt aģentus atbildīgi patiešām pārspēj departamenta attīstības notiekošo departamentu.”

QA aģentiem pret programmatūru

Aģentiem ir atšķirīga arī kvalitātes nodrošināšana. Objektīva kontrolsaraksta vietā aģentiskā novērtēšana ietver ne-bināras uzvedības uzskaiti un novērtējumu, kā aģenti rīkojas reālās situācijās. Tas ir tāpēc, ka neveiksme ne vienmēr ir acīmredzama – un nav tik melnbalta kā pārbaudīt, vai kaut kas sabojājas. Tā vietā Habibs sacīja, ka labāk ir pārbaudīt, vai aģents izturējās labi, vaicājot, vai neveiksmes, kas darbojas, novērtēt rezultātus un nodomu: “Šeit mērķis nav pilnība, tā ir uzvedības uzticība, jo šeit šajā subjektivitātē ir daudz subjektivitātes.”

Uzņēmumi, kas nesaprot iterācijas nozīmi, galu galā spēlē “pastāvīgu tenisa spēli, kas vienkārši nēsā katru pusi, kamēr viņi vairs nevēlas spēlēt”, sacīja Habibs. Ir arī svarīgi, lai komandas būtu labi, ja aģenti ir mazāk nekā perfekti un vairāk par “droši palaišanu un ātri palaižot un strauji skrien un atkārtojas atkal un atkal”.

Neskatoties uz izaicinājumiem, ir piemēri, ka AI aģenti, kas jau palīdz ienest jaunus ieņēmumus uzņēmumu uzņēmumiem. Piemēram, Habibs pieminēja galveno banku, kas sadarbojās ar rakstnieku, lai izstrādātu uz aģentiem balstītu sistēmu, kā rezultātā tika izveidots jauns UPSELL cauruļvads 600 miljonu USD vērtībā, iekāpjot jaunus klientus vairākās produktu līnijās.

Jaunas versijas vadības ierīces AI aģentiem

Arī aģentu uzturēšana ir atšķirīga. Tradicionālā programmatūras uzturēšana ietver koda pārbaudi, kad kaut kas sabojājas, wager Habibs sacīja, ka AI aģentiem ir nepieciešama jauna veida versijas kontrole visam, kas var veidot uzvedību. Tas arī prasa pienācīgu pārvaldību un nodrošināt, ka aģenti laika gaitā paliek noderīgi, nevis nevajadzīgu izmaksu rašanās.

Tā kā modeļi tīri kartē AI aģentus, Habib sacīja, ka tehniskā apkope ietver uzvedņu, modeļa iestatījumu, instrumentu shēmu un atmiņas konfigurācijas pārbaudi. Tas nozīmē arī pilnībā izsekot izpildes starp ievadiem, izejām, spriešanas darbībām, instrumentu izsaukumiem un cilvēku mijiedarbību.

“Jūs varat atjaunināt a [large language model] LLM uzvedne un vērošana, kā aģents uzvedas pavisam savādāk, kaut arī nekas GIT vēsturē faktiski mainījās, ”sacīja Habibs.“ Modeļa saista maiņa, izguves indeksi tiek atjaunināti, instrumentu API attīstās un pēkšņi tā pati uzvedne neuzvedas, kā paredzēts… tas var justies kā mēs atkļūdojam spokus. ”