Google mākonis ir ieviesis lielu atjauninājumu, lai saglabātu AI dizstrādātājiem savā Vertex AI platformā, lai izstrādātu, izstrādātu, izveidotu, testētu, izvietotu un pārveidotu AI aģentus uzņēmumu lietošanas gadījumos.
Šodien paziņotās jaunās funkcijas ietver papildu pārvaldības rīkus uzņēmumiem un iespēju paplašināšanu aģentu izveidei tikai ar dažām koda rindiņām, ātrākai darbībai, izmantojot mūsdienīgus konteksta pārvaldības slāņus un izvietošanu ar vienu klikšķi, kā arī pārvaldītus pakalpojumus ražošanas un novērtēšanas mērogošanai, kā arī atbalstu aģentu identificēšanai.
Aģents celtnieks, izlaista pagājušajā gadā savā ikgadējā Cloud Subsequent pasākumā nodrošina bezkoda platformu uzņēmumiem, lai izveidotu aģentus un savienotu tos ar orķestrēšanas sistēmām, piemēram, LangChain.
Google Aģentu izstrādes komplekts (ADK), kas ļauj izstrādātājiem izveidot aģentus “mazāk nekā 100 koda rindās”, var piekļūt arī, izmantojot Agent Builder.
“Šīs jaunās iespējas uzsver mūsu apņemšanos izmantot Agent Builder un vienkāršo aģentu izstrādes procesu, lai tiktos ar izstrādātājiem tur, kur viņi atrodas, neatkarīgi no viņu izvēlētās tehnoloģiju kopas,” sacīja Maiks Klārks, Vertex AI Agent Builder produktu pārvaldības direktors.
Ātrāk veidojiet aģentus
Daļa no Google piedāvājuma Agent Builder jaunajām funkcijām ir tāda, ka uzņēmumi var veidot orķestrēšanu pat tad, kad tie veido savus aģentus.
“Aģenta izveide no koncepcijas līdz strādājošam produktam ir saistīta ar sarežģītu orķestrēšanu,” sacīja Klārks.
Jaunās iespējas, kas tiek piegādātas kopā ar ADK, ietver:
-
SOTA konteksta pārvaldības slāņi, tostarp statiskais, pagrieziena, lietotāja un kešatmiņas slāņi, lai uzņēmumiem būtu lielāka kontrole pār aģentu kontekstu
-
Iepriekš izveidoti spraudņi ar pielāgojamu loģiku. Viens no jaunajiem spraudņiem ļauj aģentiem atpazīt neveiksmīgus rīku izsaukumus un “pašārstēties”, atkārtoti mēģinot veikt uzdevumu ar citu pieeju
-
Papildu valodu atbalsts ADK, tostarp Go, kopā ar Python un Java, kas tika palaists kopā ar ADK
-
Izvietošana ar vienu klikšķi, izmantojot ADK komandrindas saskarni, lai pārvietotu aģentus no lokālās vides uz tiešo testēšanu ar vienu komandu
Pārvaldības slānis
Uzņēmumiem nepieciešama augsta precizitāte; drošība; novērojamība un auditējamība (ko programma darīja un kāpēc); un vadāmība (kontrole) to ražošanas līmeņa AI aģentos.
Lai gan uzņēmumam Google bija novērošanas funkcijas vietējā izstrādes vidē palaišanas brīdī, izstrādātāji tagad var piekļūt šiem rīkiem, izmantojot Agent Engine pārvaldīto izpildlaika informācijas paneli.
Uzņēmums teica, ka tas nodrošina uz mākoņa balstītu ražošanas uzraudzību, lai izsekotu marķieru patēriņu, kļūdu līmeni un latentumu. Šajā novērojamības informācijas panelī uzņēmumi var vizualizēt aģentu darbības un reproducēt visas problēmas.
Agent Engine būs arī jauns novērtēšanas slānis, kas palīdzēs “imitēt aģenta veiktspēju plašā lietotāju mijiedarbības un situāciju klāstā”.
Šis pārvaldības slānis ietvers arī:
-
Aģentu identitātes, kuras Google teica, piešķir aģentiem viņu pašu unikālās, vietējās identitātes Google mākoņos
-
Modelis Armor, kas bloķētu tūlītējas injekcijas, ekrāna rīku izsaukumus un aģentu atbildes
-
Drošības komandu centrs, lai administratori varētu izveidot savu aģentu sarakstu, lai atklātu tādus draudus kā nesankcionēta piekļuve
“Šīs vietējās identitātes nodrošina dziļu, iebūvētu kontroles slāni un skaidru audita izsekojamību visām aģenta darbībām. Šīs ar sertifikātiem nodrošinātās identitātes vēl vairāk pastiprina jūsu drošību, jo tās nevar uzdoties un ir tieši saistītas ar aģenta dzīves ciklu, novēršot neaktīvu kontu risku,” sacīja Klārks.
Aģentu celtnieku cīņa
Nav pārsteigums, ka modeļu nodrošinātāji izveido platformas aģentu izveidei un to ieviešanai ražošanā. Konkurence ir saistīta ar to, cik ātri tiek pievienoti jauni rīki un līdzekļi.
Google aģentu veidotājs konkurē ar OpenAIir atvērtā koda Aģentu izstrādes komplektskas ļauj izstrādātājiem izveidot AI aģentus, izmantojot modeļus, kas nav OpenAI.
Turklāt ir nesen paziņoja AgentKitkurā ir Agent Builder, kas ļauj uzņēmumiem viegli integrēt aģentus savās lietojumprogrammās.
Microsoft ir savs Azure AI lietuvekas tika izlaista pagājušajā gadā ap šo laiku AI aģenta izveidei, un AWS arī piedāvā aģentu celtniekiem tās pamatiežā platforma, taču Google cer, ka jaunu funkciju komplekts palīdzēs tai nodrošināt konkurētspēju.
Tomēr ne tikai uzņēmumi ar saviem modeļiem aicina izstrādātājus izveidot savus AI aģentus savās platformās. Jebkurš uzņēmuma pakalpojumu sniedzējs ar aģentu bibliotēku arī vēlas, lai klienti savās sistēmās izveidotu aģentus.
Izstrādātāju intereses piesaistīšana un saglabāšana ekosistēmā šobrīd ir liela cīņa starp tehnoloģiju uzņēmumiem, izmantojot funkcijas, kas atvieglo aģentu izveidi un pārvaldību.
