Pievienojieties pasākumam, kuru uzņēmuma vadītāji uzticas gandrīz divas desmitgades. VB Transform apvieno cilvēkus, kas veido reālu uzņēmumu AI stratēģiju. Uzziniet vairāk
Pie Venturebeat pārveidošanas 2025 konferenceOlivier Godement, Openai API platformas produktu vadītājs, sniedza aizkulišu skatījumu, kā uzņēmumu komandas pieņem un izvieto AI aģentus mērogā.
20 minūšu paneļdiskusijā es rīkojos tikai ar Godementu, bijušais Stripe pētnieks un pašreizējais Openai API boss izsaiņoja Openai jaunākos izstrādātāju rīkus-atbildes API un aģentu SDK-, vienlaikus izceļot reālās pasaules modeļus, drošības apsvērumus un izmaksu atkārtojuma piemērus no agrīnajiem adoptētājiem, piemēram, Stripe un Box.
Uzņēmējdarbības vadītājiem, kuri nespēj apmeklēt sesiju tiešraidē, šeit ir 8 vissvarīgākie paņēmieni:
Aģenti ātri pārvietojas no prototipa uz ražošanu
Saskaņā ar Godement, 2025. gads iezīmē reālu maiņu par to, kā AI tiek izvietots mērogā. Tā kā vairāk nekā miljons aktīvo izstrādātāju tagad izmanto Openai API platformu visā pasaulē, un žetonu izmanto 700% salīdzinājumā ar iepriekšējo gadu, AI pārsniedz eksperimentēšanu.
“Ir pagājuši pieci gadi, kopš mēs galvenokārt uzsākām GPT-3… un cilvēks, pēdējie pieci gadi ir bijuši diezgan savvaļas.”
Godements uzsvēra, ka pašreizējais pieprasījums vairs nav tikai par tērzēšanas robotiem. “AI lietošanas gadījumi pārvietojas no vienkāršiem Q&A, lai faktiski izmantotu gadījumus, kad lietojumprogramma, aģents, var darīt lietas jūsu vietā.”
Šī maiņa pamudināja Openai martā laidis klajā divus galvenos izstrādātāju vērstos rīkus: Atbildes API un Aģenti SDKApvidū
Kad jāizmanto atsevišķi aģenti salīdzinājumā ar sub-aģentu arhitektūru
Galvenā tēma bija arhitektūras izvēle. Godements atzīmēja, ka viena aģenta cilpas, kas vienā modelī iekapsulē pilnīgu instrumentu piekļuvi un kontekstu, ir konceptuāli elegantas, bet bieži nepraktiskas mērogā.
“Ir grūti veidot precīzus un uzticamus atsevišķus aģentus. Tāpat kā, tas tiešām ir grūti.”
Palielinoties sarežģītībai-vairāk rīki, vairāk iespējamo lietotāju ievadi, vairāk loģikas-bieži vien virzās uz modulārām arhitektūrām ar specializētām apakšnozarēm.
“Prakse, kas parādījās, ir būtībā sadalīt aģentus vairākos apakšiedalās … jūs varētu atdalīt tādas bažas kā programmatūrā.”
Šīs apakšnozares darbojas kā lomas nelielā komandā: Triage aģents klasificē nodomu, viens līmeņa aģenti risina ikdienas problēmas, un citi saasinās vai atrisina malu gadījumus.
Kāpēc atbildes API ir solis maiņa
Godements reakciju API pozicionēja kā pamata evolūciju izstrādātāja instrumentos. Iepriekš izstrādātāji manuāli organizēja modeļa zvanu secības. Tagad šī orķestrēšana tiek rīkota iekšēji.
“Atbilžu API, iespējams, ir lielākais jaunais abstrakcijas slānis, ko mēs ieviesām kopš diezgan daudz GPT-3.”
Tas ļauj izstrādātājiem izteikt nodomu, nevis tikai konfigurēt modeļa plūsmas. “Jums rūp atgriezt patiešām labu atbildi klientam … reakcijas API būtībā apstrādā šo cilpu.”
Tas ietver arī iebūvētās iespējas zināšanu iegūšanai, tīmekļa meklēšanai un funkciju izsaukšanai-topošajiem darbiem, kas uzņēmumiem nepieciešami reālās pasaules aģentu darbplūsmas.
Novērojamība un drošība ir iebūvēti
Drošība un atbilstība bija prāta visaugstākā. Godements minēja galvenās apsardzes pasti, kas padara Openai kaudzi dzīvotspējīgu regulētām nozarēm, piemēram, Finance un Healthcare:
- Uz politiku balstīti atteikumi
- SOC-2 mežizstrāde
- Datu rezidences atbalsts
Novērtējums ir tas, kur Godement redz vislielāko plaisu starp demonstrāciju un ražošanu.
“Mana karstā rīcība ir tāda, ka modeļa novērtēšana, iespējams, ir lielākais sašaurinājums masveida AI pieņemšanai.”
Tagad Openai ietver izsekošanas un novērtēšanas rīkus ar API kaudzi, lai palīdzētu komandām noteikt, kādi panākumi izskatās, un izsekot, kā aģenti laika gaitā darbojas.
“Ja vien jūs neieguldāt novērtēšanā … ir patiešām grūti radīt šo uzticību, pārliecību, ka modelis ir precīzs, uzticams.”
Agrīna ROI ir redzama īpašās funkcijās
Daži uzņēmumu lietošanas gadījumi jau nodrošina izmērāmus ieguvumus. Dieva kopīgi piemēri no:
- Svītrakas izmanto aģentus, lai paātrinātu rēķinu apstrādi, ziņošanu “35% ātrāka rēķina izšķirtspēja”
- Boksskas uzsāka zināšanu palīgus, kas ļauj “Nulle Tutouch biļešu Triage”
Citi augstas vērtības lietošanas gadījumi ietver klientu atbalstu (ieskaitot balsi), iekšējo pārvaldību un zināšanu palīgus, lai navigētu blīvu dokumentāciju.
Kas nepieciešams, lai palaistu ražošanā
Godements uzsvēra cilvēcisko faktoru veiksmīgā izvietošanā.
“Ir neliela daļa no ļoti augstas klases cilvēkiem, kuri, kad viņi redz problēmu un redz tehnoloģiju, viņi to skrien.”
Šie iekšējie čempioni ne vienmēr nāk no inženierzinātnēm. Tas, kas viņus vieno, ir noturība.
“Viņu pirmā reakcija ir, labi, kā es varu likt tam darboties?”
Openai redz daudzas sākotnējās izvietošanas, kuras virza šī grupa – cilvēki, kuri agrīnā ChatGpt izmantoja uzņēmumā un tagad eksperimentē ar pilnām aģentu sistēmām.
Viņš arī norādīja uz daudziem nepilnībām: domēna zināšanas. “Zināšanas uzņēmumā… nemelo ar inženieriem. Tas atrodas OPS komandās.”
Aģentu veidošanas rīku izgatavošana, kas pieejami nav izstrādātājiem, ir izaicinājums Openai, kuru mērķis ir risināt.
Kas notiks nākamais uzņēmuma aģentiem
Godements piedāvāja ieskatu ceļvedī. Openai aktīvi strādā:
- Multimodālie aģenti kas var mijiedarboties, izmantojot tekstu, balsi, attēlus un strukturētus datus
- Ilgtermiņa atmiņa par zināšanu saglabāšanu sesijās
- Cross-Cloud Orchestration Lai atbalstītu kompleksu, izplatīja IT vidi
Tās nav radikālas izmaiņas, bet iteratīvi slāņi, kas paplašina to, kas jau ir iespējams. “Kad mums ir modeļi, kas var domāt ne tikai uz dažām sekundēm, bet arī minūtes, stundām ilgi … tas ļaus dažiem diezgan prātīgiem lietošanas gadījumiem.”
Galīgais vārds: argumentācijas modeļi ir nepietiekami pārbaudīti
Godements slēdza sesiju, atkārtoti apstiprinot savu pārliecību, ka argumentācija spējīgi modeļi-tie, kas var atspoguļot pirms reaģēšanas, būs patiesi ilgtermiņa transformācijas veicinātāji.
“Man joprojām ir pārliecība, ka mēs diezgan daudz esam GPT-2 vai GPT-3 brieduma līmenī šajos modeļos … mēs joprojām saskrāpējam virsmu, ko argumentācijas modeļi var darīt.”
Uzņēmējdarbības lēmumu pieņēmējiem ziņojums ir skaidrs: šeit ir aģentu automatizācijas infrastruktūra. Tagad ir svarīgi veidot koncentrētu lietošanas gadījumu, dodot daudzfunkcionālu komandu iespēju un gatavību atkārtot. Nākamais vērtības radīšanas posms slēpjas nevis jaunās demonstrācijās, bet izturīgās sistēmās, ko veido reālās pasaules vajadzības un operatīvā disciplīna, lai tās būtu uzticamas.
