Pievienojieties pasākumam, kuru uzņēmuma vadītāji uzticas gandrīz divas desmitgades. VB Rework apvieno cilvēkus, kas veido reālu uzņēmumu AI stratēģiju. Uzziniet vairāk
Redaktora piezīme: Emīlija šajā mēnesī vadīs redakcijas apaļo galdu par šo tēmu VB Rework. Reģistrējieties šodienApvidū
AI pakalpojumu orķestrēšanas ietvari kalpo vairākām uzņēmumu funkcijām. Viņi ne tikai nosaka, kā lietojumprogrammas vai aģenti plūst kopā, guess arī jāļauj administratoriem pārvaldīt darbplūsmas un aģentus un revidēt savas sistēmas.
Tā kā uzņēmumi sāk mērogot savus AI pakalpojumus un ieviest tos ražošanā, veidojot pārvaldāmu, izsekojamu, revidējamu un izturīgu cauruļvadu, nodrošina, ka viņu aģenti darbojas tieši tā, kā viņiem vajadzētu. Bez šīm kontrolēm organizācijas, iespējams, nezina, kas notiek viņu AI sistēmās, un var atklāt šo jautājumu tikai par vēlu, kad kaut kas noiet greizi vai arī viņi neievēro noteikumus.
Kevins Kileijs, uzņēmuma uzņēmuma uzņēmuma uzņēmuma prezidents AviācijaIntervijā pastāstīja VentureBeat, ka ietvaros jāietver auditējamība un izsekojamība.
“Ir svarīgi, lai būtu šāda novērojamība un varētu atgriezties pie revīzijas žurnāla un parādīt, kāda informācija tika sniegta tajā brīdī,” sacīja Kileijs. “Jums jāzina, vai tas bija slikts aktieris vai iekšējs darbinieks, kurš nezināja, ka viņi dalās ar informāciju, vai arī tā bija halucinācija. Jums tas ir nepieciešams.”
Ideālā gadījumā ļoti agrīnā stadijā būtu jāiekļauj robustums un revīzijas takas. Izpratne par jaunas AI lietojumprogrammas vai aģenta iespējamiem riskiem un nodrošinot, ka tie turpina darboties atbilstoši standartiem, pirms izvietošanas palīdzētu mazināt bažas par AI ieviešanu ražošanā.
Tomēr organizācijas sākotnēji neprojektēja savas sistēmas, ņemot vērā izsekojamību un auditējamību. Daudzas AI izmēģinājuma programmas sāka dzīvi, jo eksperimenti sākās bez orķestrēšanas slāņa vai revīzijas takas.
Tagad lielie jautājumi, ar kuriem tagad saskaras, ir tas, kā pārvaldīt visus aģentus un lietojumprogrammas, nodrošināt, ka viņu cauruļvadi paliek izturīgi un, ja kaut kas noiet greizi, viņi zina, kas nogāja greizi, un uzrauga AI veiktspēju.
Pareizās metodes izvēle
Tomēr pirms jebkuras AI lietojumprogrammas izveidošanas eksperti sacīja, ka organizācijām ir jāuzņemas viņu dati. Ja uzņēmums zina, ar kuriem datiem viņi ir labi ar AI sistēmām, lai piekļūtu, un ar kuriem datiem viņi precīzi noregulēja modeli, viņiem ir šī bāzes līnija, lai salīdzinātu ilgtermiņa veiktspēju.
“Kad jūs palaižat dažas no šīm AI sistēmām, tas ir vairāk par to, kādus datus es varu apstiprināt, ka mana sistēma faktiski darbojas pareizi vai nē?” Yrieix Garnier, produktu viceprezidents plkst Datadogpastāstīja VentureBeat intervijā. “To ir ļoti grūti izdarīt, lai saprastu, ka man ir pareiza atsauces sistēma, lai apstiprinātu AI risinājumus.”
Kad organizācija identificē un atrod savus datus, tai ir jāizveido datu kopas versija – būtībā laika zīmoga vai versijas numura piešķiršana -, lai eksperimenti reproducējamos un saprastu, ko modelis ir mainījis. Šīs datu kopas un modeļi, visas lietojumprogrammas, kas izmanto šos īpašos modeļus vai aģentus, pilnvarotus lietotājus un bāzes rentimetu numurus, var ielādēt vai nu orķestrēšanas, vai novērojamības platformā.
Tāpat kā, izvēloties pamatu modeļus, ar kuriem veidot, orķestrēšanas komandām jāapsver caurspīdīgums un atvērtība. Kaut arī dažām slēgta avota orķestrēšanas sistēmām ir daudz priekšrocību, vairāk atvērtā koda platformu varētu piedāvāt arī ieguvumus, kurus vērtē daži uzņēmumi, piemēram, palielināta redzamība lēmumu pieņemšanas sistēmās.
Atvērtā koda platformas, piemēram, MlflowVerdzība Langchain un Grafana Nodrošiniet aģentiem un modeļiem ar granulām un elastīgām instrukcijām un uzraudzību. Uzņēmumi var izvēlēties attīstīt savu AI cauruļvadu, izmantojot vienu, visaptverošu platformu, piemēram, DatAdog, vai izmantot dažādus savstarpēji savienotus rīkus no AWS.
Vēl viens uzņēmumu apsvērums ir pievienot sistēmu, kas kartē aģentus un lietojumprogrammu reakcijas uz atbilstības rīkiem vai atbildīgu AI politiku. AWS un Microsoft Abi piedāvā pakalpojumus, kas izseko AI rīkus, un cik cieši viņi ievēro aizsargus un citas lietotāja noteiktas politikas.
Kileija sacīja, ka viens apsvērums uzņēmumiem, veidojot šos uzticamos cauruļvadus, ir saistīti ar caurspīdīgākas sistēmas izvēli. Kilejam, ja jums nav redzamas, kā darbosies AI sistēmas, nedarbosies.
“Neatkarīgi no tā, kāds ir lietošanas gadījums vai pat nozare, jums būs tās situācijas, kurās jums ir jābūt elastīgam, un slēgta sistēma nedarbosies. Tur ir pakalpojumu sniedzēji, kas ir lieliski instrumenti, guess tā ir sava veida melna kaste. Es nezinu, kā tas ir pie šiem lēmumiem.
Pievienojieties sarunai VB Rework
Es vadīšu redakcijas apaļā galda VB transformācija 2025 Sanfrancisko, 24.-25. Jūnijā, sauca par “Actenic AI orķestrēšanas ietvaru labāko praksi”, un es labprāt vēlētos, lai jūs pievienotos sarunai. Reģistrējieties šodienApvidū
avots
