Pievienojieties pasākumam, kuru uzņēmuma vadītāji uzticas gandrīz divas desmitgades. VB Rework apvieno cilvēkus, kas veido reālu uzņēmumu AI stratēģiju. Uzziniet vairāk
Īpaši šajā ģeneratīvās AI Dawning laikmetā mākoņu izmaksas ir visu laiku augstākās. Wager tas nav tikai tāpēc, ka uzņēmumi izmanto vairāk aprēķinu – viņi to neizmanto efektīvi. Faktiski tikai šogad, sagaidāms, ka uzņēmumi tiks tērēti 44,5 miljardi USD par nevajadzīgiem mākoņu izdevumiem.
Tā ir pastiprināta problēma Akamai tehnoloģijas: Uzņēmumam ir liela un sarežģīta mākoņu infrastruktūra vairākos mākoņos, nemaz nerunājot par daudzām stingrām drošības prasībām.
Līdz Atzīstiet to, kiberdrošības un satura piegādes pakalpojumu sniedzējs vērsās pie Kubernetes automatizācijas platformas Mest AIkuru AI aģenti palīdz optimizēt izmaksas, drošību un ātrums mākoņu vidē.
Galu galā platforma palīdzēja Akamai samazināt no 40% līdz 70% no mākoņu izmaksām, atkarībā no darba slodzes.
“Mums bija nepieciešams nepārtraukts veids, kā optimizēt mūsu infrastruktūru un samazināt mākoņa izmaksas, nezaudējot sniegumu,” VentureBeat stāstīja Dekela Šavita, Akamai mākoņa inženierzinātņu vecākais direktors. “Mēs esam tie, kas apstrādā drošības notikumus. Kavēšanās nav iespēja. Ja mēs nevaram reaģēt uz drošības uzbrukumu reālā laikā, mums nav izdevies.”
Specializēti aģenti, kas uzrauga, analizē un rīkojas
Kubernetes pārvalda infrastruktūru, kas vada lietojumprogrammas, padarot to vieglāku to izvietošanu, mērogošanu un pārvaldību, jo īpaši mākoņdatņu un mikropakalpojumu arhitektūrās.
Forged AI ir integrējusies Kubernetes ekosistēmā, lai palīdzētu klientiem mērogot klasterus un darba slodzi, atlasīt labāko infrastruktūru un pārvaldīt aprēķināšanas dzīves ciklus, skaidroja dibinātājs un izpilddirektors Laurents Gils. Tās galvenā platforma ir lietojumprogrammu veiktspējas automatizācija (APA), kas darbojas ar specializētu aģentu komandu, kas nepārtraukti uzrauga, analizē un rīkojas, lai uzlabotu lietojumprogrammu veiktspēju, drošību, efektivitāti un izmaksas. Uzņēmumi nodrošina tikai to aprēķinu, kas viņiem nepieciešams no AWS, Microsoft, Google vai citiem.
APA darbina vairāki mašīnmācīšanās (ML) modeļi ar pastiprināšanas mācīšanos (RL), pamatojoties uz vēsturiskiem datiem un apgūtajiem modeļiem, ko pastiprina novērojamības kaudze un heiristika. Tas ir savienots ar infrastruktūras kā koda (IAC) rīkiem vairākos mākoņos, padarot to par pilnīgi automatizētu platformu.
Gils paskaidroja, ka APA tika veidota uz Tenet, ka novērojamība ir tikai sākumpunkts; Kā viņš to sauca, novērojamība ir “pamats, nevis mērķis”. Forged AI atbalsta arī pieaugošo adopciju, tāpēc klientiem nav jāizlaiž un jāaizstāj; Viņi var integrēties esošajos rīkos un darbplūsmā. Turklāt nekas nekad neatstāj klientu infrastruktūru; Visa analīze un darbības notiek to īpašajās Kubernetes klasteros, nodrošinot lielāku drošību un kontroli.
Gils arī uzsvēra uz cilvēku orientētību. “Automatizācija papildina cilvēku lēmumu pieņemšanu,” viņš teica, APA uzturot cilvēku vidējo darbplūsmu.
Akamai unikālie izaicinājumi
Šavits paskaidroja, ka Akamai lielais un sarežģītais mākoņu infrastruktūras nodrošina satura piegādes tīklu (CDN) un kiberdrošības pakalpojumus, kas piegādāti “dažiem no pasaules visprasīgākajiem klientiem un nozarēm”, vienlaikus ievērojot stingrus pakalpojumu līmeņa līgumus (SLA) un veiktspējas prasības.
Viņš atzīmēja, ka dažiem pakalpojumiem, ko viņi patērē, viņi, iespējams, ir lielākie klienti savam pārdevējam, piebilstot, ka viņi ir paveikuši “tonnas galvenās inženierzinātnes un pārveidošanu” ar savu hiperskaleru, lai atbalstītu viņu vajadzības.
Turklāt Akamai apkalpo dažāda lieluma un nozares klientus, ieskaitot lielas finanšu iestādes un kredītkaršu uzņēmumus. Uzņēmuma pakalpojumi ir tieši saistīti ar klientu drošības pozu.
Galu galā Akamai vajadzēja līdzsvarot visu šo sarežģītību ar izmaksām. Šavits atzīmēja, ka reālās dzīves uzbrukumi klientiem varētu dot jaudu 100x vai 1000x par īpašiem tās infrastruktūras komponentiem. Wager “mūsu mākoņa ietilpības palielināšana par 1000x iepriekš vienkārši nav finansiāli iespējama,” viņš sacīja.
Viņa komanda apsvēra iespēju optimizēt koda pusi, wager viņu biznesa modeļa raksturīgajai sarežģītībai bija jākoncentrējas uz pašu galveno infrastruktūru.
Automātiski optimizējot visu Kubernetes infrastruktūru
Tas, kas Akamai patiešām bija vajadzīgs, bija Kubernetes automatizācijas platforma, kas varētu optimizēt izmaksas, kas saistītas ar visas pamatinfrastruktūras vadīšanu reālā laikā vairākos mākoņos, skaidroja Shavit, un mērogošanas lietojumprogrammas augšup un lejup, pamatojoties uz pastāvīgi mainīgu pieprasījumu. Wager tas viss bija jādara, neupurējot lietojumprogrammas veiktspēju.
Pirms Forged ieviešanas Šavits atzīmēja, ka Akamai DevOps komanda tikai dažas reizes mēnesī manuāli noregulēja visas tās Kubernetes darba slodzes. Ņemot vērā tās infrastruktūras mērogu un sarežģītību, tā bija izaicinoša un dārga. Tikai sporādiski analizējot darba slodzi, viņi skaidri nokavēja jebkādu reālā laika optimizācijas potenciālu.
“Tagad simtiem dalībnieku aģentu veic vienādu noskaņojumu, izņemot to, ka viņi to dara katru sekundi katru dienu,” sacīja Šavits.
Galvenajā APA ir AKAMAI lietojumu, kas ir autosalējoši, padziļināta Kubernetes automatizācija ar atkritumu tvertņu iesaiņojumu (samazinot izmantoto tvertņu skaitu), automātiski izvēlēties visrentablākos aprēķinātos gadījumus, darba slodzi tiesību noteikšanu, tūlītēju instanču automatizāciju visā gadījuma dzīves ciklā un izmaksu analīzes iespējām.
“Mēs guvām ieskatu izmaksu analītikā divu minūšu laikā integrācijā, kas ir kaut kas tāds, ko mēs vēl nekad nebijām redzējuši,” sacīja Šavits. “Kad aktīvie aģenti tika izvietoti, optimizācija tika iesākta automātiski, un ietaupījumi sāka ienākt.”
Vietas gadījumi – ja uzņēmumi var piekļūt neizmantotajai mākoņu jaudai par atlaidēm, acīmredzami bija biznesa jēga, taču tie izrādījās sarežģīti Akamai sarežģītās darba slodzes dēļ, īpaši Apache Spark, atzīmēja Shavit. Tas nozīmēja, ka viņiem vajadzēja vai nu pārmērīgu darba slodzi, vai arī to nodot vairāk darba, kas izrādījās finansiāli pretintuitīvs.
Izmantojot AI, viņi varēja izmantot tūlītēju gadījumus uz dzirksteles ar inženiertehnisko komandas vai operāciju “nulles ieguldījumu”. Spotikantu vērtība bija “ļoti skaidra”; Viņiem vienkārši bija jāatrod pareizais rīks, lai tos varētu izmantot. Tas bija viens no iemesliem, kāpēc viņi virzījās uz priekšu ar solid, atzīmēja Šavits.
Lai gan 2x vai 3x saglabāšana uz viņu mākoņa rēķina ir lieliski, Šavits norādīja, ka automatizācija bez manuālas iejaukšanās ir “nenovērtējama”. Tā rezultātā ir ietaupīti “masīvs” laika ietaupījums.
Pirms Forged AI ieviešanas viņa komanda “pastāvīgi pārvietojās pa pogām un slēdžiem”, lai nodrošinātu, ka viņu ražošanas vide un klienti ir līdzvērtīgi pakalpojumam, kas viņiem bija jāiegulda.
“Rokas lielākais ieguvums ir bijis fakts, ka mums vairs nav jāpārvalda mūsu infrastruktūra,” sacīja Šavits. “Forged aģentu komanda tagad to dara mūsu labā. Tas ir atbrīvojis mūsu komandu, lai koncentrētos uz to, kas ir vissvarīgākais: atbrīvojot funkcijas mūsu klientiem ātrāk.”
Redaktora piezīme: šī mēneša laikā VB transformācijaGoogle Cloud CTO Will Grannis un Highmark Well being SVP un galvenais analītikas virsnieks Ričards Klarks pārrunās jauno AI kaudzi veselības aprūpē un reālās pasaules izaicinājumus, kas saistīti ar daudzmodeļu AI sistēmu izvietošanu sarežģītā, regulētā vidē. Reģistrējieties šodienApvidū
avots
