Prezentēja Arm
AI vairs neaprobežojas tikai ar mākoni vai datu centriem. Arvien biežāk tas darbojas tieši tur, kur tiek izveidoti dati — ierīcēs, sensoros un tīklos, kas atrodas malā. Šo pāreju uz ierīces izlūkošanu veicina latentums, privātums un izmaksas, ar kurām uzņēmumi saskaras, turpinot ieguldījumus AI.
Vadošām komandām šī iespēja ir skaidra, saka Kriss Beržijs, Arm’s Consumer Enterprise SVP un GM: Investējiet AI platformās, kas papildina mākoņa izmantošanu, nodrošina reāllaika atsaucību un aizsargā sensitīvus datus.
"Līdz ar pieslēgto ierīču eksploziju un IoT pieaugumu, malas AI sniedz organizācijām nozīmīgu iespēju iegūt konkurētspējīgas priekšrocības, izmantojot ātrāku un efektīvāku AI," Beržijs skaidro. "Tie, kas pārceļas pirmie, ne tikai uzlabo efektivitāti, wager arī no jauna definē to, ko klienti sagaida. AI kļūst par atšķirīgo uzticību, atsaucību un inovāciju. Jo ātrāk uzņēmums padarīs AI par galveno savās darbplūsmās, jo ātrāk tas apvienos šo priekšrocību."
Lietošanas gadījumi: AI izvietošana tur, kur atrodas dati
Uzņēmumi atklāj, ka malas AI nav tikai veiktspējas palielināšana — tas ir jauns darbības modelis. Lokālā apstrāde nozīmē mazāku atkarību no mākoņa un ātrāku, drošāku lēmumu pieņemšanu reāllaikā.
Piemēram, rūpnīcas stāvā var nekavējoties analizēt aprīkojuma datus, lai novērstu dīkstāves, savukārt slimnīca var droši palaist diagnostikas modeļus uz vietas. Mazumtirgotāji izvieto veikala analīzi, izmantojot redzes sistēmas, savukārt loģistikas uzņēmumi izmanto ierīcē iebūvēto AI, lai optimizētu flotes darbības.
Tā vietā, lai sūtītu milzīgus datu apjomus uz mākoni, organizācijas var analizēt un rīkoties, pamatojoties uz ieskatiem, kur tie parādās. Rezultāts ir atsaucīgāka, privātumu saglabājoša un izmaksu ziņā efektīvāka AI arhitektūra.
Patērētāju cerības: tūlītēja un uzticēšanās
Strādājot ar Alibaba Taobao komandu, lielāko Ķīnas e-komercijas platformu, Arm (Nasdaq:Arm) iespējoja ierīču ieteikumus par produktiem, kas tiek atjaunināti uzreiz, neatkarīgi no mākoņa. Tas palīdzēja tiešsaistes pircējiem ātrāk atrast vajadzīgo, vienlaikus saglabājot pārlūkošanas datu privātumu.
Vēl viens piemērs nāk no patērētāju tehnoloģijām: Meta Ray-Ban viedās brilles, kas apvieno mākoņa un ierīces AI. Brilles apstrādā ātrās komandas lokāli, lai ātrāk reaģētu, savukārt smagāki uzdevumi, piemēram, tulkošana un vizuālā atpazīšana, tiek apstrādāti mākonī.
"Katra nozīmīga tehnoloģiju maiņa ir radījusi jaunus veidus, kā iesaistīties un gūt peļņu," Beržijs saka. "Pieaugot mākslīgā intelekta iespējām un lietotāju vēlmēm, vairāk informācijas būs jāvirzās tuvāk robežām, lai nodrošinātu šāda veida tūlītēju un uzticēšanos, ko cilvēki tagad sagaida."
Šī maiņa notiek arī ar rīkiem, ko cilvēki izmanto katru dienu. Asistenti, piemēram, Microsoft Copilot un Google Gemini, apvieno mākoņdatošanas un ierīces intelektu, lai ģeneratīvo AI tuvinātu lietotājam, nodrošinot ātrāku, drošāku un kontekstu apzinīgāku pieredzi. Tas pats princips attiecas uz visām nozarēm: jo vairāk informācijas jūs droši un efektīvāk pārvietojat uz malu, jo atsaucīgākas, privātākas un vērtīgākas kļūst jūsu darbības.
Apjomīgāka veidošana
AI eksplozijai pie malas ir vajadzīgas ne tikai viedākas mikroshēmas, wager arī viedāka infrastruktūra. Saskaņojot skaitļošanas jaudu ar darba slodzes prasībām, uzņēmumi var samazināt enerģijas patēriņu, vienlaikus saglabājot augstu veiktspēju. Šis ilgtspējības un mēroga līdzsvars ātri kļūst par konkurētspējīgu atšķirību.
"Aprēķinu vajadzības gan mākonī, gan lokālajā vidē turpinās strauji pieaugt. Rodas jautājums, kā palielināt šī aprēķina vērtību?" viņš teica. "To var izdarīt, tikai ieguldot skaitļošanas platformās un programmatūrā, kas atbilst jūsu AI ambīcijām. Patiesais progresa mērs ir uzņēmuma vērtības radīšana, nevis neapstrādāti efektivitātes rādītāji."
Inteliģentais pamats
AI modeļu straujā attīstība, jo īpaši tie, kas nodrošina malu secinājumus, multimodālas lietojumprogrammas un reakcijas ar zemu latentumu, prasa ne tikai viedākus algoritmus, wager arī ļoti veiktspējīgas, energoefektīvas aparatūras pamatus. Darba slodzei kļūstot daudzveidīgākai un izplatītākai, mantotās arhitektūras, kas paredzētas tradicionālajām darba slodzēm, vairs nav piemērotas.
CPU loma attīstās, un tagad tie atrodas arvien neviendabīgāku sistēmu centrā, kas nodrošina uzlabotu AI pieredzi ierīcē. Pateicoties to elastībai, efektivitātei un nobriedušam programmatūras atbalstam, modernie CPU var darbināt visu, sākot no klasiskās mašīnmācīšanās līdz sarežģītām ģeneratīvām AI darba slodzēm. Savienojot ar paātrinātājiem, piemēram, NPU vai GPU, tie gudri koordinē aprēķinus visā sistēmā, nodrošinot pareizo darba slodzi pareizajam dzinējam, lai nodrošinātu maksimālu veiktspēju un efektivitāti. CPU joprojām ir pamats, kas nodrošina mērogojamu, efektīvu AI visur.
Tādas tehnoloģijas kā Arm’s Scalable Matrix Extension 2 (SME2) nodrošina Armv9 CPU uzlaboto matricas paātrinājumu. Tikmēr Arm KleidiAI, tā viedais programmatūras slānis, ir plaši integrēts vadošajās sistēmās, lai automātiski palielinātu veiktspēju plašam AI darba slodžu klāstam, sākot no valodas modeļiem līdz runas atpazīšanai un beidzot ar datora redzi, kas darbojas uz Arm balstītas malas ierīcēs — bez nepieciešamības izstrādātājiem pārrakstīt savu kodu.
"Šīs tehnoloģijas nodrošina, ka mākslīgā intelekta sistēmas var pilnībā izmantot uz Arm balstītas sistēmas bez papildu izstrādātāju pūlēm." viņš saka. "Tādā veidā mēs padarām mākslīgo intelektu gan mērogojamu, gan ilgtspējīgu: iekļaujot inteliģenci mūsdienu skaitļošanas pamatos, tādējādi inovācija notiek programmatūras, nevis aparatūras ciklu ātrumā."
Šī skaitļošanas jaudas demokratizācija ir arī tas, kas veicinās nākamo inteliģentas, reāllaika pieredzes vilni visā uzņēmumā ne tikai vadošajos produktos, wager arī visos ierīču portfeļos.
Malas AI evolūcija
AI pārejot no izolētiem pilotiem uz pilna mēroga izvietošanu, panākumus gūs tie uzņēmumi, kas savienos informāciju visos infrastruktūras slāņos. Aģentiskās mākslīgā intelekta sistēmas būs atkarīgas no šīs viengabalainās integrācijas, kas nodrošina autonomus procesus, kas var izdomāt, koordinēt un nekavējoties nodrošināt vērtību.
"Šis modelis ir pazīstams kā katrā traucējošā vilnī, vēsturiskie operatori, kas pārvietojas lēni, riskē tikt apsteigti ar jaunpienācējiem," viņš saka. "Uzņēmumi, kas plauks, būs tie, kas katru rītu pamostas un jautā, kā padarīt viņu organizāciju par MI vispirms. Tāpat kā ar interneta un mākoņdatošanas uzplaukumu, nākamo desmitgadi veidos tie, kas paļaujas uz AI un patiesi kļūst par AI iespējotu."
Sponsorētie raksti ir saturs, ko ražo uzņēmums, kas vai nu maksā par ziņu, vai kuram ir biznesa attiecības ar VentureBeat, un tie vienmēr ir skaidri atzīmēti. Lai iegūtu vairāk informācijas, sazinieties gross sales@venturebeat.com.
