Jaunā AI infrastruktūras realitāte: Nodrošiniet aprēķināt datus, nevis datus

Tā kā AI pārveido uzņēmuma operācijas dažādās nozarēs, kritiskās problēmas turpina parādīties ap datu glabāšanu – nav svarīgi, cik uzlabots modelis, tā veiktspēja ir atkarīga no iespējas ātri, droši un droši piekļūt milzīgam daudzumam datu. Bez pareizas datu glabāšanas infrastruktūras pat visspēcīgākās AI sistēmas var pārmeklēt ar lēnām, sadrumstalotiem vai neefektīviem datu cauruļvadiem.

Šī tēma ieņēma centrālo vietu pirmajā dienā VB transformācijasesijā, kas vērsta uz medicīnisku attēlveidošanu AI inovācijām, kuras vadīja Peak: AIO un SodāmībaApvidū Kopā, līdzās Medicīnas atvērts tīkls AI (Monai) Projekts-atvērtā koda sistēma medicīniskas attēlveidošanas AI izstrādei un izvietošanai-viņi no jauna definē, kā datu infrastruktūra atbalsta reāllaika secinājumus un apmācību slimnīcās, sākot no diagnostikas uzlabošanas līdz uzlabotām pētniecības un operatīvās lietošanas gadījumiem.

Inovācijas uzglabāšana klīniskās AI malā

Moderējis Maikls Stjuarts, vadošais partneris vietnē M12 (Microsoft Enterprise Fund), sesijā tika demonstrēti ieskati no Rodžera Kumminga, Peak: AIO izpilddirektors un Gregs Matsons, SolidIgm produktu un mārketinga vadītājs. Sarunā tika izpētīts, kā nākamās paaudzes augstas ietilpības uzglabāšanas arhitektūras atver jaunas durvis medicīniskajai AI, nodrošinot ātrumu, drošību un mērogojamību, kas nepieciešama masīvu datu kopu apstrādei klīniskajā vidē.

Būtiski, ka abi uzņēmumi ir dziļi iesaistīti Monai kopš tās pirmajām dienām. Monai, kas izstrādāta sadarbībā ar King’s Faculty London un citiem, ir mērķtiecīgs, lai izstrādātu un izvietotu AI modeļus medicīniskajā attēlveidošanā. Atvērtā koda ietvara rīku komplekts-kas ir saistīts ar veselības aprūpes unikālajām prasībām, ieskaitot bibliotēkas un rīkus DICOM atbalstam, 3D attēlu apstrādei un modelēšanai pirms apmācības, ļaujot pētniekiem un klīnicistiem izveidot augstas veiktspējas modeļus tādiem uzdevumiem kā audzēju segmentēšana un orgānu klasifikācija.

Būtisks Monai dizaina mērķis bija atbalstīt lokālo izvietošanu, ļaujot slimnīcām saglabāt pilnīgu kontroli pār jutīgiem pacienta datiem, vienlaikus izmantojot standarta GPU serverus apmācībai un secinājumiem. Tas cieši sasaista ietvara veiktspēju ar zem tā zemo datu infrastruktūru, kurai ir nepieciešama ātra, mērogojama uzglabāšanas sistēmas, lai pilnībā atbalstītu reālā laika klīniskās AI prasības. Šajā vietā SolidIgm un Peak: AIO sāk spēlēt: SolidIgM galdā ienes augsta blīvuma zibspuldzes krātuvi, savukārt Peak: AIO specializējas uzglabāšanas sistēmās, kas paredzēta AI darba slodzēm.

“Mums bija ļoti paveicies, ka strādājām agri kopā ar King’s Faculty Londonā un profesors Sebastiens Orsunds, lai attīstītu Monai,” skaidroja Cummings. “Darbs ar Oriundam, mēs izstrādājām pamatā esošo infrastruktūru, kas ļauj pētniekiem, ārstiem un biologiem dzīvības zinātnēs ļoti ātri balstīties uz šo ietvaru.”

Divkāršās uzglabāšanas prasības veselības aprūpes AI

Matsons norādīja, ka viņš redz skaidru bifurkāciju krātuves aparatūrā ar dažādiem risinājumiem, kas optimizēti īpašiem AI datu cauruļvada posmiem. Lietošanas gadījumos, piemēram, Monai, līdzīga Edge AI izvietošana-kā arī scenāriji, kas saistīti ar apmācības kopu barošanu, ir kritiska loma, jo šī vide bieži ir telpa un ierobežota, un tai ir nepieciešama vietēja piekļuve masīvām datu kopām, kas bieži vien ir ierobežota, un tai ir nepieciešama vietēja pieeja masīvām datu kopām.

Piemēram, Monai varēja uzglabāt vairāk nekā divus miljonus pilna ķermeņa CT skenēšanas vienā mezglā slimnīcas esošajā IT infrastruktūrā. “Ļoti ierobežota kosmosa, enerģijas ierobežota un ļoti lielas ietilpības krātuve ļāva iegūt dažus diezgan ievērojamus rezultātus,” sacīja Matsons. Šāda veida efektivitāte ir spēles mainītājs Edge AI veselības aprūpē, ļaujot iestādēm vadīt uzlabotus AI modeļus uz vietas, neapdraudot veiktspēju, mērogojamību vai datu drošību.

Turpretī darba slodze, kas saistīta ar reāllaika secinājumiem un aktīvu modeļa apmācību, sistēmā ir ļoti atšķirīgas prasības. Šiem uzdevumiem ir nepieciešami uzglabāšanas risinājumi, kas var piegādāt ārkārtīgi augstas ieejas/izvades operācijas sekundē (IOPS), lai neatpaliktu no datu caurlaides spējas, kas nepieciešama ar lielu joslas platuma atmiņu (HBM), un nodrošināt, ka GPU ir pilnībā izmantots. Maksimums: AIO programmatūras definēts glabāšanas slānis apvienojumā ar SolidIGM augstas veiktspējas cietvielu diskdziņiem (SSD) pievēršas abiem šī spektra galiem-lai iegūtu jaudu, efektivitāti un ātrumu visā AI cauruļvadā.

Programmatūras noteikts slānis klīniskām AI darba slodzēm malā

Cummings paskaidroja, ka Peak: AIO programmatūras definētā AI glabāšanas tehnoloģija, pārī ar SolidIgm augstas veiktspējas SSD, ļauj Monai lasīt, rakstīt un arhivēt masīvas datu kopas ātruma klīniskās AI prasības. Šī kombinācija paātrina modeļa apmācību un uzlabo medicīniskās attēlveidošanas precizitāti, darbojoties atvērtā koda ietvarā, kas pielāgots veselības aprūpes videi.

“Mēs piedāvājam programmatūras definētu slāni, ko var izvietot jebkurā preču serverī, pārveidojot to par AI vai HPC darba slodzēm augstas veiktspējas sistēmā,” sacīja Cummings. “Edge vidē mēs izmantojam tās pašas iespējas un samazinām to līdz vienam mezglam, tuvinot secinājumus, kur dati dzīvo.”

Galvenā spēja ir tā, kā maksimums: AIO palīdz novērst tradicionālās atmiņas sašaurinājumus, integrējot atmiņu tiešāk AI infrastruktūrā. “Mēs uzskatām atmiņu kā daļu no pašas infrastruktūras – kaut ko bieži tiek ignorēta. Mūsu risinājums skalo ne tikai uzglabāšanu, wager arī ar to saistīto metadatiem un metadatiem,” sacīja Kummings. Tas rada būtisku atšķirību klientiem, kuri nevar atļauties-gan attiecībā uz telpām, gan izmaksām-atkārtoti atkārtot lielus modeļus. Uzturot atmiņas rezidentu žetonus dzīvus un pieejamus, maksimums: AIO nodrošina efektīvus, lokalizētus secinājumus, neprasot pastāvīgu atkārtotu skaitli.

Tuvināt izlūkdatus datiem

Cummings uzsvēra, ka uzņēmumiem būs jāizmanto stratēģiskāka pieeja AI darba slodzes pārvaldībai. “Jūs nevarat būt tikai galamērķis. Jums ir jāsaprot darba slodze. Mēs darām kādu neticamu tehnoloģiju ar Solidign un to infrastruktūru, lai būtu gudrāk par to, kā šie dati tiek apstrādāti, sākot ar to, kā iegūt veiktspēju no viena mezgla,” skaidroja Cummings. “Tātad, secinot, ka ir tik liels grūdiens, mēs redzam, ka ģenerālisti kļūst specializētāki. Un mēs tagad strādājam, ko esam paveikuši no viena mezgla, un virzot tos tuvāk datiem, lai būtu efektīvāki. Mēs vēlamies inteliģentākus datus, pareizi? Vienīgais veids, kā to izdarīt, ir tuvināt šiem datiem.”

Dažas skaidras tendences rodas no liela mēroga AI izvietošanas, it īpaši jaunuzceltajos Greenfield datu centros. Šīs telpas ir izstrādātas ar ļoti specializētām aparatūras arhitektūrām, kas pēc iespējas tuvāk GPU. Lai to sasniegtu, viņi lielā mērā paļaujas uz visu cieto stāvokļu uzglabāšanu-īpaši īpaši lielas ietilpības SSD-, kas paredzēti, lai piegādātu petabitu mēroga krātuvi ar ātrumu un pieejamību, kas nepieciešama, lai GPU nepārtraukti barotu datus ar lielu caurlaidspēju.

“Tagad šī pati tehnoloģija pamatā notiek mikrokosmā, malā, uzņēmumā,” skaidroja Kummings. “Tātad AI sistēmu pircējiem kļūst kritiski svarīgi noteikt, kā jūs izvēlaties aparatūras un sistēmas pārdevēju, pat lai pārliecinātos, ka, ja vēlaties iegūt vislielāko sniegumu no sistēmas, ka jūs izmantojat visu cietvielu stāvokli. Tas ļauj jums ienest milzīgu datu daudzumu, piemēram, Monai piemēru-tas bija 15 000 plus attēli, vienas sistēmas. Šī ir neticama apstrādes jauda, ​​kas ir maza sistēma, kas atrodas uz beigām.” ”.