Home Tehnoloģija Krekinga AI uzglabāšanas sašaurināšanās un secinājumi par uzlādēšanu malā

Krekinga AI uzglabāšanas sašaurināšanās un secinājumi par uzlādēšanu malā

26
0

 

Vai vēlaties gudrāku ieskatu iesūtnē? Reģistrējieties mūsu iknedēļas biļeteniem, lai iegūtu tikai to, kas ir svarīgi uzņēmuma AI, datu un drošības vadītājiem. Abonēt tūlīt


Tā kā AI lietojumprogrammas arvien vairāk veic uzņēmuma operācijas, sākot no pacientu aprūpes uzlabošanas līdz uzlabotai medicīniskai attēlveidošanai un beidzot ar sarežģītu krāpšanas noteikšanas modeļu darbību un pat palīdzot savvaļas dzīvnieku saglabāšanai, bieži parādās kritisks sašaurinājums: datu glabāšana.

VentureBeat laikā Transformācija 2025Gregs Matsons, produktu un mārketinga vadītājs, Solidigm un Rodžers Kumings, Peak: AIO izpilddirektors runāja ar Maiklu Stjuartu, M12 vadošo partneri par to, kā inovācijas glabāšanas tehnoloģijā ļauj uzņēmuma AI izmantot gadījumus veselības aprūpē.

https://www.youtube.com/watch?v=oxjdhmcsi3a

Monai ietvars ir sasniegums medicīniskajā attēlveidošanā, veidojot to ātrāk, drošāk un drošāk. Uzglabāšanas tehnoloģijas sasniegumi ir tas, kas ļauj pētniekiem balstīties uz šo ietvaru, ātri atkārtot un ieviest jauninājumus. Maksimums: AIO sadarbojās ar SolidGM, lai integrētu enerģijas efektīvu, izpildītāju un lielas ietilpības glabāšanu, kas ļāva Monai uzglabāt vairāk nekā divus miljonus pilna ķermeņa CT skenēšanu vienā mezglā viņu IT vidē.

“Tā kā uzņēmuma AI infrastruktūra strauji attīstās, uzglabāšanas aparatūra arvien vairāk jāpielāgo konkrētiem lietošanas gadījumiem atkarībā no tā, kur tie atrodas AI datu cauruļvadā,” sacīja Matsons. “Lietošanas gadījumu veids, par kuru mēs runājām ar Monai, ar malu lietošanas lietu, kā arī apmācības klastera barošanu, labi apkalpo ļoti lielas ietilpības cietvielu glabāšanas risinājumi, bet faktiskajai secinājumu un modeļa apmācībai ir nepieciešams kaut kas savādāks. Tas ir ļoti augstas veiktspējas, ļoti augstas I/O-sekundes prasības, kas no mums ir pieejamas. programmatūra. ”

AI secinājumu uzlabošana malā

Lai sasniegtu maksimālo veiktspēju malā, ir svarīgi samazināt uzglabāšanu līdz vienam mezglam, lai secinājumus tuvinātu datiem. Un tas, kas ir galvenais, ir atmiņas sašaurinājumu noņemšana. To var izdarīt, padarot atmiņu par AI infrastruktūras daļu, lai to mērogotu kopā ar datiem un metadatiem. Datu tuvums dramatiski aprēķināt laiku palielina ieskatu.

“Jūs redzat visus milzīgos izvietojumus, lielos zaļā lauka datu centrus AI, izmantojot ļoti specifiskus aparatūras dizainus, lai varētu pēc iespējas tuvāk GPU,” sacīja Matsons. “Viņi ir izveidojuši savus datu centrus ar ļoti lielas ietilpības cietvielu krātuvi, lai Petabaitu līmeņa krātuve, kas ir ļoti pieejama ar ļoti lielu ātrumu, GPU. Tagad šī pati tehnoloģija notiek mikrokosmā malā un uzņēmumā.”

AI sistēmu pircējiem kļūst kritiski svarīgi nodrošināt, lai jūs gūtu vislielāko sniegumu no savas sistēmas, palaižot to uz visu cietā stāvokli. Tas ļauj jums ienest milzīgu datu daudzumu un nodrošina neticamu apstrādes jaudu nelielā sistēmā malā.

AI aparatūras nākotne

“Ir obligāti jāsniedz atvērti, pielāgojami un atmiņas ātrumā risinājumi, izmantojot dažas no jaunākajām un lielākajām tehnoloģijām, lai to izdarītu,” sacīja Cummings. “Tas ir mūsu kā uzņēmuma mērķis, nodrošināt šo atvērtību, šo ātrumu un mērogu, kas nepieciešams organizācijām. Es domāju, ka jūs redzēsit, ka arī ekonomika to atbilst.”

Kopējam apmācības un secinājumu datu cauruļvadam un pašā secinājumā aparatūras vajadzības turpinās palielināties neatkarīgi no tā, vai tas ir ļoti ātrgaitas SSD vai ļoti lielas ietilpības risinājums, kas ir efektīvs.

“Es teiktu, ka tas virzīsies vēl tālāk uz ļoti lielu ietilpību neatkarīgi no tā, vai tas ir viens-petabaitu SSD, pēc pāris gadiem, kas darbojas ar ļoti mazu jaudu un tas principā var aizstāt četras reizes vairāk cieto diskdziņu vai ļoti augstas veiktspējas produktu, kas gandrīz tuvojas atmiņas ātrumam,” sacīja Matsons. “Jūs redzēsit, ka lielie GPU pārdevēji meklē, kā definēt nākamo uzglabāšanas arhitektūru, lai tas ļoti cieši varētu palīdzēt papildināt HBM sistēmā. Tas, kas mākoņdatošanā bija vispārīgi izveicīgs SSD.


avots