Home Tehnoloģija Sašustruma pārkāpšana: kāpēc AI prasa SSD pirmo nākotni

Sašustruma pārkāpšana: kāpēc AI prasa SSD pirmo nākotni

9
0

Prezentē Solidigm


Kā AI adopcijas pieaugums, datu centri saskaras ar kritisku sašaurinājumu glabāšanā – un tradicionālie HDD ir tā centrā. Dati, kas kādreiz sēdēja dīkstāvē kā aukstie arhīvi, tagad tiek izmantoti biežāk, lai izveidotu precīzākus modeļus un sniegtu labākus secinājumu rezultātus. Šī pāreja no aukstuma datiem uz siltiem datiem prasa zemu latentuma, augstas caurlaides spējas krātuvi, kas var apstrādāt paralēlus aprēķinus. HDD paliks darba zirgs zemu izmaksu aukstuma glabāšanai, taču, pārdomājot to lomu, augstas ietilpības uzglabāšanas slānis dangers kļūst par vājāko saiti AI rūpnīcā.

"Mūsdienu AI darba slodze apvienojumā ar datu centra ierobežojumiem ir radījusi jaunus izaicinājumus HDD," saka Džefs Janukovičs, IDC pētniecības viceprezidents. "Kaut arī HDD piegādātāji pievēršas datu glabāšanas pieaugumam, piedāvājot lielākus diskus, tas bieži notiek uz lēnākas veiktspējas rēķina. Tā rezultātā jēdziens “NearLine SSD” kļūst par arvien nozīmīgāku diskusiju tēmu nozarē."

Mūsdienās AI operatoriem ir jāveic maksimāli GPU izmantošana, efektīvi jāpārvalda tīklam pievienota krātuve un jānovērtē aprēķināšana-vienlaikus samazinot izmaksas par arvien mazo jaudu un vietu. Vidē, kurā katrs vats un katrs kvadrātcollas skaits ir, saka Rodžers Korels, AI vecākais direktors un vadības mārketings SolidIgm, panākumi prasa vairāk nekā tehnisku atsvaidzināšanu. Tas prasa dziļāku pārkārtojumu.

“Tas attiecas uz AI datu vērtības tektonisko maiņu,” saka Korels. “Tieši tur sākas lielas ietilpības SSD. Kopā ar ietilpību tie rada veiktspēju un efektivitāti-ļaujot eksabaitu mēroga uzglabāšanas cauruļvadiem, lai neatpaliktu no nerimstošā datu kopas lieluma tempu. Tas viss patērē jaudu un telpu, tāpēc mums tas jādara pēc iespējas efektīvāk, lai iespējami varētu vairāk GPU mēroga šajā ierobežotajā vidē.

Augstas ietilpības SSD ne tikai pārvieto HDD-tie noņem vienu no lielākajiem sašaurinājumiem AI rūpnīcas grīdā. Piegādājot milzīgus veiktspējas, efektivitātes un blīvuma pieaugumu, SSD atbrīvo jaudu un vietu, kas nepieciešama, lai virzītu GPU skalu tālāk. Tas ir mazāks uzglabāšanas jauninājums nekā strukturāla maiņa, kā datu infrastruktūra ir paredzēta AI laikmetam.

HDDS pret SDDS: vairāk nekā tikai aparatūras atsvaidzināšana

HDD ir iespaidīgi mehāniski dizaini, taču tie sastāv no daudzām kustīgām detaļām, kas mērogā patērē vairāk enerģijas, aizņem vairāk vietas un neizdodas ar augstāku ātrumu nekā cietā stāvokļa virzieni. Paļaušanās uz vērpšanas šķīvjiem un mehāniskām lasīšanas/rakstīšanas galviņām pēc būtības ierobežo ievades/izvades operācijas sekundē (IOPS), radot sašaurinājumus AI darba slodzēm, kas prasa zemu latentumu, augstu vienlaicīgumu un ilgstošu caurlaidspēju.

HDD arī cīnās ar latentuma jutīgiem uzdevumiem, jo ​​datu meklēšanas fiziskais akts ievieš mehānisku kavēšanos, kas nav piemērota reāllaika AI secinājumiem un apmācībai. Turklāt to jaudas un dzesēšanas prasības ievērojami palielinās biežā un intensīvā piekļuvē datiem, samazinot efektivitāti kā datu mērogā un sasildīšanai.

Turpretī uz SSD balstīts milzīgais uzglabāšanas risinājums samazina enerģijas patēriņu par ~ 1 miljonu USD gadā un AI vidē, kur katram vatam ir nozīme, tā ir milzīga SSD priekšrocība. Lai pierādītu, SolidIGM un plašie dati pabeidza pētījumu, kurā apskatīta datu glabāšanas ekonomika eksabaitu skalā-kvadriljonu baitu vai miljardu gigabaitu, analizējot krātuves enerģijas patēriņu salīdzinājumā ar HDD 10 gadu laikā.

Kā sākuma atskaites punktu jums būs nepieciešami četri 30 TB HDD, lai būtu vienāds ar viena 122TB SolidIgm SSD jaudu. Pēc tam, kad Faktorings plašās datu samazināšanas metodēs, ko padarīja iespējamu SSD izcilā veiktspējā, eksabaitu risinājums satur 3 738 SolidIGM SSD pret vairāk nekā 40 000 augstas ietilpības HDD. Pētījumā atklājās, ka uz SSD balstīts plašais risinājums patērē par 77% mazāk uzglabāšanas enerģijas.

Datu centra pēdas samazināšana

"Mēs nosūtām 122-terabaitu braucienus uz dažiem labākajiem oriģinālajiem oriģināldarbiem un vadām AI mākoņu pakalpojumu sniedzējus pasaulē," Corell saka. "Salīdzinot All-122TB SSD ar hibrīda HDD + TLC SSD konfigurāciju, viņi iegūst deviņus pret vienu datu centra pēdas nospiedumā. Jā, ir svarīgi šajos masīvajos datu centros, kas veido savus kodolreaktorus un paraksta dūšīgu enerģijas pirkuma līgumus ar atjaunojamās enerģijas pakalpojumu sniedzējiem, taču tas ir arvien svarīgāk, jo jūs nokļūstat reģionālajos datu centros, vietējos datu centros un visa izeja uz jūsu malas izvietošanu, kur telpa var nonākt premium."

Šis deviņu pret vienu ietaupījumu pārsniedz kosmosu un spēku-tas ļauj organizācijām ievietot infrastruktūru iepriekš nepieejamās telpās, paplašināt GPU skalu vai veidot mazākas pēdas.

"Ja jums tiek piešķirta x zemes summa un y enerģijas daudzums, jūs to izmantosit. Tu esi ai" Korels skaidro: “kur tiek skaitīts katrs vatu un kvadrātcollas, tad kāpēc gan to neizmantot visefektīvākajā veidā? Iegūstiet visefektīvāko iespējamo uz planētas glabāšanu un dodot lielāku GPU skalu šajā aploksnē, kas jums jāiekļaujas. Pastāvīgi, lai saglabātu, jums ir arī 90 procentus mazāk krātuves, lai saglabātu, un izmaksas, kas saistītas ar to, kas ir pieejama."

Vēl viens bieži skatīts parts, (daudz) lielāks fiziskais nospiedums, kas tiek saglabāts mehāniskos HDD, rada lielāku celtniecības materiālu nospiedumu. Kopā betona un tērauda ražošana veido vairāk nekā 15% no globālajām siltumnīcefekta gāzu emisijām. Samazinot uzglabāšanas fizisko nospiedumu, lielas ietilpības SSD var palīdzēt samazināt iemiesotās betona un tērauda bāzes emisijas par vairāk nekā 80%, salīdzinot ar HDD. Un ilgtspējības dzīves cikla pēdējā posmā, kas ir dzīves beigu beigas, būs par 90% mazāk braucienu uz rīcību. Apvidū

Aukstās un arhīva uzglabāšanas stratēģiju pārveidošana

Pāreja uz SDD nav tikai uzglabāšanas jauninājums; Tā ir datu infrastruktūras stratēģijas pamatteksta pielāgošana AI laikmetā, un tā palielina ātrumu.

"Lieli hiperskalotāji vēlas visvairāk iziet no savas esošās infrastruktūras, ja jūs to darīsit, ar HDD, piemēram, pārmērīgi pārprovizējot tos līdz 90%, lai mēģinātu izspiest pēc iespējas vairāk IOPS vienā terabaitā, guess viņi sāk nākt apkārt," Corell saka. "Tiklīdz viņi pievērsīsies modernai visa lielas ietilpības uzglabāšanas infrastruktūrai, nozare kopumā atradīsies šajā trajektorijā. Turklāt mēs sākam redzēt šīs mācības par mūsdienu uzglabāšanas vērtību AI, kas tiek piemērota arī citiem segmentiem, piemēram, Huge Information Analytics, HPC un daudzām citām."

Kaut arī visu zibspuldzes risinājumi tiek pieņemti gandrīz vispārēji, HDD vienmēr būs vieta, viņš piebilst. HDD saglabāsies tādās lietojumprogrammās kā arhīva, aukstā glabāšana un scenāriji, kurās tīras izmaksas par gigabaitu bažām pārsniedz nepieciešamību pēc piekļuves reāllaikā. Guess, tā kā marķieru ekonomika uzkarsē un uzņēmumi realizē vērtību datu peļņā, silti un sasilšanas datu segmenti turpinās augt.

Nākotnes spēka izaicinājumu risināšana

Tagad 4. paaudzē ar vairāk nekā 122 kumulatīviem eksabaitiem, kas nosūtīti līdz šim, SolidIgm QLC (četrlīmeņa šūna) tehnoloģija ir licis nozarei līdzsvarot augstākas piedziņas spējas ar izmaksu efektivitāti.

"Mēs nedomājam par glabāšanu kā tikai bitu un baitu glabāšanu. Mēs domājam par to, kā mēs varam attīstīt šos apbrīnojamos diskus, kas spēj sniegt ieguvumus risinājuma līmenī," Corell saka. "Spīdošā zvaigzne, kas ir mūsu nesen palaista, E1.S, kas īpaši paredzēta blīvai un efektīvai glabāšanai tiešās pievienošanas krātuves konfigurācijās nākamās paaudzes ventilatoram bez GPU servera."

Solidigm D7-PS1010 E1.s ir izrāviens, nozares pirmais EsSD ar vienpusēju tiešo šķidruma dzesēšanas tehnoloģiju. SolidIgm strādāja ar NVIDIA, lai risinātu divkāršās siltuma pārvaldības un izmaksu efektivitātes problēmas, vienlaikus nodrošinot augsto sniegumu, kas nepieciešams AI darba slodzes pieprasīšanai.

"Mēs ātri virzāmies uz vidi, kurā visi kritiskie IT komponenti būs tiešā šķidruma dzesēšanas laikā, kas dzesē tiešā piestiprināšanas pusē," Viņš saka. "Es domāju, ka tirgum ir jāraugās uz viņu pieeju dzesēšanai, jo enerģijas ierobežojumi, enerģijas izaicinājumi vismaz manā dzīves laikā nemazināsies. Viņiem jāpiemēro neoklouda domāšanas veids, kā viņi arhitektē visefektīvāko infrastruktūru."

Arvien sarežģītāki secinājumi stumj pret atmiņas sienu, kas padara uzglabāšanas arhitektūru par priekšējās līnijas dizaina izaicinājumu, nevis par pārdomām. Augstas ietilpības SSD, pārī ar šķidru dzesēšanu un efektīvu dizainu, parādās kā vienīgais ceļš, lai izpildītu AI pieaugošās prasības. Tagad mandāts ir veidot infrastruktūru ne tikai efektivitātei, guess arī uzglabāšanai, kas var efektīvi mērogot, pieaugot datiem. Organizācijas, kas tagad pārkārto krātuvi, būs tās, kuras rīt varēs mērogot AI.


Sponsorētie raksti ir saturs, ko ražo uzņēmums, kas vai nu maksā par amatu, vai arī ar biznesa attiecībām ar VentureBeat, un tie vienmēr ir skaidri iezīmēti. Lai iegūtu papildinformāciju, sazinieties ar gross sales@venturebeat.comApvidū

avots

LEAVE A REPLY

Please enter your comment!
Please enter your name here