NVIDIAGraceHopperIntelligenza Artificiale

E4 e NVIDIA mostrano i supercomputer Grace e Grace Hopper

di pubblicata il , alle 11:01 nel canale Device E4 e NVIDIA mostrano i supercomputer Grace e Grace Hopper

Le due nuove soluzioni per il supercalcolo di NVIDIA sono state mostrate in occasione della conferenza E4 Evolution: sistemi CPU con architettura ARM e GPU della famiglia Hopper votati a fornire elevatissime prestazioni bilanciando consumi sotto controllo

 

C'è un'azienda italiana impegnata nel settore delle soluzioni di supercalcolo e dei datacenter che, a dispetto delle dimensioni complessive, è riuscita in questi anni a ritagliarsi un importante spazio nel mercato dei sistemi server. Parliamo di E4 Computer Engineering, realtà che da Scandiano in provincia di Reggio Emilia si è spinta sino a collaborare da molti anni a questa parte con realtà del calibro del Cern di Ginevra.

e4_evolution_conference_1000.jpg

E4 Computer Engineering si è sin dall'inizio della propria attività proposta con un approccio che potremmo definire boutique, puntando sulla ricerca di soluzioni e innovazioni tecnologiche che permettono ai propri clienti di innovare nell'elaborazione. Scontato quindi l'impegno degli ultimi anni nel mondo dell'intelligenza artificiale e dell'utilizzo sempre più spinto di soluzioni custom.

Per questo motivo è stato E4 Evolution, evento che si è svolto nei giorni scorsi vicino a Bologna, la sede scelta da NVIDIA assieme a E4 Computer Engineering per il lancio ufficiale nel Sud Europa di NVIDIA Grace Hopper, la prima soluzione di supercalcolo dell'azienda americana che integra sullo stesso package una CPU con architettura ARM e una GPU dedicata al calcolo parallelo basata su architettura Hopper.

nvidia_gh200_chip_schema.jpg

Con queste soluzioni NVIDIA punta a offrire ai propri clienti soluzioni di supercalcolo che si adattino al meglio alle differenti necessità di elaborazione parallela che devono essere affrontate all'interno dei datacenter, soprattutto con riferimento alle elaborazioni di intelligenza artificiale.

NVIDIA Grace, come detto, è una soluzione CPU basata su architettura ARM che integra al proprio interno 72 core abbinati a 480 GB di memoria LPDDR5X installata sullo stesso package del processore. Interessante evidenziare il perché di 480 GB di memoria e non i canonici 512 GB che ci si potrebbe attendere: NVIDIA ha infatti scelto di abilitare 30 dei 32 canali memoria a disposizione, lasciando i due restanti come "riserva" a disposizione qualora uno di quelli attivi dovesse presentare dei malfunzionamenti.

Le soluzioni NVIDIA Grace sono montate su singola scheda che integra due SoC Grace identici. Per quelle Grace Hopper, come il nome facilmente suggerisce, troviamo invece un die SoC Grace affiancato da una GPU NVIDIA Hopper. Per quest'ultimo componente sono presenti 96 GB di memoria video dedicata HBM3, con un collegamento diretto tra SoC e GPU che vede implementato un link NVLink C2C da 900 GB/s di bandwidth.

nvidia_dgx_gh200_supercomputer_schema.jpg

NVIDIA non si limita allo sviluppo e alla fornitura di chip per i sistemi di supercalcolo, ma con DGX GH200 propone un proprio supercomputer dedicato specificamente all'elaborazione dell'intelligenza artificiale di tipo generativo. È costituito da sistemi che integrano al proprio interno un totale di 256 superchip Grace Hopper, con quindi 256 SoC CPU Grace affiancati da 256 GPU Hopper. In totale trovano posto in questo sistema 144TB di memoria unificata con 36 switch L2 NVLink che permettono ai sistemi di comunicare tra di loro mentre un collegamento dedicato da 900 GB/s mette in collegamento CPU e GPU presenti in ciascuno dei superchip Grace Hopper tra di loro. Un sistema di questo tipo ha ovviamente dimensioni importanti, con ben 24 armadi rack utilizzati per ospitare i supercomputer e la parte di switching necessaria per il loro collegamento.

Per poter permettere ai propri clienti di sviluppare soluzioni per il calcolo ad elevata potenza E4 Computer Engineering ha costituito in collaborazione con NVIDIA il proprio E4 Chiron Laboratory. Si tratta di una installazione interna all'azienda con la quale E4 e NVIDIA mettono a disposizione dei sistemi basati sulle piattaforme NVIDIA Grace e Grace Hopper così che i clienti possano utilizzarle e sperimentarne le potenzialità, facendo leva sull'ottimizzazione software specifica in base al tipo di applicazione eseguito. Questi sistemi possono anche venir implementati all'interno della infrastruttura del cliente, per rispondere a specifiche necessità di valutazione interna di questi prodotti.

Dalle parole di Cosimo Damiano Gianfreda, CEO di E4 Computer Engineering, emerge l'attenzione dell'azienda verso lo sviluppo di soluzioni di supercalcolo che siano da un lato potenti e in grado di far fronte alle necessità di calcolo più avanzate, dall'altra capaci di bilanciare una sostenibilità energetica. "Il calcolo ad alte prestazioni è la tecnologia chiave per risolvere alcune delle sfide più impegnative che il mondo si trova ad affrontare e noi di E4 abbiamo l'ambizioso obiettivo di accelerare l'adozione delle CPU NVIDIA Grace e dei Superchip GH200 nel mondo accademico, nell'industria e nei laboratori. E4 e NVIDIA condividono la stessa visione di questo obiettivo, con un'enfasi particolare su sostenibilità ed efficienza. Siamo entusiasti di collaborare con NVIDIA per far sì che questo viaggio diventi realtà".

La scelta di NVIDIA di sviluppare le soluzioni CPU della famiglia Grace, accanto al supercomputer ibrido Grace Hopper, è stata fatta da NVIDIA con l'intenzione di offrire elevatissima potenza di elaborazione bilanciata da una gestione efficiente dei consumi complessivi. Nei datacenter attuali il principale vincolo è proprio quello del consumo complessivo dell'infrastruttura, che tiene conto di quanto consumato dai server oltre che dai sistemi di raffreddamento richiesti: è qui che si gioca la sfida tra i produttori di soluzioni hardware e che vede coinvolte aziende come E4 Computer Engineering, attente a trovare la migliore soluzione tecnologica per i propri clienti.

0 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
^