Arriva NVIDIA GB300 NVL72, il cluster di supercalcolo sviluppato da Microsoft Azure per OpenAI

La leadership USA sull'IA è a rischio? Difficile dirlo, ma lo stesso Jensen Huang, presidente di NVIDIA, ha recentemente affermato che il distacco con la Cina si sta assottigliando. Serve reagire in fretta e, anche per questo motivo, Microsoft Azure ha svelato un nuovo supercluster per lo sviluppo e la distribuzione di sistemi di intelligenza artificiale: NVIDIA GB300 NVL72.

NVIDIA GB300 NVL72: un nuovo standard per le performance dell'IA

NVIDIA GB300 NVL72 è un cluster di supercalcolo estremamente potente dedicato allo sviluppo di sistemi di IA e concepito per le esigenze di OpenAI. Basti pensare che ogni singolo rack del sistema include 72 GPU NVIDIA Blackwell Ultra, 36 CPU NVIDIA Grace, 37 TB di RAM e un canale di comunicazione NVIDIA Quantum-X800 InfiniBand fra le GPU capace di trasferire dati a 800 Gbps. Impressionanti anche i dati sulla banda garantita per ogni singolo rack da NVIDIA NVLink: ben 130 TB al secondo. 

Per quanto riguarda il sistema di raffreddamento, sono utilizzate unità di scambio termico autonome e sistemi di cooling dell’impianto per ridurre al minimo l’uso di acqua, garantendo al contempo la stabilità termica di cluster ad alta densità e prestazioni elevate come il GB300 NVL72.

Il risultato? Un sistema di supercalcolo in grado di addestrare e fare l'inferenza IA in una frazione del tempo rispetto alle precedenti soluzioni che, secondo Microsoft, diventerà il nuovo standard per le infrastrutture di IA. 

Microsoft e NVIDIA, tra l'altro, non si sono limitate a potenziare l'hardware: gli stack software per lo storage, l’orchestrazione e la pianificazione sono stati riprogettati e sono ottimizzati per sfruttare appieno le risorse di calcolo, rete, archiviazione e infrastruttura del data center su scala di supercalcolo, offrendo ai clienti "livelli di prestazioni senza precedenti con la massima efficienza", si legge sul comunicato dell'azienda. 

"Realizzare il primo cluster di produzione NVIDIA GB300 NVL72 su larga scala per l’intelligenza artificiale di frontiera è un risultato che va oltre la potenza del silicio: riflette l’impegno condiviso di Microsoft Azure e NVIDIA nell’ottimizzare ogni componente del moderno data center per l’IA", ha dichiarato Nidhi Chappell, vicepresidente corporate di Microsoft Azure AI Infrastructure. "La nostra collaborazione contribuisce a garantire che clienti come OpenAI possano implementare infrastrutture di nuova generazione con una scala e una velocità senza precedenti".