Microsoft Azure lancia le nuove istanze con GPU NVIDIA Ampere A100 e CPU AMD EPYC Rome

Microsoft sta espandendo l'offerta di Azure per l'intelligenza artificiale e ha annunciato il lancio delle nuove istanze ND A100 v4 specifiche per questo tipo di carico di lavoro. Le nuove macchine virtuali offrono la possibilità di sfruttare le nuove GPU NVIDIA Ampere A100 e di creare cluster con interconnessioni ad alta velocità per soddisfare le esigenze di tutte le aziende, anche quando queste devono elaborare grandi quantità di dati.

Microsoft Azure sceglie NVIDIA Ampere A100 ed AMD EPYC per l'IA

L'annuncio di Microsoft arriva a qualche mese di distanza dalla conferenza BUILD, dove l'azienda aveva presentato il proprio supercomputer costruito in collaborazione con OpenAI. Rispetto a tale supercomputer, che vantava già caratteristiche all'avanguardia, le nuove istanze ND A100 v4 risultano ancora più avanzate, con interconnessioni tra macchine virtuali che arrivano a 1,6 Tb/s (200 GB/s). Ciascuna GPU è dotata della sua conessione NVIDIA Mellanox HDR InfiniBand operante a 200 Gb/s ed è possibile creare cluster con un numero di GPU che arriva alle migliaia. La velocità di interconnessione è di 16 volte quella offerta da altri cloud pubblici, stando a Microsoft.

Microsoft afferma anche di aver progettato la piattaforma circostante che include le CPU AMD EPYC Rome, scelte per via della loro capacità di fornire linee PCIe 4.0. Questa caratteristica, insieme all'architettura NVLINK di terza generazione, dovrebbe garantire un incremento della velocità di trasferimento dei dati di più di due volte.

"La maggior parte dei clienti dovrebbe vedere un incremento nelle prestazioni di calcolo tra le due e le tre volte rispetto alle precedenti generazioni di sistemi basati su GPU NVIDIA V100 senza lavoro di ingegnerizzazione", scrive nell'annuncio ufficiale Ian Finder, senior program manager della divisione accelerated HPC Infrastructure di Azure. "I clienti che sfrutteranno le nuove caratteristiche di A100 come i Tensor Core multi-precisione con potenziamento dell'assottigliamento [sparsity in originale, ovvero la pratica di rimuovere dati dalle matrici di inferenza senza compromettere le prestazioni dell'IA] e Multi-Instance GPU (MIG) possono ottenere un miglioramento fino a venti volte."

Le nuove istanze sono disponibili in anteprima e la disponibilità pubblica è prevista nel corso delle prossime settimane.