AMD e Red Hat collaborano per migliorare le prestazioni dell'IA e della virtualizzazione

AMD e Red Hat hanno annunciato un rafforzamento della propria collaborazione strategica con l'intento di rafforzare la propria offerta congiunta nell'ambito dell'IA e delle infrastrutture virtualizzate. Tra i risultati di questa collaborazione c'è la compatibilità delle GPU AMD Instinct con OpenShift AI, migliori prestazioni sulle GPU AMD e maggiori ottimizzazioni per queste ultime all'interno del software Red Hat.

Nuova collaborazione tra AMD e Red Hat su IA e virtualizzazione

Il primo risultato della collaborazione è la certificazione della compatibilità per le GPU AMD Instinct con OpenShift AI, piattaforma che consente di gestire i modelli di IA. Grazie a ciò, le aziende possono ora usare le GPU di AMD sia negli ambienti on premise, sia in cloud (pubblico, privato e ibrido). Le due aziende affermano di aver condotto dei test su una macchina Microsoft Azure ND MI300X v5 per dimostrare come sia possibile gestire modelli linguistici grandi e piccoli sfruttando più GPU con una sola VM, così da abbassare i costi.

Il secondo punto è il miglioramento delle prestazioni delle GPU AMD nell'IA, grazie all'upstreaming (ovvero la donazione del codice derivato da un progetto al progetto stesso) di varie componenti in Triton, un linguaggio e compilatore per il deep learning. Le aziende hanno anche lavorato all'ottimizzazione dellla comunicazione tra GPU quando più d'una è in uso nello stesso sistema, così da ridurre i colli di bottiglia e migliorare le prestazioni nelle applicazioni che richiedono di usare più GPU parallelamente.

Sul fronte della virtualizzazione, la collaborazione porta con sé la certificazione dei processori EPYC per OpenShift Virtualization, una funzionalità di OpenShift che consente di gestire macchine virtuali in maniera unificata con i container, che rimangono il focus principale della piattaforma.