Concept Astro, il progetto di Dell per abbassare i consumi dei data center facendo leva sull'IA

Il rapidissimo sviluppo e la conseguente adozione dell'intelligenza artificiale stanno mettendo in crisi i data center e le reti elettriche. Le GPU necessarie per l'addestramento e l'inferenza dell'IA, è noto, consumano molto, moltissimo, e riuscire ad alimentare i centri di calcolo è uno sforzo sempre più complesso, soprattutto se si vuole utilizzare energia pulita.

Dell ha una soluzione al problema: Concept Astro, un progetto che mira a ridurre i consumi dell'IA sfruttando proprio... l'IA. 

Con Concept Astro Dell vuole ottimizzare i consumi energetici dei data center

Per quanto possa sembrare una contraddizione usare l'IA per ridurre i consumi causati proprio da questa tecnologia, l'approccio di Dell è più che sensato. L'idea è quella di acquisire una serie di informazioni e passarle alla suite di monitoraggio Dell AIOps che, grazie anche ad AIOps Assistant fornirà indicazioni sull'infrastruttura, includendo suggerimenti su come ottimizzare le operations. 

L'IA non è l'unica tecnologia coinvolta: Concept Astro sfrutta anche automazione, agenti di IA e digital twin per guidare gli utenti e aiutarli a prendere decisioni migliori, basate sui dati. 

"Immagina una Fabbrica di Intelligenza Artificiale interconnessa e adattiva, capace di prevedere il tempo necessario per completare un’attività e stimare i requisiti energetici per svolgerla. Supponi che sia anche “grid-aware”, cioè in grado di integrare dati e previsioni della rete elettrica in tempo reale per individuare il momento, il luogo e le risorse ideali in cui eseguire il lavoro, dando priorità ai carichi in base alle esigenze di business, alla disponibilità energetica e/o ai costi. Gli utenti potrebbero scegliere tra un ventaglio di opzioni e raccomandazioni, oppure lasciare che i carichi vengano eseguiti automaticamente secondo parametri preconfigurati", si legge sul blog ufficiale del progetto.

Il caso Scripps Institution of Oceanography dell’Università della California

Un esempio concreto dell'applicazione di Project Astro arriva dallo Scripps Institution of Oceanography dell’Università della California, con il quale Dell ha stretto una collaborazione. 

Il progetto dell'Università mira a fare ricerca sulle barriere coralline, e per ottenere dati utilizza l'AI Factory di Dell per convertire milioni di immagini subacquee in modelli 3D ad alta risoluzione, così da valutarne lo stato di salute. Parliamo di 350 GB di immagini acquisite a ogni singola immersione. E ogni anno si effettuano fra le 300 e le 400 immersioni. Il ruolo di Dell è stato quello di aiutare Scripss a identificare i tempi e i luoghi migliori per eseguire i calcoli sulle immagini, basandosi su costi, velocità, emissioni o una combinazione di tutti questi elementi. "Il team è stato in grado di programmare i workload durante le “finestre” energetiche ottimali, riducendo il carico sulla rete senza interrompere la continuità della ricerca. Questo ha permesso a Scripps di ottenere un risparmio sui costi del 20% e una riduzione delle emissioni del 32%", si legge un comunicato dell'azienda.