NVIDIA porta l'IA generativa su desktop: arrivano i superPC Project Digits
di Alberto Falchi pubblicata il 07 Gennaio 2025, alle 10:25 nel canale DeviceI nuovi supercomputer costeranno circa 3000 dollari e saranno in grado di gestire carichi di lavoro di intelligenza artificiale fino a 200 miliardi di parametri. Saranno disponibili a partire dal mese di maggio
NVIDIA ha colto l'occasione del CES 2025 per annunciare le sue ultime novità. Fra queste, oltre alle nuove GPU GeForce della serie RTX 5000, c'è anche un computer: Project Digits. Non si tratta di un comune desktop, ma di una macchina pensata per accelerare i calcoli relativi all'intelligenza artificiale. Il prezzo? Più basso di quanto si possa pensare: si parte da 3.000 dollari.
Con Project Digits NVIDIA democratizza l'accesso ai modelli di IA
Project Digits è il nuovo computer di NVIDIA progettato per i calcoli di IA. Si baserà sul chip GB10 Grace Blackwell e sarà in grado di eseguire e gestire modelli di IA sino a un massimo di 200 miliardi di parametri. Il formato dovrebbe essere simile a quello di un Mac Mini, mentre il pubblico di riferimento è composto da ricercatori, studenti, data scientist.
Sarà dotato di 128 GB di memoria unificata e, come detto, integrerà l'acceleratore IA GB10 Grace Blackwell, capace di una potenza di 1 petaflop. Se questa potenza di calcolo non fosse sufficiente, sarà possibile raddoppiarla collegando due Project Digits, consentendo al sistema così configurato di gestire sistemi di IA con più di 400 miliardi di parametri.
Come intuibile, supporterà lo stack software di NVIDIA, inclusi gli SDK, gli strumenti di orchestrazione, e includerà alcuni modelli di IA preaddestrati, acquisibili tramite il catalogo NVIDIA NGC.
Il sistema operativo adottato è Nvidia DGX OS, una variante di Linux che supporta framework come PyTorch, Python, e Jupyter. Gli utenti potranno usare Project Digits per testare modelli di IA in locale, che potranno poi essere distribuiti su datacenter o architetture cloud, a patto che siano basate sulle GPU GB10 Grace Blackwell.
Il prezzo? Come già detto non è stratosferico: le configurazioni partiranno da 3.000 dollari, praticamente come un buon computer da videogiocatori.
4 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoVolendo smanettare sull'AI rispetto ad esempio a farsi un pc con 4090 il rapporto prestazioni/prezzo di questo mi sembra troppo superiore.
Ha una quantità di RAM clamorosa rispetto alle schede video solitamente accessibili ai consumer e il petaflop non so neanche come sia confrontabile con una 4090 che sulla carta va decisamente meno, forse è calcolato su precisioni più basse
La fregatura sono i 128gb di memoria unificata che non avranno la banda di una scheda dedicata. forse solo 512gb / sec condivisi tra Grace e la Gpu.
Per il resto non abbiamo nessun dettaglio sulla potenza della Gpu, poi magari mi sbaglio
La fregatura sono i 128gb di memoria unificata che non avranno la banda di una scheda dedicata. forse solo 512gb / sec condivisi tra Grace e la Gpu.
Per il resto non abbiamo nessun dettaglio sulla potenza della Gpu, poi magari mi sbaglio
Scartabellando un po' le specifiche NVIDIA dà come picco della 4090 1300 tflops in fp8 sfruttando la sparsity feature, la 4090 non supporta fp4 ma la 5090 sì quindi dovrebbe andare decisamente di più di questo supercoso a parità di condizioni di test, alla fine il vantaggio vero mi pare la quantità di RAM, del resto c'era da aspettarselo vedendo le dimensioni di questo rispetto anche solo ad un alimentatore in grado di reggere una 5090
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".