NVIDIAIntelligenza Artificiale

NVIDIA porta l'IA generativa su desktop: arrivano i superPC Project Digits

di pubblicata il , alle 10:25 nel canale Device NVIDIA porta l'IA generativa su desktop: arrivano i superPC Project Digits

I nuovi supercomputer costeranno circa 3000 dollari e saranno in grado di gestire carichi di lavoro di intelligenza artificiale fino a 200 miliardi di parametri. Saranno disponibili a partire dal mese di maggio

 

NVIDIA ha colto l'occasione del CES 2025 per annunciare le sue ultime novità. Fra queste, oltre alle nuove GPU GeForce della serie RTX 5000, c'è anche un computer: Project Digits. Non si tratta di un comune desktop, ma di una macchina pensata per accelerare i calcoli relativi all'intelligenza artificiale. Il prezzo? Più basso di quanto si possa pensare: si parte da 3.000 dollari.

Con Project Digits NVIDIA democratizza l'accesso ai modelli di IA

Project Digits è il nuovo computer di NVIDIA progettato per i calcoli di IA. Si baserà sul chip GB10 Grace Blackwell e sarà in grado di eseguire e gestire modelli di IA sino a un massimo di 200 miliardi di parametri. Il formato dovrebbe essere simile a quello di un Mac Mini, mentre il pubblico di riferimento è composto da ricercatori, studenti, data scientist. 

nvidia project digits

Sarà dotato di 128 GB di memoria unificata e, come detto, integrerà l'acceleratore IA GB10 Grace Blackwell, capace di una potenza di 1 petaflop. Se questa potenza di calcolo non fosse sufficiente, sarà possibile raddoppiarla collegando due Project Digits, consentendo al sistema così configurato di gestire sistemi di IA con più di 400 miliardi di parametri.

Come intuibile, supporterà lo stack software di NVIDIA, inclusi gli SDK, gli strumenti di orchestrazione, e includerà alcuni modelli di IA preaddestrati, acquisibili tramite il catalogo NVIDIA NGC. 

Il sistema operativo adottato è Nvidia DGX OS, una variante di Linux che supporta framework come PyTorch, Python, e Jupyter. Gli utenti potranno usare Project Digits per testare modelli di IA in locale, che potranno poi essere distribuiti su datacenter o architetture cloud, a patto che siano basate sulle GPU GB10 Grace Blackwell. 

Il prezzo? Come già detto non è stratosferico: le configurazioni partiranno da 3.000 dollari, praticamente come un buon computer da videogiocatori. 

4 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
pengfei07 Gennaio 2025, 10:54 #1
Dov'è la fregatura?
Volendo smanettare sull'AI rispetto ad esempio a farsi un pc con 4090 il rapporto prestazioni/prezzo di questo mi sembra troppo superiore.
Ha una quantità di RAM clamorosa rispetto alle schede video solitamente accessibili ai consumer e il petaflop non so neanche come sia confrontabile con una 4090 che sulla carta va decisamente meno, forse è calcolato su precisioni più basse
supertigrotto07 Gennaio 2025, 13:06 #2
Sarebbe interessante una bella recensione da parte di un programmatore che si occupa di IA,Nvidia ogni tanto mi stupisce o mi delude (è diventata una specie di Apple,ovvero su certi prodotti tanto di cappello,su altri è gonfiata con delle pseudo leggende metropolitane) sta di fatto che bei prodotti ne ha, però,ad esempio,jetson nano era quasi una chiavica venduta a caro prezzo e spacciata per un prodotto miracoloso.
Aznable07 Gennaio 2025, 16:46 #3
Dov'è la fregatura?

La fregatura sono i 128gb di memoria unificata che non avranno la banda di una scheda dedicata. forse solo 512gb / sec condivisi tra Grace e la Gpu.

Per il resto non abbiamo nessun dettaglio sulla potenza della Gpu, poi magari mi sbaglio
pengfei07 Gennaio 2025, 23:34 #4
Originariamente inviato da: Aznable
Dov'è la fregatura?

La fregatura sono i 128gb di memoria unificata che non avranno la banda di una scheda dedicata. forse solo 512gb / sec condivisi tra Grace e la Gpu.

Per il resto non abbiamo nessun dettaglio sulla potenza della Gpu, poi magari mi sbaglio


Scartabellando un po' le specifiche NVIDIA dà come picco della 4090 1300 tflops in fp8 sfruttando la sparsity feature, la 4090 non supporta fp4 ma la 5090 sì quindi dovrebbe andare decisamente di più di questo supercoso a parità di condizioni di test, alla fine il vantaggio vero mi pare la quantità di RAM, del resto c'era da aspettarselo vedendo le dimensioni di questo rispetto anche solo ad un alimentatore in grado di reggere una 5090

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
^