GPT-in-a-Box, l'IA generativa di Nutanix che rispetta la privacy

Nutanix ha annunciato la propria soluzione di IA generativa: GPT-in-a-Box. Si tratta di una soluzione mirata alle aziende, che garantisce loro il pieno controllo dei propri dati pur basandosi sui principali LLM (Large Language Model) open source attualmente disponibili sul mercato.

GPT-in-a-Box, l'IA generativa di Nutanix

La soluzione GPT-in-a-Box di Nutanix è un'infrastruttura IA per l'impostazione e l'esecuzione di trasformatori generativi pre-addestrati (GPT), inclusi modelli LLM, sia in ambiente edge sia nel datacenter. Non è invece previsto il cloud, proprio per garantire ai clienti la totale riservatezza e la sovranità sulle informazioni con cui alimentano gli algoritmi di machine learning. 

L'obiettivo di Nutanix con questa piattaforma è quello di accelerare l'adozione dell'IA nel mondo business, offrendo ai clienti un'infrastruttura sicura e pronta all'uso sulla quale eseguire le proprie applicazioni di IA, per esempio per velocizzare le ricerche dei documenti aziendali, per tradurre automaticamente testi in più lingue, per analizzare ed estrarre insight da dati di vario tipo. 

GPT-in-a-Box include: 

• La piattaforma Nutanix Cloud Infrastructure, con le soluzioni Nutanix Files Storage e Objects Storage, l’hypervisor Nutanix AHV e Kubernetes, e l’accelerazione tramite le GPU NVIDIA, che può essere facilmente scalata.
• I servizi Nutanix per aiutare i clienti a dimensionare correttamente il proprio cluster e implementare uno stack con gli avanzati framework open source di deep learning e MLOps, un server di inferenza e una scelta di modelli linguistici di grandi dimensioni (LLM) come Llama2, Falcon e MPT.
• Possibilità per data scientist e amministratori ML di utilizzare immediatamente questi modelli con la propria scelta di applicazioni, interfacce utenti avanzate o CLI standard.
• La piattaforma può essere utilizzata anche per eseguire altri modelli GPT, nonché ottimizzare tali modelli sfruttando i dati interni, ospitati nei servizi Nutanix Files o Objects Storage inclusi.