VAST InsightEngine: per evitare le allucinazioni del'IA arrivano le tecniche di RAG in tempo reale

La missione di VAST è tanto semplice quanto ambiziosa: creare una data platform che possa soddisfare le elevate aspettative delle aziende che operano nell'era dell'intelligenza artificiale. L'azienda è sbarcata in Italia lo scorso anno, come abbiamo spiegato qui, in occasione di un'intervista al CEO e fondatore Renen Hallak, ma esiste da più di 8 anni. E continua a crescere e potenziare la propria piattaforma. Lo scorso anno è stato reso dispoinbile il VAST Database e quest'anno è il momento di un'ulteriore novità: l'InsghtEngine.  

Con VAST InsightEngine la RAG si fa in tempo reale 

C'è un problema nel mondo dei big data. Anzi: sono due a ben vedere: Prima di tutto, la maggior parte dei dati - il 90% secondo VAST - non è strutturata. Servono sistemi per gestire rapidamente ed efficacemente anche questa tipologia di informazioni. E l'IA è la soluzione ideale per trasformarli velocemente. 

Il secondo problema è quello della velocità delle elaborazioni: se si vuole che l'IA sia integrata in maniera sicura e utile nei processi aziendali, bisogna trovare il modo applicare algoritmi di RAG (Retrieval Augmebted Generatio) in tempo reale.  Questi analizzano l'output e lo confrontano con altre fonti di dati, così da limitare le allucinazione delle IA e garantire risposte corrette e precise. 

La soluzione? InsightEngine, una tecnologia sviluppata insieme a NVIDIA che acquisisce e integra flussi di dati in tempo reale, rendendoli immediatamente utilizzabili per decisioni guidate dall'intelligenza artificiale.

InsightEngine fa leva sul DataEngine di VAST per attivare l'agente di embedding NVIDIA NIM non appena vengono scritti nuovi dati nel sistema. Così facendo, si permette di integrare in tempo reale vettori o graph a partire da dati non strutturati, bypassando i ritardi tipici dell'elaborazione tradizionale di tipo batch. In pratica permette di creare dati in tempo reale per alimentare i sistemi di IA come i LLM senza dover aspettare che vengano elaborati da sistemi. 

Un approccio che porta anche un altro vantaggio: non sarà necessario spostare dati da un silo all'altro, risparmiando ulteriore tempo e, in certi casi, anche abbattendo i costi del cloud. Senza la soluzione di VAST, infatti, per specifiche elaborazioni sarebbe necessario spostare i dati sul cloud, cosa che può richiedere parecchio tempo nel caso di database di grandi dimensioni. Insomma, quella di VAST non è una piattaforma per l'IA, ma un datastore per le aziende. 

Secondo Jeff Denworth, Co-fondatore di VAST Data, "con l'architettura unica della VAST Data Platform, integrata con NVIDIA NIM, stiamo semplificando per le organizzazioni l'estrazione di insight dai propri dati in tempo reale. Unificando tutti gli elementi della pipeline di recupero dell'IA in una fondazione dati aziendale, VAST Data InsightEngine con NVIDIA è la prima soluzione del settore a fornire una visione universale di tutti i dati strutturati e non strutturati di un'azienda per ottenere decisioni avanzate abilitate dall'intelligenza artificiale".