Oracle HeatWave GenAI mette l'IA generativa dentro il database

Oracle ha annunciato HeatWave GenAI, un nuovo servizio che inserisce un modello linguistico di grandi dimensioni direttamente all'interno del database MySQL, semplificando così molte operazioni grazie all'automazione e alla possibilità di accedere alla ricerca semantica.

Oracle HeatWave GenAI mette l'IA nel database

Usare l'intelligenza artificiale richiede la costruzione di database specifici per contenere i vettori, ovvero le rappresentazioni matematiche impiegate dai modelli d'IA per correlare i dati. Questo processo è però lungo e costoso, in termini sia di tempo sia di denaro. Oracle HeatWave GenAI crea in automatico i vettori a partire dai database esistenti e li inserisce al loro interno, così da far rimanere tutti i dati all'interno dello stesso database (con tutti i vantaggi del caso in termini di sicurezza e facilità di gestione).

Il sistema usa automaticamente i documenti aziendali per creare i vettori e inserirli nel database; il processo, che Oracle afferma essere estremamente veloce grazie a un elevatissimo livello di parallelizzazione, richiede secondo l'azienda appena 30 minuti per scansionare e aggiungere 100.000 documenti (tra PDF, Word, HTML e TXT). Si tratta, stando ai dati forniti dall'azienda, di prestazioni di un ordine di grandezza migliori rispetto a soluzioni concorrenti come Snowflake (30 volte più veloce), Google BigQuery (18 volte) e Databricks (15 volte).

Molto interessante è il fatto che Oracle abbia predisposto il sistema per far sì che l'aggiunta di nuovi documenti porti all'elaborazione solo di questi ultimi, così da ridurre al minimo il tempo (e il costo) di elaborazione al crescere del numero di documenti. L'azienda ha rimarcato molto, durante una presentazione per la stampa europea, come avviare il processo di creazione dei vettori richieda un solo comando nella console di MySQL.

Gli LLM in uso sono LLaMa3 e un modello non meglio identificato prodotto da Mistral; in entrambi i casi si tratta di modelli open source.

La novità permette alle aziende di usare più facilmente tecniche di RAG (Retrieval-Augmented Generation) e ottenere così risultati a partire dai propri dati senza doverli inserire direttamente in un modello d'IA tramite addestramento, con tutti i benefici del caso in termini di sicurezza e di costi.

Oracle ha altresì annunciato HeatWave Chat, un plugin per Visual Studio Code che dà accesso a un'interfaccia grafica per HeatWave GenAI con la quale gli sviluppatori possono fare domande in linguaggio naturale, oltre che in SQL, e interrogare direttamente i dati.

Durante la presentazione per la stampa, Nipun Agarwal, SVP of MySQL and HeatWave Development in Oracle (in foto qui sopra), ha affermato che queste nuove funzionalità danno di fatto una marcia in più alle aziende che decidono di usarle. Il problema, però, è quello affrontato nel film Gli Incredibili: se tutti hanno i superpoteri, è come se non li avesse nessuno. La risposta di Agarwal è che sì, è vero che tutti i clienti di OCI avranno accesso alle funzionalità e quindi agli stessi "superpoteri", ma non tutti sono clienti di OCI e sarà questo a fare la differenza.

HeatWave GenAI è già disponibile in tutte le regioni di OCI, incluse quelle dedicate, e anche negli altri cloud con cui OCI collabora.