IA e virtualizzazione alla base della strategia di Red Hat

“Siamo interessati prevalentemente a due ambiti: l’intelligenza artificiale e la virtualizzazione”. Ad affermarlo è Ashesh Badani, Senior Vice President e Chief Product Officer di Red Hat. Che sottolinea un aspetto importante: oggi il mercato della virtualizzazione è in pieno fermento a causa dell’acquisizione di VMware da parte di Broadcom che sta creando più di un malcontento fra gli utenti delle soluzioni VMware. Fatto che potrebbe aprire la strada ai concorrenti, e Red Hat sotto questo profilo è ben posizionata con la sua piattaforma OpenShift e i suoi strumenti per la gestione delle macchine virtuali: “ci sono clienti che stanno cercando alternative, e la virtualizzazione è un business che per noi vale più di un miliardo”, spiega Badani. “Alcuni vogliono solo migrare le virtual machine, in altri casi i clienti vogliono invece modernizzare l’intera infrastruttura”.

Virtualizzazione e IA: i settori chiave per Red Hat

Ashesh è stato recentemente a Milano per il Summit di Red Hat. Qui “ho avuto l'opportunità di incontrare molti clienti e ho notato un discreto interesse nell'approfondire il tema dell'IA. Probabilmente siamo ancora nelle fasi iniziali, almeno per quanto riguarda i clienti che ho incontrato, e si trattava di molte aziende di grandi dimensioni”.

Il riferimento è alle grandi aziende attive in settori come la finanza, il mondo bancario, l’industria, la Pubblica Amministrazione. Come confermano anche vari studi di settore, effettivamente l’intelligenza artificiale oggi è in piena espansione, e tantissime aziende stanno già lavorando sulle prime implementazioni. Spesso, però, si tratta di progetti pilota, per comprendere a pieno il potenziale di questa tecnologia e che valore può portare in questi ambiti. Tenendo anche conto dei rischi, che per aziende che operano in settori altamente regolamentati sono ben più elevati di altri, soprattutto per quanto riguarda la conformità normativa. Ora è il momento di fare un deciso passo avanti, e supportare queste aziende con implementazioni più profonde nei processi aziendali.

Anche per questo Red Hat ha acquisito Neural Magic, realtà nata nel MIT nel 2018 specializzata in software e algoritmi che accelerano i carichi di lavoro di inferenza dell’IA generativa.

Per quanto riguarda i modelli di IA utilizzati da Red Hat, la scelta è peculiare, ma coerente con l‘approccio dell’azienda. La scelta è ricaduta su vLLM, modello open source sviluppato da UC Berkeley, sul quale Neural Magic ha già maturato una grande competenza. Ma non è l’unico modello sul quale si appoggia Red Hat. “Abbiamo avviato una collaborazione con IBM, in particolare con i laboratori IBM, per portare sul mercato il loro modello chiamato Granite”, spiega Badani. “Hanno recentemente rilasciato una nuova versione di Granite, che stiamo rendendo disponibile come parte della nostra tecnologia di intelligenza artificiale. L'idea è garantire che vengano applicati principi open source, utilizzando una licenza permissiva Apache 2.0. In sostanza, stiamo rendendo open source anche le fonti di dati che stanno alla base del modello”.

L’obiettivo dichiarato è quello di democratizzare l’IA, rendendola accessibile a un numero crescente di imprese. “Ma anche permettere alle aziende di fascia enterprise di adottare l’IA contenendo i costi”, dice Badani. Sottolineando che il vantaggio di modelli come Granite 3.0 è che sono di dimensioni più contenute, quindi meno costosi da addestrare, che semplificano il fine tuning sulla base delle specifiche esigenze di ogni realtà.

L’approccio aperto di Red Hat nei confronti dell’IA non si limita ai modelli: la piattaforma OpenShift AI può infatti “girare” ovunque, sia in cloud sia on premise, lasciando così totale libertà di scelta ai clienti.

Il nodo delle competenze

Uno dei principali freni all’adozione dell’IA è rappresentato dalla difficoltà a reperire esperti in questo settore. Uno scoglio non solo per l’Italia, dove le aziende faticano a reperire persone dotate di competenze STEM evolute, ma anche nel resto del mondo. Che fare? “Facciamo un'analogia, usando ad esempio il cloud”, spiega Badani. “Quando il cloud è stato introdotto per la prima volta, se qualcuno avesse chiesto una persona con 10 anni di esperienza nel cloud, non sarebbe stato possibile trovarla, perché quella figura non esisteva ancora. Tutti si sono avvicinati al cloud provenendo da altri ambiti e poi hanno sviluppato competenze specifiche nel settore. Successivamente, ci siamo assicurati di formare le aziende per utilizzare meglio il cloud privato, il cloud ibrido e così via. Abbiamo aumentato la formazione non solo nelle aziende, ma anche nelle università, e col tempo il livello di competenze è cresciuto. Credo che stiamo per attraversare un processo simile con l'IA, forse a un ritmo ancora più rapido. L'IA ci aiuterà a diventare più competenti nell'uso dell'IA stessa, creando un ciclo auto-rinforzante. Vediamo già molti talenti emergere dalle università e applicarsi direttamente nell'IA. Una delle cose più affascinanti è la velocità con cui una ricerca accademica viene trasformata in una tecnologia, entrando in un modello o in una soluzione per i clienti. Questo ciclo si è notevolmente accelerato con l'IA, poiché molte delle sue radici affondano nel mondo accademico, che ha già un forte interesse nel settore”.  E aggiunge “Penso che aumenteremo ulteriormente la formazione e utilizzeremo l'IA per rendere più semplice per il cliente medio o l'utente comune utilizzare queste tecnologie. Tecniche come il prompt engineering, ad esempio, stanno facilitando l'accesso alla tecnologia per il consumatore medio, rendendolo più familiare e accessibile. Il vero potere dell'IA si realizzerà quando sarà completamente integrata: come si dice, 'la vera potenza della tecnologia si manifesta quando diventa indistinguibile dalla magia'. Quando l'IA sarà parte della vita quotidiana, integrata nei nostri dispositivi come gli iPhone o i Samsung, sarà allora che vedremo il suo pieno potenziale”.