L'IA privata è la soluzione, dice Broadcom. Ci sono molti "ma"

L'IA privata consente alle aziende di superare molte delle criticità legate all'adozione dell'IA, secondo Joe Baguley, CTO a livello EMEA per Broadcom, che sta spingendo molto proprio sul concetto di "IA privata". "Poiché incoraggia l’archiviazione e la conservazione dei dati a livello locale, sostiene la crescita economica e dà flessibilità rispetto ai quadri normativi in evoluzione, l'IA privata consente alle aziende di adottare tecnologie di intelligenza artificiale all’avanguardia senza compromettere la privacy, la scelta o il controllo", dice Baguley. Cerchiamo di capire perché.

Mantenere il controllo dei dati nell'era dell'IA

Broadcom definisce "IA privata" come "sistemi d'intelligenza artificiale che sono sviluppati, messi in opera e gestiti all'interno dell'infrastruttura di proprietà di un'organizzazione o in un ambiente sicuro. Consente alle aziende di trarre vantaggio delle abilità dell'IA mantenendo i dati sensibili privati e mantenendo il pieno controllo sulla loro elaborazione e archiviazione." Si tratta, effettuando una semplificazione, di IA eseguita "on premise", anziché all'interno del cloud pubblico come spesso avviene.

Baguley scrive che "il panorama dell’IA è dinamico e in rapida espansione, con l’emergere costante di nuovi fornitori di tecnologia. L'IA privata offre alle aziende un’infrastruttura flessibile e modulare che impedisce il vendor lock-in e garantisce la compatibilità continua con le tecnologie in evoluzione. [...] La narrazione prevalente che l’implementazione dell’IA richieda un’infrastruttura cloud pubblica significativa ha creato inutili paure ed esitazioni tra le aziende che intendono sfruttare tecnologie avanzate. Molti mi hanno chiesto: perché dovremmo investire tempo e denaro in tecnologie di IA ospitate nel cloud pubblico, solo per sentirci dire da un ente regolatore o da un cloud provider al di fuori del mio Paese o della mia regione che devo improvvisamente cambiare tattica? La risposta è semplice: non dovreste, ed è qui che entra in gioco l'IA privata. I modelli d'IA privata sono intrinsecamente adattabili e integrano le considerazioni normative globali direttamente nella loro architettura di base."

Il modello dell'IA eseguita all'interno dell'infrastruttura dell'azienda, con quest'ultima che conserva dunque il pieno controllo sia dell'applicazione sia dei dati, è sicuramente attraente e va a eliminare moltissime delle criticità evidenziate da Baguley. Il fatto che moltissimi modelli linguistici siano open source e utilizzabili liberamente amplia ulteriormente le possibilità d'impiego e rende davvero possibile creare un'infrastruttura propria e su cui si può mantenere il pieno controllo.

"Funzionalità come la programmazione avanzata delle risorse e la gestione della memoria consentono l’allocazione dinamica delle risorse GPU e hardware tra attività di produzione e di ricerca, così da garantire prestazioni ottimali e mantenere i costi sotto controllo. Questa flessibilità consente alle aziende di espandere le proprie capacità di AI senza dover investire in hardware aggiuntivo."

Proprio questo punto è, però, quello che porta a fare qualche considerazione in più sulla fattibilità dell'implementazione dell'IA privata. Se è vero che è possibile eseguire modelli d'IA in locale, anche sul proprio computer personale, per eseguire modelli d'IA di grandi dimensioni su scala aziendale è necessario dotarsi d'una infrastruttura significativa e al di fuori della portata di moltissime aziende. Non solo: dato che Baguley parla di "attività di ricerca", è presumibile si parli anche di addestramento dei modelli, fatto che richiede ulteriori (ingenti) risorse in termini sia di elaborazione sia di archiviazione dei dati.

C'è anche un ulteriore aspetto da considerare, ed è la carenza delle competenze per gestire l'IA sulla propria infrastruttura. Se i fornitori di servizi di cloud pubblico offrono spesso la possibilità di sfruttare modelli d'IA senza quasi dover avere competenze specifiche, così non è invece per quanto riguarda modelli ospitati sull'infrastruttura aziendale. È infatti necessario avere internamente le competenze per gestire tali applicazioni dall'inizio alla fine e, com'è noto, trovare tali competenze sul mercato è particolarmente complesso (e lo è indipendentemente dal Paese di riferimento, dunque non solo in Italia).

L'IA privata: una soluzione a tutti i mali?

Il modello proposto da Baguley è pertanto realistico solo per una limitata quantità di realtà, in grado di effettuare gli investimenti necessari per dotarsi dell'infrastruttura per supportare le proprie applicazioni d'IA. Solo le realtà più grandi possono fare investimenti simili e, quindi, le considerazioni di Baguley risultano giuste e corrette, ma applicabili a un numero molto limitato di casi.

Le cose potrebbero, però, cambiare. Come abbiamo visto con modelli "distillati" come quello proposto da DeepSeek, è possibile eseguire modelli di una certa complessità anche su hardware di livello modesto. Questo aspetto non fa venire meno la necessità di competenze specifiche, ma riduce l'onere di acquisizione e gestione dell'hardware. La possibile evoluzione dei modelli, con un'auspicabile miniaturizzazione e maggiore efficienza, potrebbe dunque portare a un futuro in cui quanto proposto da Baguley sarà effettivamente applicabile alla realtà; al momento attuale, tuttavia, l'IA privata resta una possibilità solo per pochissimi. Il che fa rimanere i problemi di gestione dei dati e di vendor lock-in citati da Baguley molto reali per tutti gli altri.