Firewall for AI: così Akamai protegge l'IA aziendale

Come sempre accade, la tecnologia corre veloce. Spesso, più delle normative e della capacità di persone e aziende di comprenderne a pieno i rischi. Basti pensare a come ci si connetteva a Internet nei primi Anni 2000, quando ancora non si comprendevano a fondo i rischi della Rete. Lo stesso sta accadendo con l’IA, una tecnologia dirompente che sta rapidamente stravolgendo il modo di lavorare. Ma che, inevitabilmente, non è esente da rischi. Rischi di allucinazioni, come ben noto, ma anche più gravi, come il promp injection, che permettono a un malintenzionato di manipolare le risposte ai prompt, ottenendo anche accesso a dati riservati. O i più classici DoS, che rendono momentaneamente inaccessibili i sistemi di IA. Servono quindi soluzioni ad hoc per proteggere le infrastrutture di intelligenza artificiale e a tal proposito Akamai propone il suo Firewall for AI.

Le minacce all’IA: allucinazioni, prompt injection, DoS

I sistemi di IA aziendali contengono dati estremamente sensibili: elenchi di clienti, segreti industriali e procedure. Pensiamo, per esempio, all’impatto della fuga di dati di una clinica medica o di un ospedale. Ma anche delle email o dei documenti riservati di una qualsiasi azienda.

In teoria, queste informazioni dovrebbero essere accessibili solo a chi ne ha diritto, ma l’IA non è perfetta e in breve tempo sono stati trovati dei metodi, come il prompt injection, che permettono a un malintenzionato di manipolare le risposte ai prompt così da poter estrarre dati sensibili dai modelli. Per i team IT questo significa nuovo lavoro: oltre a proteggere le infrastrutture aziendali dagli accessi non autorizzati, ora hanno anche il compito di mettere in sicurezza i sistemi di IA. Il tutto senza creare conseguenze per gli utenti, fatto che rischierebbe di vanificare i vantaggi dell’adozione dell’intelligenza artificiale.

“Ogni innovazione progredisce attraverso un processo di maturazione della sicurezza. Basti pensare a come l’adozione del commercio digitale sia cresciuta rapidamente man mano che la fiducia in queste piattaforme aumentava grazie a migliori misure di protezione. Oggi non si esita a inserire i propri dati della carta di credito quando effettua un ordine online. Le organizzazioni possono favorire lo stesso livello di fiducia nell’intelligenza artificiale investendo in misure di sicurezza trasparenti per gli utenti ed efficaci nel bloccare le attività malevole, spiega Rupesh Chokshi, Senior Vice President e General Manager dell’Akamai's Application Security Portfolio. “Esistono due principali rischi legati all’uso dell’intelligenza artificiale nei sistemi aziendali. Il primo è il rischio di esporre dati sensibili a compromissioni da parte di malintenzionati abili nel manipolare l’IA. Il secondo riguarda la possibilità di alterare i large language model (LLM) che alimentano un’applicazione di intelligenza artificiale, con l’intento di generare risultati non intenzionali — e potenzialmente dannosi o fraudolenti”. Un esempio pratico citato da Chokshi è quello di Air Canada, che ha implementato un chatbot di IA per supportare i viaggiatori. Un’idea sicuramente utile, ma la sua implementazione è stata meno che perfetta: il chatbot, infatti, in certi casi proponeva sconti che all’atto pratico non erano disponibili. Questo ha causato un grave danno di reputazione per l’azienda, tanto che la questione è finita in tribunale, dove un giudice ha stabilito che Air Canada era responsabile delle risposte fornite dal suo sistema.

Firewall for AI, la soluzione di Akamai per mettere in sicurezza i sistemi di intelligenza artificiale

Per aiutare i team IT a garantire la sicurezza delle infrastrutture e delle applicazioni di IA, Akamai ha reso disponibile Firewall for AI, una soluzione di sicurezza in grado di proteggere i LLM, le applicazioni di IA e anche le API che consentono di accedere a infrastrutture di IA.

Come suggerisce il nome, la soluzione lavora proprio come se fosse un tradizionale firewall, con la differenza che agisce sui prompt: si infrappone fra le app di IA e gli LLM e analizza i prompt in entrata e in uscita, assicurandosi da un lato che non ci siano tentativi di manipolare il sistema, dall’altro che le risposte siano corrette e non espongano all’esterno informazioni sensibili o riservate. E bloccando tentativi di attacchi di tipo Denial of Service. Permette anche di bloccare contenuti inappropriati, come incitamento all'odio, informazioni errate e contenuti offensivi. Non solo: verifica anche che le risposte siano conformi agli standard normativi vigenti. In questa maniera, Firewall for AI può aiutare le organizzazioni a conformarsi alle linee guida su privacy, integrità e sicurezza. Applicando le policy di sicurezza specifiche dell'IA le aziende possono mitigare i rischi relativi alle normative in materia di protezione dei dati, ad un utilizzo etico dell'IA e agli obblighi di governance aziendale.

La soluzione opera su tre livelli:

• Monitoraggio: le minacce rilevate vengono registrate a scopo di analisi senza interferire con le domande o le risposte dell'IA.
• Modifica: gli output generati dall'IA vengono modificati, rimuovendo o alterando i contenuti non sicuri per mantenere un flusso naturale nella conversazione.
• Rifiuto: la soluzione impedisce agli input ad alto rischio di raggiungere il modello di IA e previene la ricezione di risposte non sicure da parte degli utenti.

Trasparenza, visibilità e aggiornamento continuo

Ogni azione eseguita da Firewall for AI viene tracciata e salvata in un archivio, permettendo così ai team IT di accedere a registri di verifica su tutti gli eventi trattati dalla soluzione. Informazioni preziose, che possono venire utilizzate per rilevare possibili anomalie, applicare policy più efficaci, se necessario, e di generare automaticamente i rapporti sulla conformità normativa. Firewall for AI viene alimentato coi dati acquisiti dall’intelligence globale di Akamai e si aggiorna costantemente, tenendo conto delle nuove minacce che potrebbero mettere in crisi i sistemi di IA.

Attualmente può essere integrato in tre modi: sull’edge di Akamai, facendo leva sull’infrastruttura a bassa latenza di Akamai, oppure tramite API REST, scansionando costantemente gli input e gli otuput dell’IA che transitano tramite API. In futuro, Akamai garantirà anche la possibilità di implementare un proxy inverso: con questo approccio, tutto il traffico relativo all’IA verrà instradato su un proxy sicuro di Akamai, così da consentire ai team IT operazioni di ispezione e filtraggio più approfondite.

La soluzione di Akamai offre non solo uno scudo contro le minacce informatiche, ma anche una protezione contro gli errori che può generare l’IA. Oltre a facilitare le operazioni per garantire che i sistemi di IA aziendali siano conformi alle ultime normative sul tema, sia in Italia sia nel resto del mondo, un tema da non sottovalutare, in particolare in Europa, dove le leggi sull’IA  sono fra le più stringenti.