Con l'IA agentica cambia tutto. E aumentano i rischi. Il punto di Trend Micro

Gli agenti di IA sono fra noi. Merito anche della nuova funzionalità di ChatGPT, che mette a disposizione di tutti degli agenti in grado di agire (anche se con parecchi limiti, al momento). Parliamo di funzionalità che sino a ora erano accessibili prevalentemente alle aziende, con agenti integrati nelle suite come quelle di SAP, Microsoft e altri grandi attori del mondo tecnologico. 

Ora che gli agenti sono stati democratizzati, rimane però un punto: la sicurezza, un tema che Trend Micro mette in primo piano. "Non si tratta più solo di un'IA che risponde alle nostre domande. È un'IA che agisce al posto nostro, e questo cambia tutto”, afferma Salvatore Marcis, Country Manager di Trend Micro Italia. “Dalla prompt injection alla “consent fatigue” e agli exploit cross-app, la superficie di attacco è ora più personale, più integrata e più critica che mai”.

Agenti di IA e sicurezza: come conciliare le due cose?

Avere un'IA che non si limita a suggerirci risposte ma che è in grado di eseguire azioni al conto nostro (come prenotare un viaggio, acquistare i biglietti a un concerto, compilare dei form) è comodissimo. Ma possiamo fidarci? 

Secondo Trend Micro, è meglio fare molta attenzione, non soltanto ai limiti intrinseci alla tecnologia (a partire dalle allucinazioni), ma anche ad altri aspetti. Come il rischio di manipolazione, che aumenta esponenzialmente se la supervisione umana è più limitata e l'agente opera in autonomia. Non solo: secondo l'azienda, anche le tecniche di promp injection possono diventare più pericolose di prima, dato che gli attaccanti potrebbero nascondere comandi dannosi nelle pagine web o nelle app a cui l'agente accede, inducendolo a compiere azioni malevole senza che l’utente ne sia consapevole.

Qualcuno potrebbe obiettare che, al momento, prima di eseguire azioni chiave, come confermare eventuali acquisti, gli agenti chiedono un'autorizzazione all'utente. Ma questo apre la via a un altro problema, che Trend Micro definisce consent fatigue: a forza di venire bombardati di segnalazione e conferme, gli utenti potrebbero abbassare il livello di guardia, aprendo la via ai malintenzionati. 

Infine, non vanno dimenticati i potenziali problemi per la privacy: gli agenti apprendono nel tempo, registrando i comportamenti e le preferenze degli utenti. Se compromessi, potrebbero divulgare informazioni sensibili, come appuntamenti del calendario o dati e credenziali di accesso a sistemi e piattaforme integrate.

Come spiega Marcis, “L’Agentic AI sposta l’equilibrio tra vantaggi e controllo. Senza una supervisione adeguata, quello che sulla carta è un utile assistente può trasformarsi rapidamente in un ponte pericoloso verso attacchi mirati contro l’infrastruttura aziendale". 

Come reagire: i consigli di Trend Micro

Come conciliare la comodità e l'efficienza degli agenti di IA con le necessità di sicurezza e controllo? Secondo Trend Micro, sono quattro gli aspetti di cui tenere conto: 

• definire e implementare rigidi confini di autorizzazione per le IA che interagiscono su più sistemi;
• fare un attento monitoraggio per intercettare i possibili segni di prompt manipulation e comportamenti anomali;
• educare i dipendenti sui limiti dell’autonomia dell’IA e reintrodurre dei checkpoint umani nel ciclo;
• adottare strategie di gestione della superficie d’attacco dell’IA all’interno di un più ampio piano di protezione dal rischio cyber.