IA agentica: la corsa all'implementazione corre più veloce della capacità di governare gli agenti. L'analisi di Economist Enterprise

La corsa all'intelligenza artificiale procede rapidamente. Sia da parte di chi sviluppa modelli e infrastrutture, sia da parte di chi la adotta. È un fenomeno che bene o male abbiamo visto con ogni nuova tecnologia dirompente. Questa volta, però, c'è un aspetto da non sottovalutare: a tutti gli effetti, nonostante gli enormi progressi, l'IA, in particolare quella agentica, non è ancora uno strumento perfetto, e lasciarla libera di agire può creare non pochi problemi, come del resto abbiamo visto di recente con il caso OpenAI/Hugging Face.

Un caso estremo, fortunatamente senza gravi conseguenze, ma che molto probabilmente è destinato a ripetersi: secondo la ricerca "Power without control: Rethinking cybersecurity for the age of agentic AI" di Economist Enterprise e supportata da Rubrik, infatti, le aziende stanno implementando agenti di IA troppo rapidamente, e non sono in grado né di controllarli né di ritornare ripristinare rapidamente i sistemi in caso di errori critici. 

La paura di rimanere indietro spinge le aziende a correre troppi rischi 

A quanto emerge dalla ricerca, il 98% delle imprese che hanno adottato l'IA agentica ha subito almeno un incidente significativo dovuto proprio a questa tecnologia. Nessuno, però, sembra interessato a rallentare.

Il punto è che la spinta di business a implementare nuovi agenti di IA è forte, ma i team di sicurezza non hanno le risorse per governare tutte queste entità. 

I manager non sono ignari: secondo l'analisi, il 90% è al corrente del problema, ma preferisce correre il rischio piuttosto che frenare sull'innovazione. Correndo rischi seri. Da sanzioni, anche molto pesanti, per non aver rispettato la conformità normativa a incidenti veri e propri, che rischiano di compromettere l'operatività dell'impresa. 

Dallo studio emerge inoltre che due terzi delle imprese non ha ancora piena visibilità sui propri agenti di IA e, soprattutto, non è in grado di reagire tempestivamente nel caso qualcosa vada storto. Solo il 30% delle aziende prese a campione dispone di capacità di rollback robuste e completamente testate, e il 43% riferisce che i propri processi di recovery non coprono tutti gli agenti o tutti i tipi di incidenti.

Come spiega Kavitha Mariappan, Chief Transformation Officer di Rubrik, "due terzi delle organizzazioni non possono dirvi cosa hanno fatto i loro agenti cinque minuti fa. Quando un incidente si sviluppa alla velocità delle macchine, questo non è un inconveniente, è la differenza tra contenimento e catastrofe. Stiamo implementando sistemi autonomi più velocemente di quanto stiamo costruendo i mezzi per comprenderli".

Cosa devono fare le aziende per tenere sotto controllo gli agenti di IA?

La ricerca individua tre capacità che distinguono le organizzazioni più resilienti da quelle destinate a incontrare maggiori difficoltà in caso di incidente.

La prima è l’osservabilità. Due organizzazioni su tre non hanno una visibilità completa sugli agenti in uso. Senza sapere quali attività stanno eseguendo e con quali effetti sui sistemi, rilevamento, contenimento e ripristino diventano inevitabilmente più complessi.

La seconda riguarda la velocità di risposta. Gli incidenti causati dagli agenti possono propagarsi in pochi minuti, riducendo drasticamente il tempo disponibile per intervenire. Eppure, solo il 30% delle organizzazioni dispone di procedure solide e già testate per bloccare o annullare le azioni dannose.

La terza è la verifica periodica dei piani di recovery. Definire una configurazione minima necessaria per mantenere operativa l’azienda non basta: tra il 73% delle organizzazioni che l’ha individuata, meno della metà la sottopone a test regolari. Il rischio è scoprire soltanto durante un incidente che le procedure previste non funzionano come previsto

“Per decenni, la cybersecurity si è concentrata sul tenere fuori le minacce esterne. L’AI agentica cambia fondamentalmente questo paradigma. Mentre il rischio si sposta all’interno delle organizzazioni, fortificare le mura non sostituisce il ripristino delle fondamenta”, spiega Vaibhav Sahgal, principal of technology di Economist Enterprise, che ha guidato il programma di ricerca. “La disruption deve ora essere data per scontata. I leader dovrebbero smettere di chiedersi come prevenirla e pensare invece quanto la loro organizzazione sia preparata a contenerne l’impatto e recuperare rapidamente quando si verifica".