L'IA cambia tutte le regole della sicurezza tra vulnerabilità e sorveglianza. Intervista al CEO di Proofpoint

L'intelligenza artificiale sta portando moltissimi cambiamenti e quelli più evidenti sono forse nel settore della sicurezza informatica, dove l'IA viene usata per trovare vulnerabilità e bug a una velocità mai vista prima. Capire in quale direzione andare e come rispondere a questi cambiamenti non è facile e richiederà uno sforzo congiunto da parte di tutte le realtà coinvolte. Sarà sempre più importante affidarsi a partner fidati, così come proteggere le IA dagli attacchi, secondo quanto ci ha detto Sumit Dhawan, CEO di Proofpoint, in un'intervista in esclusiva.

La protezione da, per e con le IA

"In Proofpoint abbiamo dovuto adottare i modelli linguistici perché i criminali possono usare ChatGPT per riscrivere il testo delle email di phishing e gli strumenti tradizionali diventano inutili." Così ci dice Dhawan sintetizzando le sfide cui si trovano di fronte le aziende che devono difenderci dagli attacchi dei cybercriminali: l'evoluzione data dalle IA è tale per cui bisogna reinventare l'approccio alla difesa.

Non è necessariamente un dato negativo: "ci sono molte attività che restano incentrate sulle persone, come il red teaming [le simulazioni in cui gli esperti di sicurezza simulano un attacco per verificare la preparazione dei lavoratori e le difese dei sistemi, NdR], ma altre possono essere fatte da degli agenti di IA: controllare gli allarmi, verificare lo stato dei sistemi, dividere gli avvisi che arrivano nel sistema... Sono tutte cose che verranno fatte da squadre di agenti, che offriranno protezione dalle varie minacce. In questo modo i professionisti della sicurezza potranno avere più tempo per dedicarsi alla governance della protezione dei dati, degli agenti stessi e dello sviluppo del software."

Dhawan anticipa quasi la nostra domanda, che sorge spontanea: dato che saranno gli agenti a proteggere i sistemi, chi sarà a proteggere a loro volta questi agenti dagli attacchi? O, per citare Giovenale: quis custodes ipsos custodiet? "Questo è un problema che esiste già oggi con i sistemi SaaS, ma diventa ancora più grande con l'IA", dice Dhawan. "Secondo me, questo è il punto in cui affidarsi a pochi partner strategici diventa fondamentale. Ad esempio, la sicurezza di rete sarà di Palo Alto [Networks], mentre quella delle email di Proofpoint; queste aziende saranno responsabili di fornire le informazioni corrette per dimostrare che il loro software è sicuro."

C'è, però, un rischio parallelo e quasi invisibile nell'avere agenti di IA che sorvegliano tutto in ogni momento, ed è quello di un eccessivo livello di sorveglianza. Ciò è vero in particolare quando le IA vengono usate per monitorare le comunicazioni da parte dei dipendenti, ad esempio per prevenire attacchi dall'interno o furti di proprietà intellettuale e dati. Trovare il giusto equilibrio è complesso e, secondo Dhawan, non deve necessariamente finire in uno scenario alla 1984. "Si tratta di trovare dei segnali che potenzialmente indichino un'attività malevola. Si creano dei profili-tipo dei lavoratori e si inseriscono le persone in queste categorie in base al livello di rischio. A quel punto si attivano controlli o attività di addestramento. Ma la sorveglianza non è l'unica cosa a cui si può pensare per ridurre il rischio interno: ad esempio, se vedi che un neo-assunto va a spulciare del codice sorgente che non dovrebbe guardare, puoi intervenire in molti modi che non sono necessariamente sorvegliare questa persona."

Secondo Dhawan, il punto è raccogliere segnali dall'ambiente e avere dei profili di rischio, e intervenire in base a questi. "Bisogna pensarlo come a un controllo del rischio, anziché come semplice sorveglianza", ci dice Dhawan. Il che, però, non toglie il fatto che raccogliere tali segnali e creare tali profili può essere particolarmente invasivo - e, anzi, può essere considerato lesivo della privacy in certi casi. Per questo sono importanti le leggi che regolamentano questi aspetti.

In generale, Dhawan afferma che "bisogna passare a un modello di governance, tanto per le persone quanto per le IA. Bisogna innanzitutto sapere quali strumenti di IA vengono usati in azienda, dopodiché li si può gestire e non si è ciechi rispetto a cosa accade. Con le persone è la stessa cosa, si può gestire e restringere l'accesso alle informazioni. Il fatto è che si usano controlli per verificare che le persone non si comportino senza integrità morale, ma il problema con l'IA è che non ha morale o virtù e, quindi, bisogna imporre dei controlli."

Il problema delle vulnerabilità

Claude Mythos ha cambiato le regole del gioco quando si parla di scovare le vulnerabilità nel codice, e gli altri modelli di punta non sono affatto distanti. Il problema è che si trovano sempre più falle a un ritmo sempre più veloce e ciò non avviene solo da parte dei ricercatori di sicurezza e degli sviluppatori, ma anche da parte dei criminali. Che riescono, quindi, a portare avanti sempre più attacchi per i quali non ci sono difese. Come si può rispondere a questo cambiamento completo di paradigma?

"L'IA ha reso possibile creare degli attacchi più velocemente rispetto alla creazione delle patch. In altri termini, dobbiamo dimenticarci le patch. Cosa fare? Si possono inserire controlli e limitazioni, ma il numero di vulnerabilità continua a crescere e non smetterà nel futuro prossimo", afferma Dhawan.

Le cose da fare sono dunque due: la prima è quella di essere i più veloci ad applicare le patch, il che significa cambiare il modo in cui si gestiscono i sistemi. "Ridurrà questa distanza [tra gli attacchi e la disponibilità delle patch], ma non la annullerà." Nel frattempo, dunque, la seconda cosa da fare è proteggere le persone: secondo Dhawan, gli attacchi riescono a essere efficaci perché sfruttano le persone come punto debole tramite il quale penetrare le difese aziendali.

"Ci sono solo due modi in cui i criminali possono entrare: tramite le persone o tramite l'IA. Se invii un'email, la può leggere una persona o Copilot, e così comprometti il sistema. E quindi le soluzioni di sicurezza devono estendere la protezione anche all'IA", ci dice Dhawan. "Puoi avere le migliori conoscenze sugli attacchi in corso, puoi conoscere le vulnerabilità nel tuo software, puoi proteggere gli endpoint, ma a quel punto sono le persone a poter essere compromesse. Ecco perché c'è bisogno di proteggere le email."

Ci sarà comunque bisogno di un cambiamento a livello di sistema: "ci sarà meno da fare a livello aziendale e di più a livello di cloud e fornitori del software, perché è impossibile tenere il passo [come fruitori di software e servizi]. C'è anche bisogno di una migliore governance: sono davvero poche le aziende che ne hanno una buona. In un certo senso, [questo cambiamento] mette in discussione ogni aspetto di come viene gestita la sicurezza. È per questo che non credo che sia un problema banale e ci vorrà del tempo per risolverlo."

Ma nel frattempo bisogna continuare a proteggersi. "La protezione arriva dalla prevenzione, e la prevenzione è sempre arrivata dalle informazioni di intelligence sugli attacchi. Bisogna cambiare tutte le regole - verifica delle identità, sviluppo del codice, ciclo di vita del software, cloud vs on-premise, e così via." Si prevede burrasca. Allacciate le cinture.