ChatGPT si può usare per creare malware invisibile agli antivirus

I ricercatori di CyberArk hanno dimostrato come sia possibile usare ChatGPT per creare malware avanzato e in grado di evadere le difese delle comuni soluzioni di cybersicurezza. In un lungo articolo sul proprio blog, l'azienda mostra come sia piuttosto facile evadere i filtri dell'IA per costringerla a scrivere codice malevolo che può essere facilmente impiegato in attacchi sofisticati.

ChatGPT come generatore di malware

CyberArk fa notare come ChatGPT abbia una politica stringente sui contenuti e come siano presenti dei filtri che impediscono all'IA di generare codice malevolo, con tanto di avvisi che invitano a "impiegare un approccio più etico e sicuro". È sufficiente insistere e usare un tono di comando, però, per costringere facilmente l'IA ad aggirare questi blocchi e a generare codice che può essere usato per scopi malevoli.

Ma non finisce qui. I ricercatori scrivono che "una delle cose affascinanti è che possiamo usare ChatGPT per mutare questo codice, dunque possiamo creare molteplici variazioni dello stesso codice. [...] In altri termini, possiamo cambiare l'output a piacimento, rendendolo unico ogni volta." Ciò significa che è possibile creare codice unico per ciascun utilizzo, cosa che rende i tradizionali sistemi di difesa basati su firme inutili.

L'aspetto poi particolarmente interessante è che è possibile usare questa tecnica per evitare il rilevamento da parte delle soluzioni antimalware (nelle quali includiamo anche i sistemi EDR) costruendo dei cosiddetti "loader", ovvero programmi apparentemente innocui il cui scopo è quello di scaricare codice generato da ChatGPT attraverso l'apposita API messa a disposizione dal servizio. Tale codice viene poi eseguito sulla macchina vittima ed è la componente effettivamente dannosa, che però non è contenuta all'interno del file eseguibile ed è pertanto ignorata dalla maggior parte delle soluzioni di sicurezza.

Con il metodo mostrato da CyberArk è possibile costruire facilmente e in poco tempo un ransomware piuttosto efficace e in grado di evitare la maggior parte delle protezioni. "Utilizzando la capacità di ChatGPT di generare varie tecniche di persistenza, moduli anti-VM e altri payload malevoli, le possibilità per lo sviluppo di malware sono molteplici."

Il rapporto si conclude con un avvertimento: "è importante ricordarsi che questo non è solo uno scenario ipotetico, ma un problema molto reale. Questo è un campo che si evolve costantemente e, in quanto tale, è essenziale rimanere informati e vigili."