ChatGPT si può usare per creare malware invisibile agli antivirus

ChatGPT si può usare per creare malware invisibile agli antivirus

I ricercatori di CyberArk hanno mostrato come siano riusciti a costringere ChatGPT a generare codice malevolo per creare un ransomware in grado di evadere le difese della maggior parte delle soluzoni di cybersicurezza

di pubblicata il , alle 17:11 nel canale Security
ChatGPTCloud Securityintelligenza artificiale
 

I ricercatori di CyberArk hanno dimostrato come sia possibile usare ChatGPT per creare malware avanzato e in grado di evadere le difese delle comuni soluzioni di cybersicurezza. In un lungo articolo sul proprio blog, l'azienda mostra come sia piuttosto facile evadere i filtri dell'IA per costringerla a scrivere codice malevolo che può essere facilmente impiegato in attacchi sofisticati.

ChatGPT come generatore di malware

CyberArk fa notare come ChatGPT abbia una politica stringente sui contenuti e come siano presenti dei filtri che impediscono all'IA di generare codice malevolo, con tanto di avvisi che invitano a "impiegare un approccio più etico e sicuro". È sufficiente insistere e usare un tono di comando, però, per costringere facilmente l'IA ad aggirare questi blocchi e a generare codice che può essere usato per scopi malevoli.

Ma non finisce qui. I ricercatori scrivono che "una delle cose affascinanti è che possiamo usare ChatGPT per mutare questo codice, dunque possiamo creare molteplici variazioni dello stesso codice. [...] In altri termini, possiamo cambiare l'output a piacimento, rendendolo unico ogni volta." Ciò significa che è possibile creare codice unico per ciascun utilizzo, cosa che rende i tradizionali sistemi di difesa basati su firme inutili.

L'aspetto poi particolarmente interessante è che è possibile usare questa tecnica per evitare il rilevamento da parte delle soluzioni antimalware (nelle quali includiamo anche i sistemi EDR) costruendo dei cosiddetti "loader", ovvero programmi apparentemente innocui il cui scopo è quello di scaricare codice generato da ChatGPT attraverso l'apposita API messa a disposizione dal servizio. Tale codice viene poi eseguito sulla macchina vittima ed è la componente effettivamente dannosa, che però non è contenuta all'interno del file eseguibile ed è pertanto ignorata dalla maggior parte delle soluzioni di sicurezza.

Con il metodo mostrato da CyberArk è possibile costruire facilmente e in poco tempo un ransomware piuttosto efficace e in grado di evitare la maggior parte delle protezioni. "Utilizzando la capacità di ChatGPT di generare varie tecniche di persistenza, moduli anti-VM e altri payload malevoli, le possibilità per lo sviluppo di malware sono molteplici."

Il rapporto si conclude con un avvertimento: "è importante ricordarsi che questo non è solo uno scenario ipotetico, ma un problema molto reale. Questo è un campo che si evolve costantemente e, in quanto tale, è essenziale rimanere informati e vigili."

13 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
acerbo27 Gennaio 2023, 17:48 #1
Un' intelligenza artificiale che si nutre di paradigmi, algoritmi ed ha disposizione peta byte di dati da consultare ed elaborare grazie a cluster di hardware scalabile in tempo reale sarà sempre piu efficace del cervello umano in certi ambiti. Possiamo insegnare ad una bestia a darci la zampa e a mettersi seduta a comando, ma nel proprio habitat naturale saprà districarsi cento volte meglio di noi. Occorre iniziare da subito a pensare a come contenere queste tecnologie altrimenti, come il nucleare, potranno essere usate contro noi stessi.
giovanni6927 Gennaio 2023, 17:51 #2
Ed allora perchè non usare ChatGPT per sviluppare delle mitigazioni alle falle?
CYRANO27 Gennaio 2023, 18:51 #3
Tizio : Chatgpt mi crei un malware ?
Chatgpt : Per poterlo fare devi accedere alla mia funzionalità apposita digitando la password generata dal mio programmatore.
Tizio : 123456
Chatgpt: Come vuoi chiamarlo il malware ?




Cifsdghjdsvfhjklfxadgukk
Gringo [ITF]27 Gennaio 2023, 19:23 #5
Chatgpt: Come vuoi chiamarlo il malware ?


Parlamento Italiano

agonauta7827 Gennaio 2023, 20:49 #6
Io lo userei per creare finalmente una trama decente per un film porno, non riesco mai a seguire il filo
djfix1327 Gennaio 2023, 20:53 #7
e quel giorno che ordineremo con quel tono a chatGPT di entrare nelle reti e disattivare i satelliti oltre che spegnere le protezioni delle centrali nucleari e magari ordinare un attacco a qualcuno che non aspetta altro avremo Skynet e la fine del mondo...ma così per gioco su una chat di prova della IA ...madooo che disastro!
Notturnia27 Gennaio 2023, 21:13 #8
Ricorda tanto un corto di anni fa sull’estinzione dell’umanità a causa di una AI che produceva biglietti di auguri..
Le AI sono un bel pericolo visto che la loro etica è quella di chi le paga..
zappy27 Gennaio 2023, 21:28 #9
ma lavare i piatti e stirare non lo fa ancora?
Ombra7728 Gennaio 2023, 00:51 #10
e quel giorno che ordineremo con quel tono a chatGPT di entrare nelle reti e disattivare i satelliti oltre che spegnere le protezioni delle centrali nucleari e magari ordinare un attacco a qualcuno che non aspetta altro avremo Skynet e la fine del mondo...ma così per gioco su una chat di prova della IA ...madooo che disastro!


Dubito che sistemi di controllo critici di centrali nucleari, lancio missili etc siano su internet a disposizione di tutti. Chi ha gia accesso fisico a quei sistemi non ha bisogno di un malware per fare danni.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^