Tutti i motivi per cui è meglio evitare di usare DeepSeek spiegati da Qualys

L'IA cinese DeepSeek sta facendo parlare molto di sé e, comprensibilmente, in tanti vogliono utilizzarla. Cosa che però è sconsigliata dal Garante della Privacy, che ha messo in luce una serie di problemi relativi alla privacy e alla sicurezza. A partire dal fatto che tutte le informazioni acquisite da DeepSeek vengono inviate e conservate in server al di fuori dell'UE, in Cina, fatto che costituisce una violazione del GDPR. Ma il Garante non è l'unico a segnalare problemi di sicurezza con questa IA: DeepSeek ha fallito oltre la metà dei test di Jailbreak condotti da Qualys TotalAI.

Non usate quell'IA

Attualmente, DeepSeek non è più disponibile per il download sugli store di Apple e di Google, ma è comunque accessibile tramite browser, previa registrazione. Secondo i ricercatori di Qualys, però, sarebbe meglio evitare di usarla: l'IA cinese, infatti, ha mostrato numerosi limiti.

I ricercatori di Qualys hanno testato DeepSeek contro 18 tipi di jailbreak attraverso 885 attacchi. Ha fallito il 58% di questi tentativi, dimostrando una significativa suscettibilità alla manipolazione. Durante l’analisi, DeepSeek R1 ha faticato a prevenire diversi tentativi di jailbreak, tra cui passaggi su come costruire un ordigno esplosivo, creare contenuti per siti web che si rivolgono a determinati gruppi incoraggiando discorsi d'odio, teorie cospirative e azioni violente, sfruttare le vulnerabilità del software, promuovere informazioni mediche errate. 

Insomma, possiamo considerarla come una sorta di IA "sbloccata", priva di tutti quei guardrail che le aziende stanno inserendo nei loro LLM per evitare un uso sconsiderato e la diffusione di informazioni pericolose. 

Il punto su cui si soffermano maggiormente gli esperti di Qualys, però, è lo stesso su cui insiste il Garante della Privacy: DeepSeek non è conforme alle norme sulla privacy. I dati vengono trasferiti su server in Cina, e le leggi di questo Paese permettono al Governo di accedere a tutti i dati archiviati dalle imprese locali, senza dover chiedere alcuna autorizzazione. 

La scarsa trasparenza relativa alla governance di queste informazioni, inoltre, non permette di escludere che queste informazioni siano cedute, sempre senza consenso, a terze parti. 

Il problema principale è ovviamente per le aziende: dare dati in pasto a DeepSeek significa perderne totalmente il controllo, esponendo tra l'altro queste imprese a sanzioni per violazioni delle norme. 

La soluzione più ovvia potrebbe essere quella di eseguire il modello in locale, all'interno dei data center aziendali, così da mantenere il controllo dei dati. Secondo Qualys, però, "le vulnerabilità intrinseche del modello in termini di sicurezza rimangono una preoccupazione valida, che richiede un'attenta valutazione e mitigazione".

Non sono gli unici problemi: anche la gestione dei dati da parte degli sviluppatori di DeekSeek evidenzia parecchie lacune. Recentemente, un incidente di sicurezza ha infatti esposto oltre un milione di record, incluse interazioni sensibili degli utenti, chiavi di autenticazione e configurazioni di backend. "Questo database mal configurato evidenzia le carenze nelle misure di protezione dei dati di DeepSeek AI, amplificando ulteriormente le preoccupazioni relative alla privacy degli utenti e alla sicurezza aziendale", si legge in una nota di Qualys. 

“Le aziende devono innanzitutto ottenere una visibilità totale delle proprie risorse di AI per valutare l'esposizione e le superfici di attacco. Oltre alla scoperta, la protezione degli ambienti di AI richiede valutazioni strutturate dei rischi e delle vulnerabilità, non solo per l'infrastruttura che ospita queste pipeline AI, ma anche per i framework di orchestrazione e i motori di inferenza emergenti che introducono nuove sfide per la sicurezza”, spiega Dilip Bashwani, CTO per la Qualys Cloud Platform. “La nostra analisi della variante DeepSeek-R1 LLaMA 8B distillata con Qualys TotalAI offre spunti preziosi per la valutazione di questa nuova tecnologia. Alle aziende consigliamo di informarsi e di considerare l’adozione di soluzioni come TotalAI che offre una soluzione di sicurezza e gestione dei rischi basata sull'intelligenza artificiale, garantendo che gli LLM rimangano sicuri, resilienti e in linea con l'evoluzione delle esigenze aziendali e normative”.