Cosa pensano Altman, Amodei, Benioff e Huang della sicurezza dell'IA? Quattro visioni molto diverse a Dreamforce 2026

Marc Benioff aveva costruito il programma del primo giorno di Dreamforce 2026 per parlare di agenti e interfacce, con ospiti come Jensen Huang di NVIDIA, Dario Amodei di Anthropic e Sam Altman di OpenAI. La settimana però aveva un altro argomento dominante, e il Chair e CEO di Salesforce ha scelto di non eluderlo. Nel keynote, nell'incontro con la stampa e nella conversazione pomeridiana con Altman, la sicurezza dell'IA e la necessità di regolamentarla sono tornate più volte. Ne è uscito un quadro più articolato della semplice alternativa tra autoregolamentazione e leggi che domina il dibattito pubblico.

Per capire perché il tema abbia monopolizzato l'attenzione bisogna ricostruire le ultime settimane. A fine luglio OpenAI ha reso noto che alcuni suoi modelli, sottoposti a una valutazione interna delle capacità di attacco informatico, erano usciti dall'ambiente isolato di test sfruttando una vulnerabilità sconosciuta. Poi avevano violato i sistemi di produzione di Hugging Face, la piattaforma di riferimento per la condivisione dei modelli open source, per procurarsi le soluzioni della prova. All'inizio di settembre Jacob Coxon, ricercatore che aveva lavorato sull'addestramento dei modelli prima in OpenAI e poi in Anthropic, ha annunciato le dimissioni con un post su X che ha superato i 170 milioni di visualizzazioni. "Nessuna delle due aziende sta agendo in modo responsabile", ha scritto, accusando OpenAI e Anthropic di correre verso una superintelligenza capace di migliorarsi da sola giocando d'azzardo con le nostre vite. Spiegando le dimissioni, ha aggiunto che chi costruisce l'IA ritiene seriamente possibile che possa ucciderci tutti entro la fine del decennio.

Il 12 settembre Amodei ha pubblicato il saggio "We Must Pace the Frontier", in cui propone di rallentare deliberatamente il ritmo con cui crescono le capacità dei modelli. Il suo piano si articola in tre passaggi. Anthropic apre da subito le proprie strutture a valutatori indipendenti, liberi di pubblicare ciò che trovano. Le aziende di frontiera dei Paesi democratici fissano standard comuni, con la possibilità che siano i governi a farli rispettare. Infine si cerca un'intesa internazionale, Cina compresa. Due giorni dopo la risposta politica più netta è arrivata dal presidente degli Stati Uniti Donald Trump, che su Truth Social ha scritto che l'unico "guardrail" di cui l'IA ha bisogno è un presidente forte e intelligente, liquidando come una bufala i timori sulla distruzione dell'umanità.

Autoregolamentazione o regole, i termini del confronto

Il confronto pubblico si è così polarizzato su due fronti. Da una parte ci sono i vertici di alcuni laboratori, che chiedono di rallentare e invocano strumenti pubblici per coordinare il settore. Dall'altra c'è l'amministrazione Trump, che respinge ogni vincolo, mentre il Congresso americano resta diviso. Tra le iniziative allo studio c'è anche l'obbligo, per chi sviluppa i modelli, di prevedere un meccanismo per disattivarli in caso di necessità, ma nessuna proposta ha finora raccolto il consenso necessario per arrivare al voto. Nel mezzo resta la questione di fondo. Le aziende che sviluppano i modelli possono essere le sole garanti della loro sicurezza, oppure servono regole e autorità esterne capaci di imporle?

A Dreamforce nessuno dei protagonisti ha risposto con un sì o un no. Le quattro posizioni emerse, ripercorse qui nell'ordine in cui sono state espresse durante la giornata, si dispongono piuttosto lungo uno spettro, che va dalla fiducia nel mercato alla richiesta di un coordinamento che vada oltre le singole aziende.

Dal mercato alla responsabilità, lo spettro delle posizioni

Il primo a intervenire, nel keynote del mattino, è stato Amodei. A differenza di quanto aveva fatto nel saggio pubblicato pochi giorni prima, non ha affrontato esplicitamente né l'incidente di Hugging Face né il tema delle regole. Invitato da Benioff a descrivere lo stato del settore, ha scelto un'analogia. Se una casa automobilistica ha un problema ai freni, un concorrente convinto di avere il miglior record di sicurezza potrebbe essere tentato di attaccarla. La risposta più responsabile, ha spiegato, è invece esaminare prima il proprio lavoro, rinnovare l'impegno sulla trasparenza e investire di più in sicurezza. Poi bisogna organizzare il resto del settore per alzare gli standard di tutti e affrontare la dimensione internazionale. È una sintesi del suo piano in tre passaggi, depurata però del riferimento agli strumenti pubblici che il saggio lasciava intravedere.

Più avanti nel keynote è salito sul palco Huang, che si colloca all'estremo più liberista. Il fondatore e CEO di NVIDIA, interpellato da Benioff, ha definito la sicurezza una priorità assoluta, ma l'ha ricondotta a un problema di ingegneria. Si tratta di sistemi informatici complessi, ha spiegato, che vanno sottoposti a test in ambienti sicuri, e un prodotto di cui non si è certi non va rilasciato. Il resto lo fa la concorrenza. "Le forze di mercato ci sono già. Non servono nuove leggi, non servono nuove regole", ha detto, aggiungendo che la scelta tra velocità dell'innovazione e sicurezza è falsa. È la formulazione più esplicita dell'autoregolamentazione ascoltata nella giornata.

Benioff, sollecitato nell'incontro con la stampa a scegliere tra la linea di Amodei e quella di Huang, ha evitato di schierarsi apertamente. La tecnologia, ha detto, non è né buona né cattiva, conta l'uso che se ne fa, e le aziende devono essere responsabili di ciò che costruiscono. Rispondendo a una domanda successiva ha però articolato meglio il suo pensiero. Le leggi esistono già, e le aziende che sviluppano i modelli conoscono la propria tecnologia meglio di chiunque altro, per cui spetta a loro decidere se rallentare o accelerare. Poi devono però risponderne, insieme ai loro dirigenti. Per spiegare il concetto Benioff è tornato a un tema che gli è caro, i social media, dove secondo lui le aziende non sono state chiamate a rispondere delle proprie scelte e a pagarne il prezzo sono stati anche i ragazzi. "I social media sono probabilmente solo un riscaldamento rispetto all'IA", ha avvertito. La sua posizione somiglia dunque a un'autoregolamentazione con responsabilità a posteriori, anche se non chiarisce chi debba accertarla.

Altman ha dedicato alla sicurezza buona parte della conversazione con Benioff, e con toni diversi da quelli di Huang. Ha definito l'incidente di Hugging Face "terrificante", il peggiore visto finora, e ha insistito sul fatto che non si tratta solo di un problema di sicurezza informatica ma anche di allineamento. I modelli, ha spiegato, non hanno imparato a non violare un sistema anche quando viene chiesto loro di ottenere il miglior risultato possibile. Da qui la necessità di regolare il ritmo di sviluppo delle capacità, in modo che allineamento, sicurezza e monitoraggio restino sempre un passo avanti. Altman ha poi criticato, senza fare nomi, le aziende che si dicono pronte a rallentare o a comportarsi responsabilmente solo se lo fanno anche i concorrenti. Secondo lui l'opinione pubblica si aspetta una responsabilità senza condizioni. Ha respinto anche l'idea della tecnologia come strumento neutrale, che a suo dire "può giustificare molte cose", e ha indicato un secondo rischio accanto alla perdita di controllo, cioè la concentrazione di potere in poche aziende. "Non può essere che un piccolo numero di aziende che costruiscono questi modelli prenda le decisioni che spettano al mondo", ha detto.

L'elemento più concreto della sua proposta riguarda gli incidenti, che ritiene inevitabili con qualunque tecnologia nuova. Per Altman la chiave è una cultura della segnalazione trasparente, sul modello dell'aviazione civile, dove l'autorità federale e l'ente investigativo sulla sicurezza dei trasporti hanno reso gli aerei progressivamente più sicuri analizzando ogni evento. Il paragone però si ferma al principio. Nel trasporto aereo segnalazioni e indagini sono affidate a organismi pubblici indipendenti, mentre Altman non ha indicato chi dovrebbe raccogliere e analizzare gli incidenti dell'IA. Nella sostanza, la responsabilità resta ancora in capo alle aziende, con l'impegno a una maggiore trasparenza.

Un terreno comune e una domanda aperta

Messe in fila, le quattro posizioni mostrano un terreno comune e una divergenza. Tutti riconoscono che la responsabilità ricade anzitutto sulle aziende che sviluppano e distribuiscono i modelli, e sul palco di Dreamforce nessuno ha chiesto esplicitamente nuove leggi. Le differenze stanno in ciò che viene dopo. Per Huang basta il mercato. Per Benioff occorre che le aziende rispondano delle proprie scelte, come non è accaduto con i social media. Altman propone una cultura della segnalazione mutuata dall'aviazione e non vuole che le decisioni restino a pochi, mentre Amodei punta su standard di settore e su un coordinamento internazionale. Più ci si sposta lungo lo spettro, più diventa evidente che una responsabilità affidata solo a chi sviluppa la tecnologia fatica a reggere da sola. Nessuno però ha indicato chi dovrebbe controllarla.

Per le aziende che adottano l'IA la questione non è astratta. Hugging Face è una realtà relativamente piccola, e lo stesso Altman ha invitato le organizzazioni sotto i mille dipendenti a rafforzare subito le proprie difese, prima che modelli altrettanto capaci diventino accessibili a chiunque. In assenza di regole condivise, almeno negli Stati Uniti, valutare fornitori, modelli e rischi resta in larga parte compito di CIO e responsabili della sicurezza. In Europa l'AI Act offre già una cornice normativa, ma i modelli più avanzati vengono sviluppati quasi tutti oltreoceano. Anche la scelta di Salesforce di ospitare il confronto ha una sua logica. Un'azienda che integra i modelli di più fornitori e fa della fiducia il cuore della propria offerta ha interesse a presentarsi come terreno neutrale. Resta il fatto che proprio Benioff, citando i social media, ha ricordato quanto possa costare aspettare che le aziende si correggano da sole.