Reggie Townsend di SAS: l’etica dell’IA non è teoria ma governance e pratica quotidiana

In un incontro ristretto con la stampa, Reggie Townsend, Vice President, Data Ethics Practice di SAS, ha offerto uno sguardo privilegiato sul ruolo dell’etica nell’approccio all’intelligenza artificiale. Non si è trattato di un dialogo astratto, ma di una riflessione concreta su come le aziende possano sviluppare e applicare sistemi di IA in modo responsabile, senza rinunciare a competitività e innovazione.

Townsend guida la Data Ethics Practice di SAS, un team con il compito di vigilare sull’impatto che i sistemi data-driven dell’azienda hanno sulla società e sugli utenti. La sua definizione di etica parte da un concetto semplice ma dirompente: “L’etica è consenso sociale. Significa che chi vive in una comunità decide insieme che cosa sia appropriato. Nessuno può esserne unico custode”. Da qui il suo ruolo, che descrive come quello di un “manager dell’approccio etico”, chiamato a orientare lo sviluppo del software SAS e a garantirne un impiego che non arrechi danno alle persone.

Governance e innovazione: due facce della stessa medaglia

Il tema della governance è emerso con forza nel confronto. Molti progetti di IA, ha osservato Townsend, non superano la fase di sperimentazione, non solo per ostacoli tecnici, ma perché le aziende non sanno come adattare i propri processi di governance alle nuove tecnologie. La risposta, secondo SAS, è che governance ed enablement devono procedere insieme: senza regole non c’è innovazione affidabile, senza innovazione la governance resta vuota.

Per concretizzare questo equilibrio, SAS ha sviluppato la metodologia Quad, che articola la governance in quattro pilastri: oversight (il controllo esecutivo sulle soluzioni acquistate, vendute e utilizzate), compliance (il rispetto di leggi, regolamenti e policy interne), operations (la traduzione dei valori in tecnologia e processi) e culture (il livello forse più critico, che riguarda comportamenti, competenze e formazione). Questi pilastri non sono indipendenti ma interconnessi: introdurre una nuova tecnologia, per esempio, richiede di valutare non solo la compliance normativa ma anche l’impatto sui flussi di lavoro e sulla cultura aziendale.

“Essere trustworthy significa esserlo già prima della prima riga di codice”, ha spiegato Townsend, richiamando il principio dell’ethical by design. Un approccio che non si limita a monitorare i modelli in produzione, ma considera l’intero ciclo di vita: dalla progettazione, all’addestramento e uso, fino alla dismissione dei modelli non più attuali.

AI Act: principi condivisi, sfide nell’implementazione

L’Europa, con l’AI Act, ha scelto di posizionarsi come regolatore di riferimento. Townsend riconosce l’importanza di questo percorso: “Se un governo ritiene di dover investire risorse per ridurre i rischi e proteggere i cittadini, è un impiego corretto delle risorse pubbliche”. SAS ha aderito all’AI Pact, impegnandosi ad applicare i principi del regolamento in anticipo rispetto all’entrata in vigore.

Ma tra principi e pratica la distanza è evidente. “La scrittura di una legge è un conto, la sua applicazione è un altro. Le modalità di enforcement non devono trasformarsi in un freno allo sviluppo dell’IA e dei business correlati”. Townsend evidenzia un consenso ampio sui valori – trasparenza, responsabilità, tutela dei diritti – ma un disaccordo diffuso sulle modalità per tradurli in pratica. La sfida, insiste, non è eliminare la regolamentazione, ma far sì che non diventi un ostacolo inutile all’innovazione.

Su questo punto emerge anche una riflessione geopolitica. Secondo Townsend, l’Europa parte svantaggiata su due fronti cruciali: i foundation models e il cloud, dove dominano Stati Uniti e Cina. Lo spazio di manovra resta però ampio sulle applicazioni verticali, costruite sopra i modelli e integrate in settori industriali specifici. “La vera sfida non è costruire barriere contro l’IA, ma sviluppare l’economia con l’IA”, ha sottolineato.

Un tema centrale della conversazione è stato quello dei bias. Townsend ha portato l’esempio del credito bancario: a parità di profilo finanziario, storicamente le donne ricevono meno prestiti degli uomini. “I dati hanno inevitabilmente dei bias, perché riflettono la realtà storica. La domanda è se quel bias diventa dannoso. E in quel caso va corretto”.

SAS utilizza tecniche statistiche e generazione sintetica di dati per riequilibrare i dataset, con l’obiettivo di addestrare modelli più equi. Ma Townsend sposta il problema su un piano diverso: “Non è una questione tecnica, ma di volontà e di processo. Gli strumenti per individuare e mitigare i bias ci sono. Resta da decidere se e come usarli”.

Il ruolo di SAS e la voce dell’Europa

Il lavoro della Data Ethics Practice non resta confinato alla teoria. SAS ha introdotto strumenti concreti come le model cards – vere e proprie “etichette” dei modelli, che ne indicano performance, bias e deriva – e sta sviluppando prodotti specifici per la governance dell’IA. L’idea è che l’etica non debba fermare il business, ma orientarlo verso scelte più sostenibili e trasparenti.

Il messaggio finale di Townsend riguarda l’Europa: pur esclusa dalla corsa ai colossi del cloud e dei foundation model, ha ancora la possibilità di essere protagonista nell’applicazione dell’IA ai settori industriali e sociali, mettendo a frutto la propria tradizione normativa e culturale.

Ribadendo le opportunità dell’Europa di poter giocare un ruolo da protagonista nelle applicazioni basata su IA, Townsend ha sottolineato il ruolo di SAS nell’affiancare le aziende per definire governance solide, capaci di trasformare principi astratti in pratiche operative e, soprattutto, in valore economico e sociale.