L'approccio di SAS per un'IA responsabile, affidabile ed etica

L'IA entra rapidamente nei processi di tantissime aziende operanti in ogni settore e per regolamentarne l'utilizzo e lo sviluppo l'UE ha redatto l'UE AI Act, un documento ufficiale che definisce una serie di paletti che devono rispettare sia le imprese che sviluppano soluzioni di IA, sia le aziende che utilizzano questa tecnologia. 

Una serie di regole fondamentali per assicurare uno sviluppo e un'utilizzo etico e rispettoso della privacy delle tecnologie di intelligenza artificiale, che dovranno ora essere ratificate dai singoli Stati membri. Le aziende che non si adegueranno rischiano sanzioni molto salate: si arriva fino a 35 milioni di euro, o al 7% del fatturato, a seconda di quale sia la cifra più elevata. 

Per aiutare le imprese a introdurre l'IA nei processi di business in maniera sicura e rispettosa SAS propone un approccio che va a coprire tutto il ciclo di sviluppo dell'IA e dei dati a essa correlati. Un framework utile non solo a evitare le sanzioni, ma anche ad assicurarsi che i progetti di IA siano privi di bias, che potrebbero portare a prendere decisioni sbagliate, vanificando gli investimenti effettuati sull'intelligenza artificiale. Vediamo quali sono i punti cardine. 

EU AI Act: freno all'innovazione od opportunità?

L'Europa, è noto, è molto attenta a legiferare su vari aspetti, inclusi gli utilizzi delle tecnologie, e tende a muoversi molto prima di altri Paesi, per esempio gli USA, così da essere spesso da esempio e da guidare le regolamentazioni a livello globale. Ne è un esempio il GDPR, con il quale il Vecchio Continente ha fatto da apripista sulle regole per la privacy, poi introdotte anche in altri Paesi. E vuole farlo anche sull'IA con l'EU AI Act, recentemente approvato.

Si tratta di un regolamento che definisce gli usi leciti e quelli inaccettabili delle soluzioni di IA, escludendo per esempio sistemi per il social scoring, e definendo quali sono i sistemi ad elevato rischio e quali accorgimenti devono essere adottati per minimizzare i rischi e garantire un'utilizzo etico, sicuro e rispettoso della privacy dell'IA. Le multe, come detto, possono essere salate, anche solo per chi fornisce informazioni false alle autorità che dovranno vigilare su questi sistemi. 

Un freno all'innovazione? In realtà no: sebbene le precedenti bozze del documento fossero state criticate perché ponevano paletti troppo stringenti alla ricerca, la versione definitiva del documento mette dei punti fermi su cosa si può fare e cosa no. E, soprattutto, indica come devono venire acquisiti e trattati i dati usati per l'addestramento dei sistemi di IA. Mettendo le aziende nelle condizioni di poter sviluppare soluzioni di IA sicure e rispettose sin da subito. 

L'approccio di SAS per il ciclo di vita dell'IA

L'approccio di SAS copre tutto il ciclo di vita delle soluzioni di IA, a partire dalla gestione dei dati per arrivare all'output generato, passando per lo sviluppo dei modelli di intelligenza artificiale. Una serie di best practice per le aziende, che seguendole non solo potranno assicurarsi la conformità normativa, ma anche di sviluppare soluzioni efficaci e prive di bias, cioè i pregiudizi che l'IA potrebbe avere a causa di un set di dati inaffidabile. Che porterebbero a risposte non accurate e, di conseguenza, a decisione errate. 

Il primo step del framework ideato da SAS parte proprio dalla gestione dei dati. L'approccio della multinazionale parte proprio dalla gestione dei dati usati per l'addestramento dei modelli. Qui le aziende devono focalizzare la loro attenzione sulla privacy, assicurandosi che il set usato non contenga informazioni che possano essere collegate a specifici individui, anonimizzando quindi i dati ed eliminando qualsiasi informazione considerata sensibile. Non è l'unico aspetto importante in questa fase: fondamentale assicurarsi anche del contesto di questi dati, di come sono collegati fra loro. E che siano di qualità, identificando quelle informazioni che potrebbero dare vita a risultati non coerenti e indesiderati. 

Il secondo passo è invece relativo allo sviluppo del modello. Non è sufficiente assicurarsi che le informazioni per l'addestramento siano di buona qualità: è anche necessario che le aziende siano in grado di interpretare il modello generato, comprendendo come vengono generati gli output e introducendo strumenti per verificare la presenza di eventuali bias interpretativi e correggerli. 

Terzo e ultimo step dell'approccio è l'analisi continua del modello, che deve essere costantemente monitorato da strumenti automatici per assicurarsi che i risultati siano accurati e rilevanti nel tempo. In questa fase, SAS prevede l'introduzione delle cosiddette Model Cards, una sorta di "etichette" che indicano lo stato di salute del modello in termini di accuratezza delle risposte.

Fatte eccezione per le Model Cards, che saranno implementate a partire dall'estate 2024, tutti gli altri strumenti sono già integrati nella suite SAS Viya, piattaforma di dati e analisi end-to-end che consente uno sviluppo affidabile in ogni fase del ciclo di vita dell’IA, caratterizzata da un'intuitiva interfaccia grafica. 

Fra le funzionalità della soluzione, data suppression (per eliminare informazioni sensibilli), semantic type remediation, per correlare efficacemente i dati al giusto contesti, data quality, per verificare la qualità delle informazioni alla base del modello, Natural Language Insigths, per ottenere informazioni sul funzionamento del modello ponendo domande in linguaggio naturale.