IBM ambisce a un'IA più etica e sicura con watsonx.governance

Manca ancora pochissimo alla disponibilità di watsonx.governance, la nuova soluzione di IBM per supportare aziende ed enti pubblici a sfruttare al meglio l'IA generativa, riducendo il rischio di bias e garantendo sicurezza e trasparenza nell'utilizzo dei LLM e dei dati usati per il loro addestramento.

Ridurre i rischi dell'IA con watsonx.governance

L'IA generativa è una tecnologia per molti versi formidabile, tanto che ha visto un tasso di adozione rapidissimo, sia fra le aziende, sia fra i privati. Ma si tratta ancora di una tecnologia giovane, con parecchie limitazioni. A partire dai set di dati utilizzati per addestrare i modelli: queste informazioni sono state ottenute prevalentemente facendo scraping dei contenuti online con tutti i problemi del caso. La privacy, prima di tutto, ma non solo. I set usati per il training contengono infatti molti dati errati, che si riflettono sull'output generato dalle varie app di IA generativa. 

L'idea di IBM con watsonx.governance è proprio quella di ridurre questi rischi, offrendo a imprese e PA gli strumenti necessari per gestire, monitorare e governare i modelli, consentendo anche di integrare un mix di LLM provenienti da diversi fornitori di tecnologia e comunità open source.

La soluzione di IBM aiuta i clienti a garantire la conformità con le norme vigenti nei vari Paesi, occupandosi anche di generare le policy e i flussi di lavoro aziendali. Include anche strumenti per monitorare i flussi di lavoro che sfruttano l'IA e di gestire i modelli, identificando e correggendo in automatico eventuali bias, il tutto con un approccio del tipo no code. 

I casi d'uso sono svariati. Si va dalla gestione del rischio di credito, più precisa grazie all'eliminazione di potenziali bias, alla gestione della catena di approvvigionamento, dove l'IA potrà effettuare stime sulla domanda futura. Nell'ambito delle HR, la soluzione di IBM può aiutare a rendere il processo di selezione dei canditati più trasparente, riducendo i potenziali pregiudizi. Infine, IBM indica anche che in ambito sanitario l'adozione di watsonx.governance può migliorare il processo decisionale dei medici, che potranno suggerire trattamenti più accurati e ridurre gli errori dovuti a diagnosi errate. 

"I consigli di amministrazione e i CEO delle aziende stanno cercando di raccogliere i frutti derivanti dall’utilizzo dei più potenti modelli di intelligenza artificiale, ma si trovano a dover far fronte ai rischi dovuti alla mancanza di trasparenza e dall'incapacità di gestire tali modelli”, spiega Kareem Yusuf, Ph.D, Senior Vice President, Product Management and Growth di IBM Software. "Watsonx.governance è una piattaforma con un’unica interfaccia per le aziende che hanno difficoltà a integrare e gestire LLM e modelli di ML, che fornisce gli strumenti necessari per automatizzare i processi di governance dell'AI, monitorare i modelli e intraprendere azioni correttive, il tutto con una maggiore visibilità. La sua capacità di tradurre le normative in policy applicabili diventerà sempre più essenziale per le imprese, man mano che le nuove normative sull'AI verranno introdotte in tutto il mondo".