Un'intelligenza artificiale per aiutare le persone e migliorare il mondo: l'idea di neurosistema aziendale di Red Hat

Cosa succederebbe se le aziende avessero a disposizione un'intelligenza artificiale in grado di raccogliere e interpretare i dati elaborati dalle altre IA presenti in azienda, così da presentare alle persone solo i dati davvero significativi e che permettono di prendere le decisioni necessarie? Da questa domanda nasce il progetto del cosiddetto "neurosistema aziendale", un concetto a cui stanno lavorando aziende come Red Hat e varie istituzioni come le Università di Harvard, Berkeley e Stanford. Ne abbiamo parlato con Bill Wright, che lavora in Red Hat come Head of AI/ML and Intelligent Edge for Global Verticals and Accounts.

Il neurosistema aziendale: un'IA per migliorare il mondo?

Edge9: cos'è il neurosistema aziendale e perché le aziende ne hanno bisogno?

Wright (in foto): penso che la cosa interessante che le aziende hanno fatto, e va a loro credito, è che hanno sposato l'intelligenza artificiale e che si sono dedicate interamente allo sviluppo di un grande numero di differenti modelli di IA per le aziende. Hanno sviluppato modelli per le risorse umane, per l'ambito legale, per i servizi documentali, per la soddisfazione dei clienti, per l'interazione con i clienti... Ci sono quindi diverse tipologie di IA che stanno prendendo forma all'interno delle aziende e ciò che è interessante per me è che non hanno ancora davvero unificato tutte queste informazioni e integrato fra di loro tutti questi modelli con una correlazione incrociata per vedere se ci sono dei pattern più in profondità che possono essere riconosciuti all'interno dell'azienda.

Ciò che si offre di fare il neurosistema aziendale è la creazione di un motore primario di correlazione incrociata e di integrazione tra tutti i modelli aziendali e creare dunque quella che è quasi un'istanza unica di IA. È quasi come il classico fenomeno di decentralizzazione e centralizzazione dell'IT che è successo molti anni fa; la stessa cosa sembra avvenire nell'ambito dell'IA. I data scientist si concentrano specificamente sulle applicazioni dei modelli stessi e i risultati sono fantastici e molto interessanti, anche se ci sono aggiustamenti da fare, ma penso che la cosa bella [del neurosistema aziendale] sia che si creano nuove opportunità per dare vita a qualcosa di ancora più potente e acuto.

Edge9: pensa che uno dei prerequisiti per la creazione del neurosistema aziendale sia una standardizzazione dei modelli e dei motori di IA, nonché dei vari servizi e applicazioni che raccolgono i dati?

Wright: sì, credo che questo sia un buon modo di esprimere il concetto. A pensarci, non ci sono stati standard definiti al di fuori dei metodi impiegati negli specifici modelli di IA, nonché delle tecniche e dei paradigmi di programmazione che permettono di creare la cosiddetta "intelligenza" dei modelli (che è la parte entusiasmante!). Al di là di ciò, tutto è stato fatto in modo che ciascun data scientist si è dovuto arrangiare da sé e penso che ciò sia fantastico, perché [i data scientist] sanno molto bene ciò che bisogna fare per rendere possibile una specifica funzionalità per un dato contesto. Ma quando parliamo di integrazione e di correlazione incrociata, sì, penso che ci debba essere una qualche standardizzazione cosicché le informazioni possano essere valutate facilmente e velocemente e il sistema, o meglio, tutte queste componenti possano essere unificate rapidamente e facilmente - e "facilmente" è un termine piuttosto astratto, ci vorrà un bel po' prima che sia davvero facile!

Edge9: la conseguenza di ciò che sta dicendo è che abbiamo ora un mercato composto da decine, centinaia se non migliaia di modelli diversi, con ciascuno che sviluppa il proprio, ma non in maniera centralizzata (e torniamo alla differenza fra "centralizzato" e "decentralizzato" di cui parlava...). Ma come arriviamo dunque a questo modello centralizzato? Quali sono le sfide a livello tecnologico e organizzativo?

Wright: penso che ci siano diverse sfide e sarà un percorso piuttosto lungo, per così dire, e ci vorrà decisamente un bel po' prima di arrivare al traguardo. L'elemento che deve trasparire [da questo progetto] è che dev'esserci il riconoscimento comune dei dati di output [delle applicazioni], di quello che è il loro significato. Bisogna capire come comprendere queste cose ed è ciò a cui stiamo lavorando in questo momento. L'altra cosa è l'integrazione in quanto tale: ci sono diversi strati applicativi e metodi che possono essere impiegati per creare un ambiente più sicuro perché i dati possano essere estratti e spostati all'interno delle reti. Penso poi a un motore centralizzato di correlazione incrociata, che ha bisogno di modi nuovi e differenti in cui l'IA può prendere e interpretare i dati. Quello di cui abbiamo parlato è di come il cervello umano elabora le informazioni, al contrario di come lo fa un programma di IA e come questo impara diversi ruoli, metodi e compiti. Ciò che è interessante è che il cervello umano in effetti elabora le informazioni in maniera leggermente diversa di come lo fa oggi l'IA, stiamo appena iniziando a studiare questo aspetto e a capire cosa si può fare al livello del software per effettuare la correlazione incrociata di tutte le informazioni in maniera più efficiente.

Si tratta, in fin dei conti, di comprendere i dati quando arrivano, assicurarsi che siano trasmessi in una maniera sicura e poi, al livello del motore centrale di correlazione, capire qual è la topologia software più efficiente da usare per interpretare tutte quelle informazioni. Tutto questo può essere costruito come uno strato al di sopra di quello dei container, in termini di infrastrutture software standard; tutti gli strumenti IT classici come archiviazione e così via possono essere usati. Ad esempio, Red Hat ha OpenShift, Self Storage e molti diversi metodi che possono essere messi a frutto in questo tipo di ambiente, ma ciò che stiamo davvero creando è un nuovo strato che va sopra a tutto ciò e dove i modelli [di IA] e gli asset digitali si possono auto-identificare. Si parte da lì e poi si arriva al motore di correlazione incrociata e agli altri elementi. Sarà un bel percorso, ma è necessario e credo che sia qualcosa che il settore deve affrontare.

La tecnologia come imitazione della (nostra) natura?

L'esempio di sistema di apprendimento migliore che conosciamo, che per inciso è anche quello che conosciamo meglio, è il cervello umano. Poter replicare la capacità di apprendimento del nostro cervello rappresenterebbe un passo in avanti enorme dal punto di vista dell'evoluzione tecnologica, ma siamo attualmente ancora lontani dal raggiungere questo traguardo.

Edge9: qual è la differenza principale tra il modo in cui impara il cervello umano rispetto all'IA?

Wright: ci sono diversi modi in cui questi formati e metodi [di IA] elaborano e interpretano i dati. In sostanza, molti di essi apprendono col tempo. In molti casi è una questione di algebra di base, perché alla fine nella vita non tutto richiede uno stile di interpretazione che imita i neuroni, ma ciò che è interessante è che anche il cervello ha diversi pattern e diverse metodologie con cui acquisisce dati, li trattiene e in molti versi poi nel tempo non li trattiene più. Nel mio caso, ad esempio, potrebbe essere tramite commozioni cerebrali giocando a rugby. È divertente perché abbiamo dovuto esplorare tutti i vari modi in cui il cervello umano affronta questo argomento, perché l'architettura dell'uomo si è evoluta in milioni e milioni di anni e quindi questa ricerca è stata già svolta al posto nostro, per quanto riguarda l'interpretazione dei dati e come un dispositivo o un programma o un'IA si muove nel mondo e lo interpreta. In realtà prendiamo in prestito da ciò che è già stato scoperto finora nella Natura e, nel tempo, quando emergeranno altre tecnologie, [l'architettura ispirata alla nostra] inizierà a cambiare e ce ne allontaneremo mano a mano, ma il nostro lavoro oggi è quello di completare quest'architettura ed è molto interessante.

Se prendiamo il data center, i server, e dunque i vari componenti del data center, rispecchiano e imitano l'architettura umana. Ci sono le CPU, c'è la memoria, ci sono tutti questi elementi e l'IA è il coronamento di tale modello per molti versi. Ma l'IA è solo il primo dei modelli possibili - e con "modelli" intendo rappresentazioni di ciò che sarà l'elaborazione dei dati. La cosa interessante è che se guardiamo a questo modello, l'IA è semplicemente l'ultimo pezzo del percorso e penso che sia un avanzamento davvero necessario dal punto di vista dell'elaborazione dei dati. Ma possiamo anche notare come le neuroscienze hanno fatto progressi con lo stesso passo dell'IT, più o meno, ed è interessante come più capiamo il corpo umano e come funziona, più queste conoscenze vengono riprese nell'IT, quasi in maniera inconscia. Non traccerei una linea diretta tra le due cose, ma è interessante come queste due cose siano progredite più o meno allo stesso modo negli ultimi cent'anni. È un campo molto più interessante di quanto si possa immaginare.

La pagina GitHub del progetto "Enterprise Neurosystem"

Edge9: è un'idea estremamente affascinante ed è la prima volta che ne sentiamo parlare. Una cosa che ha detto ci ha colpito, ed è che progettiamo i computer in termini umani e quindi abbiamo CPU, memorie e così via che imitano il modo in cui lavoriamo; ma l'aspetto interessante è che il modo in cui i computer funzionano appare a molti alieno, quindi ci sono diversi livelli di percezione dei computer. Dal momento che lavora per Red Hat, qual è la sua prospettiva riguardo la necessità che i software e i servizi siano open source perché si arrivi a questo neurosistema aziendale?

Wright: uno potrebbe pensare che, lavorando in queste aree di ricerca molto specifiche, si voglia tenere e proteggere la proprietà intellettuale per via di tutto il lavoro che viene svolto su di essa e questo è il modello tradizionale - è il modello a cui sono stato abituato quando ho cominciato a lavorare in questo settore. Il pensiero di condividere il proprio lavoro con tutti era un concetto piuttosto radicale all'inizio della mia carriera. Ora è il modo più veloce per ottenere dei risultati. È veloce e aiuta molto. In questa comunità abbiamo Intel, Red Hat, IBM Research, società più piccole che sono molto avanzate tecnologicamente e istituzioni accademiche (Stanford, Harvard, Berkeley...). La cosa bella è che, dato che tutto viene fatto alla luce del Sole e che i partecipanti si sentono liberi di condividere i propri pensieri, le proprie teorie e le proprie credenze personali, siamo in grado di fare le cose in una maniera davvero unica perché possiamo raccogliere tutte queste prospettive e opinioni e metterle insieme.

Oltre a ciò, siamo in grado, almeno in una maniera rudimentale, di identificare preconcetti [in originale "bias", che raccoglie i concetti di "preconcetto" e "pregiudizio", ma anche di "propensione" e "influenza"] e altri problemi che potrebbero infiltrarsi nella programmazione di questa piattaforma. [Con un modus operandi aperto] puoi tenere questi aspetti sotto controllo e far sì che ciascuno controlli gli altri e i dati. Ci sono tutti questi benefici che sono in realtà comuni a tutti progetti open source, ma penso che questo ci dia davvero l'opportunità di mettere ogni aspetto sotto i riflettori e capire esattamente cosa finisce nel software e condurne quindi lo sviluppo in una maniera molto trasparente. La cosa fantastica è che stiamo creando tutto ciò, stiamo arrivando a questo punto, e nel corso degli anni ci arriveremo e in questo modo permetteremo a tutto il mondo di usare questa tecnologia e tutto ciò di cui questa necessita. Tutto sarà trasparente, tutti i modelli, tutti i paradigmi di programmazione, chiunque sarà in grado di guardare in maniera diretta al cuore del sistema e dal punto di vista del supporto, poter fare test rapidamente, poter creare nuove funzionalità, tutte queste cose diventano un impegno creativo della comunità. Non c'è solo il punto di vista di una società o di un piccolo sottoinsieme [degli utenti], è un insieme di contributi su vasta scala che permette di ottenere tutti i vantaggi di queste menti che lavorano insieme. Ci sono un sacco di persone molto interessanti coinvolte [nel progetto] ed è interessante vedere i vari punti di vista confrontarsi.

L'IA come minaccia per i lavoratori: percezione sbagliata o rischio reale?

Con la sempre più forte automazione di molti lavori, in particolare manuali, c'è stato uno spostamento della forza lavoro verso i servizi. Tuttavia, l'avvento dell'IA sembra promettere una ripetizione di quanto già visto, con un crescente numero di posti di lavoro che vengono sostituiti dalle macchine. Al di là di facili luddismi, il problema è considerato da più parti reale e serio, vista la velocità con cui questo fenomeno di automazione sta avvenendo.

Edge9: con la crescita e lo sviluppo dell'IA, e con un progetto così ambizioso come il neurosistema aziendale che va di fatto a rimpiazzare le persone in molti ruoli lavorativi, pensa che ci sia un rischio di problemi nel mercato del lavoro o almeno nel modo in cui vediamo oggi il lavoro?

Wright: vi riporto una statistica molto interessante. Nel 1850, negli Stati Uniti, le persone che lavoravano o possedevano una fattoria o il cui lavoro era indirettamente collegato all'agricoltura costituivano il 64% della forza lavoro nazionale. Nel 2020 tale percentuale era un po' più del 10%. Negli anni c'è stato un incredibile cambiamento nel modo in cui i lavoratori sono utilizzati nei vari settori. Mi viene da dire che tali lavoratori non hanno necessariamente... smesso di esistere! Anzi, la popolazione si è espansa e verrebbe da pensare che ce ne voglia ancora il 60% per soddisfare le nostre esigenze agricole. Ciò che è successo, in realtà, è che sono arrivate l'automazione, nuove tecniche, una maggiore efficienza, e ora c'è un'enorme popolazione sostenuta da circa il 10% che in pratica permette la produzione [industriale, ecc] degli Stati Uniti. Ciò che è successo è che c'è stato un cambiamento nel lavoro.

Questa domanda [sull'impatto sul lavoro] è però reale ed è qualcosa che chi si occupa di intelligenza artificiale deve affrontare. Ma ciò che ritengo affascinante nel modo in cui stiamo realizzando questo sistema è che stiamo partendo dalle grandi aziende, e poi espanderemo il sistema perché diventi una sorta di sistema nervoso per i Paesi o il pianeta - tutti pensano che bisogna da subito mettersi a gridare "Skynet!", ma la cosa divertente è che se questi sistemi connettessero cose che sono benigne, che possono assisterci e che diventano tecnologie che permettono di fare altro, si otterrebbe un effetto incrementale sotto molti punti di vista, e non avremmo necessariamente un rimpiazzo dei lavoratori.

Diciamo che si sta avvicinando una tempesta e sei una società che si occupa della distribuzione di cibo (torniamo all'esempio del cibo). Ti rendi conto che la tempesta avrà un impatto negativo sulla tua logistica, ma anche sui tuoi negozi e i tuoi dipendenti. Questi sono tutti sistemi differenti che faranno rapporto al neurosistema aziendale per determinare qual è il modo migliore per risolvere questo nuovo problema. Un sistema siffatto può raccogliere informazioni sulla logistica, sul meteo, sui dipendenti e sull'area dove si trovano e anche sulle scorte stesse [di prodotti] così da capire cosa dev'essere prodotto per superare questa situazione. Magari hai bisogno di inviare subito più scorte in una certa area perché altrimenti non riesci a farne arrivare abbastanza in tempo. Tutte queste variabili diventano un insieme variabile di dati che è molto fluido e un sistema come questo [il neurosistema, NdR] può aiutare a superare situazioni come quella della tempesta nel momento in cui succedono.

Ma immagina su scala planetaria: attualmente abbiamo un progetto per il quale stiamo appena cominciando la fase di proof of concept che mette insieme l'acustica e l'IA negli alveari. Abbiamo una gran varietà di persone interessanti nella nostra comunità e ciò che trovo bello è che tutti questi punti di vista differenti e quello che queste persone fanno professionalmente o come hobby finisce poi nel progetto. Ryan Coffee, che lavora presso lo Stanford SLAC [un acceleratore di particelle, NdR], ha anche alcuni alveari nella sua proprietà e ha detto: "sarebbe un modo affascinante di prendere una IA applicata all'acustica e capire quali pattern di suoni producono gli alveari quando sono stressati o in salute, perché la popolazione di api negli Stati Uniti è in declino ed è un vero problema per l'ambiente e le nostre fonti di cibo". Prenderemo dunque questo progetto come proof of concept, cosicché diventi un altro punto di raccolta di dati per l'IA sui milioni che vorremmo vedere sul campo nel tempo e che ci daranno i dati di cui abbiamo bisogno per migliorare il nostro ecosistema. E questo è solo uno dei casi d'uso più su larga scala, ma ci sono quelli su scala più piccola come quelli per le grandi aziende - ed è divertente pensare alle grandi aziende come "casi d'uso più piccoli", considerando che solitamente sono piuttosto grandi.

Ma ciò che è necessario in questa crisi climatica che stiamo affrontando e in questo... non voglio dire "disastro" ecologico, non voglio essere allarmista, ma siamo lì sulla soglia [del disastro]... Vivo nell'area della baia di San Francisco e c'erano queste fotografie degli incendi lo scorso anno in cui il cielo era rosso: ed era davvero rosso mentre stavo lì, con mio figlio, a guardarlo. Le fotografie non gli rendevano affatto giustizia. Era molto più impressionante di persona. Ciò che mi ha colpito è che è un problema estremamente serio. Cose come l'IA, anziché far perdere il lavoro alle persone e portarle a essere più distaccate, in realtà diventano strumenti che ci aiutano sotto molti punti di vista. Dobbiamo ribaltare la narrativa, in più sensi. Le paure sono fondate: sono basate su analisi razionali. Ma se andiamo al cuore del sistema, è comunque roba che entra e che esce, e che viene trattata di conseguenza, quindi bisogna guardare alla sostanza: come si infonde [l'IA] con i giusti principi etici nel cuore del software, così che siano immutabili? Come si programma affinché rispetti questi principi? Per me questo è l'aspetto chiave. E in questo modo l'IA diventa esclusivamente una tecnologia che aiuta, anziché una che elimina la forza lavoro umana.

Quando un radiologo, un umano, fa un'analisi di un'immagine radiologica ha un tasso di errore - se non sbaglio - intorno al 3%. Mettendo le cose in prospettiva, è un ottimo risultato! Un programma di IA, secondo uno studio di due anni fa, mi sembra avesse un tasso di errore del 7%. Gli umani sono ancora migliori, ma l'IA è comunque piuttosto buona, sopra la soglia del 90% di successo. Ciò che hanno scoperto è che quando si fanno lavorare insieme l'IA e gli umani, usando le capacità di analisi di entrambi per fare un controllo incrociato dei risultati, il tasso di errore è sotto l'1%. La cosa interessante è che umani e IA insieme sono più potenti, da un punto di vista computazionale, che da soli. Usando l'IA gli umani non hanno perso il proprio lavoro, perché i programmi li assistono nel loro compito. Questo è come pensiamo che le cose debbano essere e la direzione che le cose prenderanno alla fine.