Appian parla di IA davvero privata e del mercato italiano ad Appian Europe 2023

La cornice scelta per Appian Europe 2023, evento annuale in cui l'azienda incontra partner e clienti europei e parla delle ultime novità, è un hotel di Londra. Sono in tutto 806 i partecipanti all'evento, includendo anche i giornalisti, a segnalare che Appian in Europa è un nome che sta acquisendo un certo peso. Inevitabilmente si è parlato di intelligenza artificiale, ma non solo: abbiamo discusso delle novità con Matt Calkins, amministratore delegato e fondatore, Malcolm Ross, senior vice president of product strategy e vice CTO, Silvia Speranza, Regional Vice President per l'Italia, e Lorenzo Alegnani, Area Vice President Southern Europe.

L'IA secondo Appian: privata, ma diversamente dagli altri

Negli ultimi mesi, e in particolare nelle ultime settimane, il tema dell'intelligenza artificiale privataha acquisito sempre maggiore rilevanza e peso all'interno del dibattito. Sono sempre più le aziende che puntano a offrire servizi di intelligenza artificiale, e di pari passo sono sempre più quelle che cercano di offrirli garantendo la riservatezza dei dati. Appian non è da meno, ma si distingue per un approccio decisamente particolare che sembra rendere la sua IA davvero privata.

A spiegarne il funzionamento molto particolare è Matt Calkins durante la presentazione principale (il keynote, se vi stanno a cuore i termini inglesi): mentre molti concorrenti usano i dati delle aziende clienti per effettuare l'addestramento finale di modelli di IA già pre-addestrati su dati generalisti, Appian non usa di fatto mai i dati dei clienti a questo scopo. Vengono sì usati modelli di IA pre-addestrati, come ad esempio LLaMa2 di Meta, ma in maniera diversa: le richieste degli utenti in linguaggio naturale vengono infatti "decodificate" usando l'IA; una volta fatto ciò, viene effettuata una ricerca dei dati più pertinenti all'interno delle fonti aziendali, e tali dati vengono poi inoltrati all'IA che li usa per costruire, sul momento e senza memorizzare alcun dato, la risposta.

Di fatto, dunque, avvengono due cose: la prima è che Appian sfrutta appieno quello che chiama "Data Fabric", ovvero il suo prodotto che crea una sorta di "strato" sopra a tutte le fonti di dati aziendali, astraendole e facendo sì che tali dati siano accessibili indipendentemente dal mezzo con cui sono effettivamente memorizzati; la seconda è che l'IA viene sfruttata di fatto per interpretare le domande e per costruire le risposte, ma senza conoscere alcun dato aziendale.

Si tratta di una distinzione molto importante, perché è proprio quest'ultimo passaggio a rendere l'approccio all'IA privata di Appian diverso da tutti gli altri. Non stiamo parlando di un'IA che viene addestrata usando i dati dell'azienda e che quindi, in teoria, può rivelarli all'esterno o usarne di errati: basti pensare a un utente che non abbia normalmente accesso ad alcune informazioni per via della sua posizione, e che riesce invece ad accedervi grazie all'IA che non fa distinzioni, ad esempio per via di un'errata configurazione o per limiti stessi del modello. Appian è, insomma, forse l'azienda più cauta di tutte tra quelle che offrono una soluzione d'intelligenza artificiale.

Sotto la scocca sono presenti vari modelli di IA e i clienti possono scegliere di implementare il proprio se lo desiderano, il che lascia molta libertà sia ad Appian sia ai suoi clienti e rende maggiormente possibile non legarsi a specifici modelli o aziende.

Ne abbiamo parlato con Matt Calkins, che ci ha detto: "[il nostro metodo di correlare la domanda e i dati] è quello che facevamo vent'anni fa: all'epoca erano equazioni bayesiane, ma è lo stesso concetto. Si tratta di fare delle connessioni tra un dato e altri insiemi di dati, entrambi interpretati multidimensionalmente. Eseguiamo tale analisi prima dell'intelligenza artificiale; lo facciamo all'inizio per fornire le risposte corrette alle domande che vengono poste."

Abbiamo chiesto a Calkins perché Appian non faccia come le altre aziende e non usi i dati dei clienti per addestrare i modelli di IA e migliorare il prodotto. Calkins ci ha risposto che Appian non intende farlo perché mette al primo posto la privacy dei clienti, ma anche per ragioni pratiche: "immaginate, ad esempio, se i dati cambiassero nel tempo e aveste già addestrato l'IA su un insieme di informazioni, e quindi doveste modificarle. È molto difficile de-addestrare l'IA. È molto difficile tornare indietro e dire 'ignora questa riga, questo dato che ti abbiamo dato in precedenza'. L'IA non si può modificare così, non è un database; non si può cercare e cancellare una riga."

Un altro problema è che c'è sempre il rischio di dare in pasto all'IA dei dati inopportuni: "cosa succederebbe se si addestrasse l'IA usando delle informazioni che non si possono prendere in considerazione in ogni circostanza? A volte l'IA dovrebbe sapere certe cose per una domanda e altre per un'altra, ad esempio per ragioni legali, di permessi o di privacy. Potrebbero esserci informazioni che identificano gli individui. Quindi in realtà è molto meglio in molti casi regolare le informazioni che l'IA può conoscere nel contesto di ciascuna richiesta. Quindi il nostro approccio non è solo più 'privato', è anche più accurato, più efficiente dal punto di vista dei costi, più discreto e maggiormente in ottemperanza alle leggi. Ci sono molti vantaggi, ed è efficace allo stesso modo in generale."

Malcolm Ross ci ha parlato della difficoltà di gestire l'addestramento dei dati: "l'IA funziona un po' come la mente umana: io non posso semplicemente dirvi di dimenticare qualcosa. Se vi dico che vengo dalla Florida, nella vostra testa si crea una correlazione probabilistica della mia identità con 'qualcuno che viene dalla Florida'. E se mi rivedrete, ci potrebbe essere un collegamento con il concetto di 'persona che viene dalla Florida'. Queste correlazioni probabilistiche sono come funzioniamo come esseri umani, ed è anche come funzionano le IA. Vi posso far firmare un accordo di non divulgazione, ma non posso costringervi a dimenticare. E, similmente, non è possibile dire a un modello di IA di dimenticare un dato specifico una volta che lo si è addestrato su quel dato."

"Ci sono delle ricerche all'Università di Stanford su come far dimenticare dei dati all'IA, ma è un problema fondamentale che il settore deve affrontare. Ed è il motivo per cui è importante usare un'IA privata, perché almeno si sa che l'IA è sotto il proprio controllo", continua Ross.

Questo è un aspetto di cui si parla, in effetti, molto poco e le cui implicazioni sono significative. Se non è possibile rimuovere i dati dall'IA diventa poi molto difficile garantire il diritto all'oblio, ad esempio, o banalmente eliminare informazioni riservate o personali. Se il tema della privacy è estremamente complesso per via di Internet, l'IA sembra complicarlo ulteriormente e una soluzione come quella di Appian, di non addestrare l'IA ma di usarla come vettore delle informazioni, sembra particolarmente convincente sotto questo punto di vista.

Abbiamo chiesto a Calkins se secondo lui ci sia sufficiente consapevolezza da parte dei leader sull'importanza della riservatezza e del controllo sui dati. "Penso che la maggior parte capisca, e se non capiscono voglio assicurarmi che lo facciano. Voglio che sappiano che i loro dati sono più preziosi di quanto fossero qualche anno fa per via dell'IA. Voglio che sappiano che quando inviano dei dati su Internet, si assumono un rischio. Anche se pensano di avere un buon contratto [con il fornitore dei servizi], si assumono un rischio. E voglio che sappiano che ci sono alternative che permettono di ottenere i benefici dell'IA senza perdere la riservatezza dei propri dati. Quindi penso che la bilancia penda molto dal lato della privacy, ma sicuramente aiuta parlarne ancora."

Appian in Italia: una crescita costante e significativa

Silvia Speranza (in foto) ha fatto un riassunto della presenza di Appian in Italia: è presente l'organizzazione per le vendite e la pre-vendita, nonché per il marketing e il servizio ai clienti. L'azienda aveva una forte presenza nel Nord Italia, ma si è espansa verso Roma per poter meglio interagire in particolare con il settore pubblico.

Sono diversi anni che Appian cresce in maniera significativa nel nostro Paese, con un dato (provvisorio) per quest'anno che si aggira intorno al +25% in termini di fatturato. L'azienda sta lavorando molto su una strategia che mette al centro i partner, in particolare Deloitte, EY, KPWG e PWC tra i grandi nomi. Ci sono comunque realtà di dimensioni più piccole, tra cui ad esempio Key Partner, che collaborano tra di loro e con i partner di dimensioni maggiori per implementare poi nei fatti i progetti.

Speranza dice che "cerchiamo di facilitare una collaborazione tra i partner ai diversi livelli. Stiamo giocando un ruolo fondamentale con il PNRR, grazie anche ai partner, perché ci sono tempi ben definiti e siamo riuscendo a sviluppare soluzioni velocemente."

Proprio il settore pubblico è tra quelli dove Appian vive la crescita maggiore, soprattutto grazie al PNRR, ma non solo: c'è anche quello delle società energetiche (ad esempio ENI), della finanza e delle banche, e progressivamente stanno crescendo anche altri settori come i trasporti e quello della moda e del lusso.

Lorenzo Alegnani (in foto a destra) fa invece il punto sull'IA privata: "'Private AI' non vuol dire preclusione alle varie tecnologie di AI che sono sul mercato: noi offriamo la nostra strategia di IA che è nativa per una determinata esigenza. Però questo non vuol dire comunque che non siamo aperti anche a nuove tecnologie di IA che sono la frontiera in questo momento, cioè il mondo OpenAI, così come il mondo AzureAI, per noi sono degli elementi comunque di integrazione per chi è interessato a far parlare e automatizzare i propri processi aziendali con quel tipo di tecnologia. Accanto a quello, però, stiamo rilasciando e abbiamo rilasciato quella che è la nostra IA all'interno di Appian e la cosa innovativa è che non parliamo di formare modelli di IA. Noi creiamo un AI privata in cui vengono mandate sia le domande che le potenziali risposte che stanno all'interno del sistema. Dove le potenziali risposte sono a loro volta, profilate su chi sta facendo la richiesta e poi sarà l'AI a costruire l'associazione tra quelli che sono i punti chiave della domanda e i dati salienti che sono stati forniti. Questo per creare un'interazione in un linguaggio naturale per l'utente che deve interagire con i dati. Questa è una cosa diversa da quello che sto osservando ad esempio rispetto ad altre tecnologie."

Un aspetto su cui Alegnani punta i riflettori è come Appian stia passando sempre più da una piattaforma usata per le esigenze interne dell'azienda a una che, invece, viene usata anche per comunicare con l'esterno e per creare servizi "fai da te" in cui è il fruitore stesso del servizio (come, ad esempio, i cittadini nel caso della pubblica amministrazione) a interagire con la piattaforma.

C'è dunque fermento non solo in Europa, dove l'azienda sta crescendo significativamente, ma in particolare in Italia, che si posiziona in cima alle classifiche in termini di crescita. Sentiremo, dunque, senza dubbio parlare di Appian in misura maggiore in futuro.