L’IA generativa al centro di AWS Summit

Di recente si è tenuto a Milano l’AWS Summit, evento interamente dedicato alle opportunità offerte dai servizi cloud di AWS. Il tema di quest’anno non sorprende: tutto ruotava intorno all’intelligenza artificiale, generativa soprattutto, ma non solo. Un tema di grande interesse come dimostra la quantità di persone presente all’Allianz MiCo - Milano Convention Centre. Professionisti del settore, ma anche tantissimi studenti e appassionati, che si sono riversati a migliaia per vedere cosa avevano in mostra i tanti stand del colosso del cloud e dei suoi partner. Girando per l’area espositiva si poteva trovare di tutto, inclusi spazi dedicati a challenge di programmazione, a momenti di formazione, a seminari, ma anche a tanti giochi.

Giochi non fini a sé stessi, ma progettati per mostrare il potenziale dell’IA, ormai applicata a qualsiasi ambito. Abbiamo visto tavoli di calcetto balilla “connessi”, con videocamere che seguivano i movimenti della palla e grazie a software relativamente semplici si connettevano al cloud per popolare il tabellone dei punteggi. L’IA in questo caso si limitava a generare casualmente i nomi dei team e dei giocatori, oltre che a seguire il movimento della palla per valutare quando assegnare il gol. Ed è solo uno dei tanti esempi di applicazioni presenti all’evento.

Bedrock e Amazon Q al cuore della strategia di AWS

Durante il keynote tenuto da Becky Weiss, Vice President Distinguished Engineer di AWS, sono stati due i focus principali sul software. Prima di tutto Amazon Bedrock, lo strumento di AWS per creare con (relativa) semplicità applicazioni di IA generativa.

Il vantaggio di Bedrock è che è un servizio totalmente gestito, quindi gli utenti non dovranno preoccuparsi di creare infrastrutture ad hoc per usarlo. Il suo principale punto di forza è che permette di sperimentare con differenti LLM, così da poter scegliere quello più adatto a ogni caso d’uso, e il supporto alla RAG, che migliora la qualità delle risposte fornite dall’IA, riducendo in maniera significativa errori e allucinazioni.

Amaxon Q, invece, è l’assistente IA di Amazon che può essere personalizzato coi dati aziendali. Amazon Q Business è un copilota che può essere quindi adattato a varie esigenze e ai vari reparti: può essere di supporto per esempio al marketing o ai team di vendita, mentre Amazon Q Developer è uno strumento praticamente identico, ma progettato per essere di supporto ai programmatori, che potranno farsi aiutare a scrivere parti di codice.

Fra i clienti intervenuti durante il keynote di apertura, Iveco: Marco Liccardi, CTO dell’azienda, ha spiegato come oggi viviamo in un mondo dominato dalla non linearità. Il cambiamento climatico, le nuove norme, i nuovi paradigmi come industria 4.0 e la stessa politica rendono la situazione estremamente complessa da valutare ed è difficile comprendere il futuro. Secondo Liccardi, per gestire questa complessità e questa incertezza l’unico modo è quello di fare leva sulla tecnologia. Ed è proprio quello che sta facendo Iveco, che oggi gestisce una flotta di 140.000 veicoli connessi che generano qualcosa come 100 TB di dati ogni anno. Obiettivo dell’azienda è quello di arrivare ad azzerare o quasi gli incidenti stradali, e per questo motivo ha sviluppato Driver Pal 3.0, una soluzione che tiene i conducenti dei mezzi commerciali sempre informati sulle condizioni del traffico, del meteo, sulla presenza di incidenti lungo il tragitto e non solo. Questa piattaforma, infatti, verifica anche tutto quello che accade all’interno del veicolo, sia avvisando tempestivamente in caso di anomalie o guasti, sia offrendo consigli su come adattare lo stile di guida per ridurre i consumi. Iveco sta anche lavorando molto sugli ADAS, gli assistenti alla guida, con l’obiettivo di lavorare sul livello 2+, cioè la guida semi-autonoma, per poi ambire oltre. Come intuibile, tutte queste soluzioni fanno leva sugli strumenti e i servizi di AWS.

Il multicloud secondo Snowflake

Durante l’AWS Summit abbiamo avuto modo di incontrare alcuni portavoce dei partner dell’hyperscaler, a partire da Michele Tessari, Manager Sales Engineering di Snowflake. L’azienda nasce nel 2012 come piattaforma cloud native da due persone fuoriuscite da Oracle. Una piattaforma che si appoggia ad AWS, ma è multicloud e può funzionare anche su altri hyperscaler, come Microsoft Azure e Google Cloud. Anche contemporaneamente, “per esempio per il disaster recovery”, spiega Tessari. Proprio l’essere multicloud è uno dei fattori differenzianti della piattaforma di Snowflake. “Un grande elemento di differenziazione è che la piattaforma è cloud native”, prosegue Tessari. “Può sembrare banale, ma non lo è: Snowflake è completamente elastico, non devo ragionare su concetti come macchine da dimensionare. Tutto è gestito da Snowflate stessa.” Ed è anche scalabile in maniera quasi infinita. Il limite, infatti, è “la potenza di calcolo della region sottostante”. Il cliente tipo? “Un po’ tutti. Trattandosi di un modello a consumo, Snowflake può essere adatta sia alle grandi aziende sia a quelle più piccole, dal momento che non esistono costi iniziali” ma solo ricorrenti.

Gli strumenti S2E per un’IA sicura e affidabile

“Cosa ci faccio con l’IA? E quali problemi avranno le imprese nell’adottare queste nuove tecnologie?”. Come ci dice Andrea Cappelletti, Business Technology Consultant di S2E, è da questi quesiti che nascono le soluzioni presentate dall’azienda, GenerativeShield e Genarative Pillars. Secondo Cappelletti, non ci sarà il problema di capire come utilizzare l’IA: “i casi d’uso, come è sempre accaduto, verranno fuori”.

Il punto è invece chiedersi cosa impedirà alle imprese di adottarla. Ed essendo in Europa, è probabile che siano le regolamentazioni. Che non sono assolutamente un male, anzi: è giusto porsi già da subito il problema di rispettare la privacy e la governance del dato. Due i principali problemi secondo il manager: l’utilizzo non previsto dell’IA, in pratica “gli faccio fare una cosa che non è prevista”. Che significa? “Se tu sei un agente che deve vendere scarpe rosse e ti parlo di sedie, l’IA non dovrebbe rispondere. Stai sprecando soldi”. Non solo: in ambiti molto regolamentati, come quello bancario, le consulenze devono seguire specifiche regole. E un chatbot installato a disposizione dei clienti di un istituto di credito non dovrebbe in alcun modo poter rispondere a domande di questo tipo da parte degli utenti.
Un altro punto chiave è che l’IA non può accettare come input dati personali, che non potrebbero venire trattati. Qui entra in gioco la tecnologia di GenerativeShield, che si posiziona fra gli utenti e le IA. In pratica, filtra tutti i dati immessi dagli utenti prima che vengano inviati all’IA, mascherando i dati personali (e sostituendoli con altri generati casualmente) ed eliminando tutti quei contesti che non dovrebbero venire presi in considerazione da quella specifica IA. “Anche con logiche come «devi parlare solo del prodotto ma non del suo prezzo»”, dice Cappelletti. Allo stesso modo, verifica le risposte delle IA e si assicura che siano in linea con le policy.

GenerativeShield può essere erogata in due modalità: Full AWS, la più economica e totalmente serverless, e la versione containerizzata, che può essere installata dove si desidera, anche on prem. Ma in questo caso il cliente deve occuparsi anche di gestire l’infrastruttura.

Generative Pillars, invece, è un framework progettato per aiutare i professionisti a creare agenti conversazionali. L’esigenza nasce dal fatto che quando S2E ha iniziato a proporre GenerativeShield a potenziali clienti, alcuni di questi rispondevano che al momento ancora non avevano alcun agente IA nei loro sistemi. “Dato che sviluppando GenerativeShield abbiamo anche imparato a fare gli agenti e tutto quello che sta dietro il mondo dell’IA, abbiamo deciso di fare anche gli agenti”. Questa per lo meno era la strategia nel 2023. Poi il cambio di direzione l’anno successivo. “Abbiamo scorporato Generative Pillars, che rappresenta ora tutta la nostra capacità di esecuzione in termini di strumenti, competenze, capacità e metodo”.

La data platform di Denodo

L’intelligenza artificiale? “Siamo sul punto di picco dell’Hype Cicle”, afferma Andrea Zinno, Data Evangelist di Denodo, azienda specializzata nell’ambito del data management. E comprensibilmente per una simile realtà la massiccia e velocissima diffusione dell’IA è un fatto più che positivo: sono i dati le fondamenta dei sistemi di intelligenza artificiale. “Una tecnologia con la quale ho iniziato a lavorare dal 1987”, sottolinea Zinno, facendo riferimento a sistemi di IA più tradizionali. Oggi la differenza è che i LLM[MA1]  permettono di “toccare con mano” questa tecnologia, sperimentare in prima persona. Al contrario di quanto accadeva prima, dove la manutenzione predittiva e simili erano temi conosciuti solo da ingegneri e scienziati. Ora abbiamo a disposizione sistemi linguistici che funzionano molto bene e sono su un altro pianeta rispetto ai chatbot, per quanto evoluti, che si usavano prima dell’uscita di ChatGPT. Ci sono però ancora alcuni ostacoli da superare, nello specifico far trattare all’IA anche dati non necessariamente linguistici. “Se chiedo a un’IA di un ipotetico servizio bancario quali sono gli ultimi bonifici che ho fatto a una specifica persona, l’IA deve trattare anche altri tipi di dati”. E deve farlo in maniera efficace. Perché probabilmente, se interroghiamo un sistema, questo non ci restituirà informazioni sul bonifico effettuato pochi minuti prima, in quanto la sincronizzazione fra i dati operazionali e il data warehouse, sul quale lavora l’IA, non è immediata. Denodo sta lavorando proprio per ovviare a questi problemi di disallineamento, facendo sì che l’IA sia in grado di recuperare le informazioni in tempo reale.

Prima abbiamo citato l’hype cycle dicendo che, secondo Zinno, l’IA è alla cresta di questa curva. Dobbiamo aspettarci un crollo dell’interesse? “Non credo, l’effetto è talmente dirompente che si può solo crescere. Ma le aziende inizieranno a ragionare anche su temi come il costo economico del training, il consumo di energia e agli altri impatti significativi. Quello che vedo – prosegue Zinno – è che ora le aziende stanno cercando di capire dove possono utilizzare questa tecnologia in maniera efficace. Quasi tutti hanno messo in piedi gruppi di lavoro per capire come le IA usano i dati interni. O se hanno le capacità per farsi un sistema di IA proprietario”. E, soprattutto, c’è il tema della qualità del dato che interessa le imprese. Perché se un’allucinazione durante una chiacchierata informale non crea gravi problemi, simili errori non sono accettabili dagli agenti virtuali di un’azienda. Risolvere questi problemi non è banale, perché è ancora  molto difficile capire con quale logica le IA generano le loro risposte. Insomma, secondo Zinno non vedremo scemare l’interesso verso l’IA, ma si rallenterà un po’ l’entusiasmo, perché ora è il momento di capire come estrarre a pieno valore da questa nuova tecnologia.

BeSharp e il progetto “segreto” con il team Moto GP di Yamaha

Nello stand di beSharp all’AWS Summit si poteva ammirare una moto. Non una qualsiasi, bensì la Yamaha M1 da Moto GP utilizzata nel mondiale 2023. Besharp è un AWS Expert, fornisce consulenza. “Siamo come l’AMG della Mercedes, siamo un’officina specializzata”, afferma Alessandro Molina, CFO e co-fondatore dell’azienda.

“Ci concentriamo sulla progettazione, l’implementazione e la gestione di infrastrutture e servizi. E di dati”. In occasione di AWS, il focus è sui progetti relativi ai dati. “C’è la convinzione che i progetti data siano relativi all’estrazione di valore dal dato”, spiega Molina. “In realtà, sotto, c’è un sistema molto complesso che parte dall’acquisizione del dato e dalla sua gestione. E il cloud è la tecnologia abilitante”, perché serve un’architettura facilmente e rapidamente scalabile, in grado di gestire tutte le informazioni presenti da sensori di ogni tipo, siano dispositivo IoT, indossabili o altro. “Questi dati vanno portati in cloud e gestiti in modo diverso: bisogna far sì che arrivi il dato giusto, alla persona giusta, al momento giusto”. L’approccio di beSharp vuole essere collaborativo: non vuole porsi come mero fornitore di servizi, ma stringere un rapporto più stretto di consulenza. E qui entra in gioco la moto da corsa in bella vista allo stand. Il team corse Yamaha è esperto di tutto quello che è la moto, la sua dinamica, il suo funzionamento. beSharp, invece, è esperta sulla gestione del dato. Ecco quindi la collaborazione fra le due realtà. Ma cosa ha fatto esattamente l’azienda per il team di Moto GP? “Il tema è prendere il dato e mettere Yamaha nelle condizioni per gestirlo al meglio, in questo caso per migliorare le performance in pista. Quello che facciamo per loro costituisce un importante vantaggio competitivo”. Purtroppo, questo è l’unico dettaglio che siamo riuscito a ottenere, perché gli NDA firmati da beSharp con Yamaha non permettono di divulgare molto di più sull’accordo. Non al momento, quantomeno.

L’IA entra negli elettrodomestici con Haier

Fra le realtà presenti ad AWS Summit anche Haier, noto produttore di elettrodomestici. Che sta integrando l’IA nei suoi dispositivi. E sorge subito spontanea la domanda: che c’entra l’IA con forni, frigoriferi, condizionatori? “Facciamo la smart home!”, risponde Marco Stasi, IoT Architecture & Development Manager di Haier Europe. “La smart home è un’evoluzione della domotica, fa leva sulla connettività, e abilita una serie di scenari, come l’ottimizzazione dei consumi energetici. A livello locale, come nel caso dell’ottimizzazione dell’autoconsumo da fotovoltaico”.

Stasi spiega come un sistema intelligente di elettrodomestici che comunicano fra loro può consentire di far partire elettrodomestici energivori come la lavatrice o la lavastoviglie quando è più conveniente, in base alla tariffa oraria, o anche sulla base delle condizioni climatiche: quando i pannelli fotovoltaici assorbono il massimo, per dire, è un momento adatto, dato che l’energia che producono è sufficiente e non richiede ulteriore apporto dalla rete elettrica. Ma la prospettiva non è limitata alla singola abitazione. “Si parla già di smart grid, e le aziende energetiche stanno investendo molto in questa direzione. Promuovendo per esempio sconti sulle tariffe per chi limita i consumi nelle fasce dove la rete è più stressata”. Questo, però, è un tema futuro. A oggi, a cosa serve acquistare un elettrodomestico intelligente? Gli esempi sono parecchi. Dal semplice condizionatore controllabile da remoto, che ci fa trovare una casa già fresca, a sistemi più evoluti. Come i forni e i piani cottura che, grazie a sensori di temperatura e videocamere, sono in grado di capire quando gli alimenti sono arrivati al giusto punto di cottura. O le lavatrici intelligenti, che grazie alla funzione Label Scan scansionano le etichette presenti sugli abiti e suggeriscono piani di lavaggio adeguati allo specifico capo. Anche sconsigliando di mescolare capi con lavaggi incompatibili fra loro, come lana e sintetico. Questi, però, sono solo gli scenari attuali, perché l’azienda “si sta spostando molto sull’energia”. Nell’ottica di aiutare i clienti a ottimizzare i loro consumi.

Kyndryl: “non chiamateci system integrator, siamo trusted advisor”

“L’approccio di Kyndryl è particolare. E ci porta a fare scelte che spesso si differenziano da quelle che farebbe un classico system integrator”. A parlare è Claudio Bottari, AI Technical Lead di Kyndryl. Tipicamente i clienti si rivolgono a un integratore per delegargli la parte sulla quale non hanno competenze specifiche. “Anche noi facciamo questo, ma la Kyndryl Way è quella di impostare certi tipi di rapporti sul lungo termine. Cerchiamo di essere un trusted advisor, insomma”. Progetti come la governance dei dati o la migrazione al cloud sono temi chiave per l’azienda, così come la gestione dei AIOps e dele MLPos, che sono gli ultimi trend emersi. “Le aziende stanno sperimentando molto con l’IA, ma incontrano spesso difficoltà nel mettere questi tentativi in produzione, a passare dallo stato di PoC a prodotto. Questo comporta un elevato strato di complessità”, ed è qui che interviene Kyndryl. Perché oggi tutti hanno idee, anche innovative e interessanti su cosa si potrebbe fare, ma poi “il problema è metterle a terra”.  Anche, se non soprattutto, dal punto della vista della governance: con l’IA è più difficile tenere sotto controllo i dati sensibili. Ed è qui che entrano in gioco le competenze della multinazionale.