Azure OpenAI Services: il cloud di Microsoft è pronto per le intelligent app

Senza il cloud non esisterebbe l'intelligenza artificiale, o quantomeno non sarebbe evoluta allo stadio in cui è arrivata ora. La "nuvola", infatti, è la tecnologia attorno alla quale ruota l'innovazione, IA inclusa, e Microsoft sta aggiornando Azure proprio per supportare le nuove app che integreranno algoritmi di machine e deep learning. 

In occasione di Microsoft Build 2024 l'azienda di Redmond ha annuncoato una serie di novità: le nuove architetture di riferimento per Microsoft Azure OpenAI Service, con una serie di linee guida e best practice per aiutare i programmatori ad accelerare lo sviluppo; i landing zone accelerator, che standardizzano a automatizzano la distribuzione in ambienti pensati per supportare le intelligent app; nuove funzionalità per Microsoft Azure AI Search. Arriva anche Azure AI Studio, per creare assistenti personalizzati. E non solo.

Arrivano le nuove architetture di riferimento per Microsoft Azure OpenAI Service

Microsoft ha reso disponibili a livello globale le nuove architetture di riferimento e le nuove linee guida per supportare i clienti nello sviluppo di intelligent app. Una serie di best practice che permetteranno agli sviluppatori di iniziare subito lo sviluppo, e che includono indicazioni specifiche sul machine learning, con istruzioni dettagliate su come configurare i servizi di Azure per lo sviluppo di app intelligenti. 

I landing zone accelerator, invece, mirano a standardizzare e automatizzare la distribuzione delle app. Sempre parlando di best practice, Microsoft ha reso disponibili nuove linee guida su come ottimizzare la qualità e le performance del cloud tenendo allo stesso tempo sotto controllo i costi. Un tema molto importante, dal momento che lavorando sul cloud bisogna fare molta attenzione per evitare che le spese arrivino a cifre insostenibili. 

Le nuove funzionalità di Azure AI Search

Microsoft Azure AI Search è un sistema completo di recupero delle informazioni che nasce per gestire operazioni di Retrieval-Augmented Generation (RAG) e la ricerca all'interno della conoscenza aziendale. Il RAG è una tecnologia che viene utilizzate per ridurre le "allucinazioni" dell'IA: in pratica, una volta che l'IA ha fornito l'output, questo viene ricontrollato e verificato per assicurarsi che non contenga inesattezze. Un altro vantaggio del RAG è che permette di evitare di addestrare il modello su dati aziendali, assicurando quindi una maggiore sicurezza delle informazioni aziendali. 

In occasione di Microsoft Build, sono stati annunciati aggiornamenti per Azure AI Search e ora gli utenti possono contare su una maggiore capacità di storage senza costi aggiuntivi. Non è l'unica novità. La ricerca vettoriale supporterà vettori binari e altre funzionalità di ricerca vettoriale al fine di gestire lo storage in maniera più efficiente. Sono state potenziate la ricerche vettoriali e ibride con funzionalità di vector weighting e score threshold control, garantendo agli utenti più opzioni per migliorare l'accuratezza delle risposte. 

Sono ora supportate funzionalità di image vectorization che fanno leva su Microsoft Azure AI Vision, così da poter effettuare ricerche per immagini all'interno di Azure AI Search. Infine, è stata aggiunta l'integrazione con OneLake, così da espandere le sorgenti di dati che possono essere indicizzate e ricercate. 

Crea i tuoi chatbot personalizzati con Azure AI Studio

È ora disponibile a livello globale Azure AI Studio, una componente chiave di Copilot. Permette agli sviluppatori di realizzare chatbot personalizzati, progettati per specifici compiti, anche accedendo ai più recenti foundation model.

A breve Microsoft permetterà anche di appoggiarsi a un modello chiamato MaaS, Models as a Service, tramite il quali si potranno realizzare applicazioni di IA generative sfruttando delle API di inferenza in modalità pay as you go, eliminando così la necessità di mettere in piedi macchine virtuali dedicate alla gestione dei modelli stessi. Le funzionalità MaaS saranno a breve disponibili in modalità anteprima, e consentiranno l'accesso ai modelli di Nixtla  e Core42 JAIS. Più avanti verrà esteso il supporto per includere anche quelli di AI21, Bria AI, Gretel Labs, NTT DATA, Stability AI e Cohere Rerank. Infine, gli utenti possono già ora utilizzare i modelli MaaS tramite Arize e ClearML per creare applicazioni AI generative utliizzando gli strumenti di sviluppo preferiti.

Le novità per Azure OpenAI Service

Azure OpenAI Service è stato aggiornato per supportare il più recente modello di OpenAI, GPT-4o, al quale si potrà accedere tramite Azure AI Studio oppure sfruttando le API. Nuove opzioni permettono di personalizzare il modello GPT-4, permettendo così alle imprese di assicurarsi che i loro assistenti siano in grado di offrire risposte coerenti con le specifiche necessità dell'azienda. 

È ora disponibile, in modalità anteprima, messaging insights for WhatsApp, uno strumento che consente di estrarre insight dalle comunicazioni effettuate tramite WhatsApp. Questa funzionalità utilizzerà il rilevamento della lingua, la traduzione, l'analisi del sentiment, l’estrazione di frasi chiave e il riconoscimento dell’intento per migliorare il flusso di comunicazione fra le aziende e i propri clienti. Una capacità che, secondo Microsoft, "rappresenta un passo fondamentale verso sfruttare il valore dei dati conversazionali attraverso vari canali, a partire da WhatsApp, per migliorare l’interazione con i clienti e comprendere meglio il loro customer journey".

Arrivano i modelli Phi-3

Disponibile in modalità anteprima Phi-3, una famiglia di modelli multimodale sviluppata da Microsoft. Si tratta di SLM, language model di piccole dimensioni ottimizzati per dispositivi personali. Phi-3 è addestrato su 4,2 miliardi di parametri e supporta input sia testuali sia sotto forma di immagini. Sono disponili tramite l'offerta MaaS di MIcrosoft Azure AI anche le versioni Phi-3-mini e Phi-3-medium. 

IA più sicure ed etiche con le nuove funzionalità Microsoft Azure AI Content Safety 

L'intelligenza artificiale è sì una tecnologia rivoluzionaria, ma come abbiamo sottolineato su Edge9, è fondamentale che venga implementata in maniera etica e sicura. Per questo motivo Microsoft sta potenziando gli strumenti a disposizione degli sviluppatori. A tal proposito sono state introdotte le Custom Categories, che permetteranno di creare filtri personalizzati per le applicazioni di IA generativa. Le Custom Categories includeranno opzioni per implementazioni standard o rapide, con queste ultime che permettono agli sviluppatori di correggere eventuali problemi aggiungendo nuovi filtri in meno di un'ora. 

Disponibili in anteprima anche le funzionalità Prompt Shields e Groundedness Detection. Le prime servono per mitigare eventuali attacchi d tipo prompt injection e jailbreaking, cioè i tentativi di aggirare i filtri di sicurezza con prompt costruiiti ad hoc. Le funzionalità di Groundedness Detection, invece, nascono per limitare le allucinazioni delle IA. 

Microsoft potenzia Azure AI Speech con Speech Analytics e le funzionalità di video dubbing

Microsoft Azure AI Speech è stato aggiornato con nuove funzioni, a partire da Speech Analytics, un servizio per automatizzare l'estrazione di insight da file video e audio. Speech Analytics include funzionalità di riconoscimento vocale, sintesi, trascrizione, analisi del sentiment, e si presta soprattutto per l'utilizzo in helpdesk e call center, anche se i casi d'uso non sono limitati a questo. Microsoft, per esempio, suggerisce di usarlo per l'analisi di interviste, podcast, registrazioni di conversazioni. 

Le funzionalità di Video Dubbing, invece, permettono di tradurre file video in svariate lingue, facilitando così la diffusione di video in più Paesi. Il sistema è interamente automatizzato e un'azienda, per esempio, potrebbe mettere in piedi con pochi clic un workflow per caricare tutti i video di un canale Youtube e far sì che il sistema si occupi della traduzione e del doppiaggio in altre lingue. 

Arrivano le nuove macchine virtuali basate su CPU Arm

Sono ora disponibili in anteprima le VM basate sui nuovi processori Cobalt 100 di Arm annunciati lo scorso novembre, e le VM Azure ND MI300X v5. 

Le macchine virtuali basate su Arm Cobalt 100 sono le prime basate sulle CPU Cobalt 100 di Microsoft, un processore sviluppato su misura su un’architettura Arm e ottimizzato per carichi di lavoro general-purpose e cloud-native. Queste macchine virtuali sono pensate per workload quali applicazioni web, microservizi e database open-source. Le prestazioni sono superiori fino al 40% rispetto alla precedente generazione di VM basate su Arm.

Le nuove VM ND MI300X v5, invece, sono state progettate per i carichi di lavoro di IA e, più in generale, di calcolo ad alte prestazioni. Sono basata sugli acceleratori di IA AMD Instinct MI300X e dispongono di 1,5 TB di memoria. La parte di networking è basata su processori NVIDIA Quantum-2 CX7 InfiniBand, così da permettere di creare sistemi con migliaia di macchine virtuali e decine di migliaia di GPU. 

E non finisce qui...

La lista di novità per Azure AI Services annunciate in occasione di Microsoft Build è sterminata. Oltre a quanto detto, arriverà la Real-Time Intelligence in Microsoft Fabric, per semplificare l'analisi di dati in tempo reale tramite esperienze no code/low code. E arriverà anche un Copilot per Fabric. L'IA potenziare anche Azure Database per PostgreSQL ed è stato potenziato Azure Cosmos DB, database sviluppato specificatamente per le applicazioni di IA. 

Arriva Microsoft Azure Compute Fleet, soluzione per semplificare la gestione delle risorse computazionali su Azure, semplificando la creazione e distribuzione di macchine virtuali: basterà una singola chiamata API per creare e distribuire complessi sistemi con un massimo di 10.000 macchine virtuali. 

Infine, qui abbiamo fatto un approfondimento sugli annunci relativi a Edge, Copilot e Microsoft 365, mentre qui abbiamo fatto una carrellata delle principali novità per gli sviluppatori.