Google Cloud Next '23: la protagonista è l'IA generativa

Infrastrutture ottimizzate per l'IA; nuovi strumenti per Vertex AI; l'integrazione dell'assistente Duet AI in Google Workspace e Google Cloud... in occasione di Google Cloud '23, Big G fa all in sull'IA, in particolare quella generativa. Praticamente tutti gli annunci e tutte le novità sono legati alla tecnologia che ultimamente sta rivoluzionando non solo il modo di lavorare, ma anche l'approccio stesso al lavoro.

Google Cloud aggiorna l'infrastruttura per accelerare lo sviluppa dell'IA

Thomas Kurian, CEO di Google Cloud, ha aperto l'evento Google Cloud '23 annunciando le tante novità sulle quali ha lavorato, e sta continuando a lavorare, l'azienda. Fra le novità di spicco quelle relative all'infrastruttura, ora ottimizzata proprio per sfruttare al meglio l'intelligenza artificiale.  Secondo Kurian, si tratta della "più avanzata infrastruttura ottimizzata per l'IA per le aziende in grado di addestrare e gestire modelli. Offriamo questa infrastruttura nelle nostre Cloud region, affinché venga implementata nei vostri data center con Google Distributed Cloud e sull'edge".

Secondo il manager, a oggi l'infrastruttura di Google Cloud è quella più adatta per le aziende che vogliono puntare sull'IA, tanto che "più del 70% degli unicorni [le startup che hanno superato il miliardo di dollari di capitalizzazione NdR] nel campo dell’intelligenza artificiale generativa sono clienti Google Cloud, tra cui Anthropic, Cohere, Jasper, MosaicML, Replit, Runway e Typeface". Lo stesso discorso vale per le startup, dato che "più della metà di tutte le startup di IA generativa finanziate sono clienti di Google Cloud, tra cui aziende come Copy.ai, CoRover, Elemental Cognition, Fiddler AI, Fireworks.ai, PromptlyAI, Quora, Synthesized, Writer e molte altre".

In occasione dell'evento annuale, Google Cloud ha annunciato una serie di novità, a partire da una nuova piattaforma hardware per accelerare i calcoli relativi all'IA: Cloud TPU V5e. Il principale vantaggio di questa soluzione è che è in grado di gestire sia i calcoli relativi all'addestramento dei modelli di IA, sia quelli relativi all'inferenza. Parliamo di un'architettura scalabile, che può utilizzare decine di migliaia di questi chip. Rispetto alla precedente incarnazione, Cloud TPU v4, offre prestazioni doppie per i calcoli relativi al training dei modelli e fino a 2,5 volte superiori nel calcolo dell'inferenza. 

Non si tratta dell'unico annuncio relativo alla potenza di calcolo: entro settembre, infatti, gli utenti potranno anche appoggiarsi al nuovo supercomputer A3, basato sulle GPU H100 di NVIDIA. Un elaboratore costruito appositamente con reti ad alte prestazioni e con ulteriori miglioramenti che consentono di supportare le innovazioni di IA generativa e dei modelli linguistici di grandi dimensioni (LLM) più esigenti sul mercato. Secondo quanto afferma Kurian, A3 garantisce una banda superiore sino a 10 volte rispetto ad A2 ed è in grado di accelerare fino a tre volte i calcoli per l'addestramento dei modelli linguistici.

Annunciata anche Cross-Cloud Network, piattaforma di rete globale che aiuta i clienti a connettere e proteggere le applicazioni tra i vari cloud. È aperta e offre una sicurezza basata sul ML per garantire una totale affidabilità. Il vantaggio è che è stata progettata per consentire ai clienti di accedere più facilmente ai servizi Google da qualsiasi cloud: è in grado di ridurre la latenza di rete fino al 35%. 

Potenziato Vertex AI

Vertex AI è la piattaforma di Google Cloud progettata per creare, distribuire e scalare modelli di apprendimento automatico. Fra le novità, la disponibilità di Vertex AI Search e Conversation, strumenti per realizzare applicazioni di chat e ricerca utilizzando i propri dati, nel pieno rispetto della privacy, una funzionalità fondamentale per le imprese.

Arriva anche Generative AI Studio, un insieme di strumenti per personalizzare i modelli di machine learning, e sono stati aggiornati PaLM 2, Imagen e Codey. "Stiamo aggiornando PaLM 2 alle finestre contestuali da 32k, in modo che le aziende possano elaborare facilmente documenti più lunghi, come documenti di ricerca e libri. Stiamo anche migliorando l'aspetto visivo di Imagen ed estendendo il supporto per nuove lingue in Codey", afferma Kurian.

A breve, inoltre, saranno disponibili nuovi LLM, nello specifico Llama (sviluppato da Meta) e Falcon LLM del Technology Innovation Institute. In futuro arriverà anche Claude 2 di Anthropic. 

Arriva Duet AI su Workspace e Google Cloud

Duet AI è l'equivalente di Copilot di Microsoft: un'IA generativa integrata in Workspace e in Google Cloud che aiuterà i lavoratori a migliorare la loro produttività. A tutti gli effetti un assistente virtuale in grado di rispondere a domande sul funzionamento del software, di elaborare testi, tradurli, ricercare informazioni, generare immagini. Già disponibile da alcuni mesi, è stato recentemente potenziato con nuove funzionalità annunciate in occasione di Cloud Next '23.

Nello specifico, è stato integrato Duet AI in Google Meet, dove si occuperà di prendere appunti, riassumere le conversazioni, tradurre automaticamente i testi (sono supportate 18 lingue al momento).

Anche Google Chat potrà godere del supporto di Duet AI, che ora fa la sua apparizione anche in Google Cloud, dove fornirà supporto agli sviluppatori per la scrittura di codice, assistendoli anche nel refactoring delle applicazioni. Non solo: gli operatori possono ora chattare con Duet AI in linguaggio naturale su una serie di servizi direttamente nella Google Cloud Console per recuperare rapidamente informazioni sulla configurazione dell'infrastruttura, sulle best practice di implementazione e su raccomandazioni di esperti sull'ottimizzazione dei costi e delle prestazioni.

Introdotto Duet AI per Big Query, che fornisce assistenza contestuale per la scrittura di query SQL e di codice Python, genera funzioni e blocchi di codice completi, suggerisce automaticamente il completamento del codice e spiega le istruzioni SQL in linguaggio naturale, e può generare raccomandazioni basate sullo schema e sui metadati dell’azienda. A breve, inoltre, Duet AI potrà supportare le persone anche nel mettere in sicurezza l'infrastruttura di rete, aiutando gli esperti a prevenire minacce ed incidenti informatici e, in generale, a semplificare e velocizzare il loro lavoro. 

Fra le altre novità relative alla cybersecurity annunciate durante l'evento: 

• Mandiant Hunt for Chronicle: un servizio che integra le più recenti conoscenze degli esperti in prima linea di Mandiant sul comportamento degli aggressori con la capacità di Chronicle Security Operations di analizzare e ricercare rapidamente i dati sulla sicurezza, aiutando i clienti a ottenere un supporto di livello superiore senza l'onere di assunzioni, strumenti e formazione; 
• scansione delle vulnerabilità agentless: queste funzionalità di gestione della postura in Security Command Center rilevano le vulnerabilità del sistema operativo, del software e della rete sulle macchine virtuali Compute Engine;
• miglioramenti nella sicurezza di rete: Cloud Firewall Plus aggiunge una protezione avanzata dalle minacce e funzionalità di firewall di nuova generazione (NGFW) al servizio di firewall distribuito, supportato da Palo Alto Networks; e Network Service Integration Manager consente agli amministratori di rete di integrare facilmente appliance virtuali NGFW di terze parti per l'ispezione del traffico.