Amazon Bedrock: gli strumenti di AWS per realizzare app di IA generativa

L'IA generativa è il tema del momento e tutti i colossi del mondo IT stanno integrando soluzioni di questo tipo nelle loro applicazioni, per aiutare gli utenti a scrivere testi più velocemente, a generare immagini partendo da descrizioni, a far scrivere alle macchine porzioni di codice. 

AWS offre da tempo strumenti di IA sulla sua piattaforma e recentemente il colosso del cloud ha annunciato ulteriori novità: Amazon Bedrock, per rendere l'IA generativa più accessibile, la disponibilità di istanze Amazon EC2 Inf2 alimentate dai chip AWS Inferentia2 e nuove istanze Trn1n alimentate dai chip AWS Trainium.

Creare app di IA generativa è più semplice con Amazon Bedrock

L'idea alla base di Amazon Bedrock è quella di democratizzare lo sviluppo di applicazioni che fanno leva sull'IA generativa. Tramite questo servizio, gli utenti avranno accesso a un'ampia gamma di foundation models (FM) già pronti, sviluppati sia da Amazon sia da varie startup che collaborano con l'azienda. Gli utenti potranno semplicemente caricare i loro dati per addestrare questi modelli. Fra i FM disponibili segnaliamo Jurassic-2, per la generazione di testi in spagnolo, francese, portoghese, italiano e olandese; Claude, un FM progettato per la generazione di testi e l'automazione di workflow; Stable Diffusion, per la generazione di immagini; Amazon Titan, per l'estrazione di informazioni da testi e la creazione automatica di riassunti. 

A quanto dichiara Amazon, il funzionamento di Bedrock è estremamente semplice: basterà caricare alcuni esempi di testi o immagini già etichettati su Amazon S3 e darli in pasto al FM selezionato. Non servono grandi volumi di informazioni: sono sufficienti circa 20 esempi per iniziare ad addestrare i modelli. 

Arrivano le istanze Amazon EC2 

Su AWS sono ora disponibili nuove istanze EC2 Trn1n basata su processori AWS Trainiium. Questi chip sono progettati per accelerare i calcoli relativi a machine learning e deep learning e secondo Amazon sono la soluzione più efficace per questo tipo di elaborazioni, dal momento che consentono un risparmio nei costi del 50% circa rispetto a configurazioni basate su GPU.

Per addestrare modelli con una quantità enorme di parametri (fino a centinaia di miliardi di parametri, sostiene AWS), sono disponibili le nuove istanze Amazon EC2 Inf2, in questo caso basate sui chip AWS Inferentia2, che offrono prestazioni di calcolo sino a tre volte superiori rispetto a Inf1 e una latenza inferiore di 10 volte. 

Amazon CodeWhisperer, l'IA a supporto dei programmatori

Amazon CodeWhisperer è un'IA addestrata sulla base di miliardi di righe di codice e progettata per supportare gli sviluppatori nella scrittura di codice. I programmatori potranno limitarsi a indicare in linguaggio naturale cosa deve fare il programma e CodeWhisperer realizzerà il codice in automatico, già commentato.

Secondo Amazon, i vantaggi di questa applicazione sono numerosi: come facilmente intuibile, permette di accelerare notevolmente i tempi di sviluppo affidando alcuni compiti all'IA, ma non solo. Considerato che spesso gli sviluppatori copiano parti di codice già realizzate da altri, riduce il rischio di problemi relativi al copyright e migliora la sicurezza, dato che non sempre il codice che si trova online rispetta i migliori standard. 

Un dettaglio non trascurabile è che CodeWhisperer è gratuito per i singoli sviluppatori (non per le aziende).