Nuove soluzioni di IA da AWS: disponibili Amazon Bedrock e Amazon Titan Embeddings

AWS, come tutti gli hyperscaler, sta accelerando notevolmente sul fronte dell'IA generativa (e non). Di recente, la multinazionale ha reso disponibile per tutti Amazon Bedrock, una piattaforma progettata per realizzare applicazioni che si appoggiano ai LLM. Arriva anche Amazon Titan Embeddings, un LLM pensato per sfruttare l'IA utilizzando i propri dati. Non sono le uniche novità: AWS ha annunciato anche nuove funzionalità di intelligenza artificiale generativa per CodeWhisperer e QuickSight.

Amazon Bedrock: i principali LLM accessibili tramite API

Dall'uscita di ChatGPT, abbiamo assistito a un'enorme diffusione di modelli linguistici di grandi dimensioni, sia generalisti sia per utilizzi più specifici. Amazon Bedrock è un servizio di AWS che permette di realizzare applicazioni appoggiandosi a differenti Foundation Model, cioè dei modelli di machine learning pre-addestrati su grandi quantità di dati. 

Il vantaggio di Amazon Bedrock è che consente di integrare vari modelli di IA generativa all'interno delle applicazioni, evitando alle imprese di dover effettuare ingenti investimenti in infrastrutture per addestrare i propri modelli internamente. Gli utenti potranno poi integrare i propri dati all'interno delle applicazioni create. Amazon afferma di dare molta importanza alla privacy, garantendo totale trasparenza su come verranno trattate queste informazioni. 

Al momento, sono supportati i LLM AI21 Labs, Anthropic, Cohere, Stability AI, oltre a quello di Amazon. A breve sarà aggiunto anche il supporto a LLama 2, il LLM di Meta. Fra i casi d'uso di Amazon Bedrock la generazione di testo e immagini, la creazione di chatbot, la ricerca di informazioni.

Amazon Titan Embeddings: la Retrieval-Augmented Generation è accessibile a tutti

Amazon Titan è un servizio che include una serie di Foundation Model pre-addestrati e pronti all'uso. "Questi FM tornano particolarmente utili ma, per poter fornire risposte basate sui dati privati, è necessario sfruttare la tecnica RAG, Retrieval-Augmented Generation. All'atto pratico, RAG è un approccio che permette di connettere questi modelli pre-addestrati a nuove fonti di dati. Per farlo, però, è necessario possedere competenze specifiche di machine learning. Qui entra in gioco Amazon Titan Embeddings, che semplifica questo processo. Al momento, supporta 25 lingue e contesti lunghi, sino a 8.000 token, come GPT-4 (GPT-3 è limitato a 4.000 token).

Nuove funzionalità per Amazon CodeWhisperer

Amazon CodeWhisperer è un'IA sviluppata da AWS è concepita per supportare i programmatori nella stesura e revisione di codice, una delle applicazioni dove l'IA si sta dimostrando più utile nel migliorare la produttività. Il problema è che gli sviluppatori si trovano spesso a utilizzare API, librerie e classi non incluse nell'addestramento del modello, e quindi risulta difficile ottenere suggerimenti su questi specifici asset, spesso proprietari delle aziende. 

Amazon CodeWhisperer permette di "dare in pasto al modello, in maniera rispettosa della privacy, la propria documentazione proveniente da GitHub o da sorgenti interne all'azienda, cosi da migliorare la conoscenza dello strumento e ottenere suggerimenti su materiale per il quale CodeWhisperer non è stato addestrato.