Private AI: disponibili i Server GPU dedicati con GPU NVIDIA di Aruba, per workload di IA sicuri e riservati

L'intelligenza artificiale è una delle tecnologie emergenti più richieste e utilizzate dalle aziende italiane, che ne riconoscono i benefici in termini di efficienza, innovazione e competitività. Tra le applicazioni più diffuse di IA nelle aziende italiane ci sono l'analisi predittiva, il machine learning, i chatbot per l’assistenza tecnica, la computer vision per l’analisi dei difetti e molto altro. Ci sono ancora nodi da scogliere sulla privacy, ma Aruba ha una soluzione: i Server GPU, server dedicati pensati per applicazioni di Private AI. Il vantaggio? La certezza di poter avere un completo controllo sulle applicazioni di IA e i relativi dati. 

Arrivano i Server GPU di Aruba

Ci sono due modi per usare applicazioni di IA nella totale privacy: acquistare dei server dedicati da installare on premise oppure affittare dei server sui quali si ha il totale controllo. Il primo caso impone degli investimenti Capex, nel secondo il vantaggio è che si può sfruttare un modello pay per use, affittando il server solamente quando necessario e pagando un abbonamento mensile. Quest’ultimo è il caso dei Server GPU dedicati proposti da Aruba. Che si differenziano da quelli “standard” proprio per il fatto che adottano delle GPU specifiche.

Per i complessi calcoli relativi ai carichi di lavoro di IA, infatti, non bastano le CPU, per quanto potenti: è necessario appoggiarsi a delle GPU, nello specifico a quelle di NVIDIA, a oggi leader di settore per questo tipo di chip. Esistono vari tipi di schede grafiche in grado di accelerare i calcoli relativi all’IA, alcune delle quali inaccessibili ai più, come le H100, difficili da trovare e particolarmente costose: parliamo di 25.000/30.000 euro ciascuna.

Non sempre però è necessario dotarsi di elaboratori così potenti: anche GPU facilmente reperibili sul mercato, come le GeForce RTX 4070 Super e 4080 Super, sono adatte a svariati compiti, a partire dalla computer vision, che può essere utilizzata in fabbrica per l’ispezione dei prodotti alla ricerca dei difetti. Ma anche in altri ambiti: per esempio, nella sicurezza, dove combinate con videocamere ad alta definizione possono rilevare intrusioni non autorizzate, ma anche garantire la sicurezza dei lavoratori, per esempio analizzando quanto accade negli spazi di lavoro e individuando eventuali incidenti, come la caduta o lo svenimento di un lavoratore. In ambiti specifici, possono anche sfruttare il riconoscimento facciale per un controllo degli accessi più efficace.

Non sono gli unici esempi: le GeForce 4070/4080 Super si prestano anche all’utilizzo con Llm progettati per la generazione di immagini a partire da prompt. Invece di affidarsi alle soluzioni online, alcune aziende potrebbero infatti preferire usare il loro stock di immagini come base di addestramento e utilizzare applicazioni come Mindjourney, che girano in locale e garantiscono un maggiore controllo rispetto ai generatori di immagini AI based disponibili online. Anche l’analisi di documenti, o la traduzione in altre lingue, in certi casi è preferibile effettuarla in locale: pensiamo per esempio a documenti contenenti segreti industriali o dati molto sensibili, che è meglio evitare di dare in pasto ad aziende terze, per quanto considerate affidabili.

È proprio su queste schede video che Aruba ha puntato per la sua offerta di server con GPU dedicata. Nello specifico, sono due i Server GPU che Aruba mette a disposizione per le applicazioni di Private AI: AI - A108 e AI - A109. Entrambi basati su CPU AMD Ryzen 7000 (rispettivamente Ryzen7 7700x e Ryzen9 7900x), si distinguono per la quantità di RAM e la GPU. AI – A108 parte da una configurazione con 64 GB di RAM (espandibli a 128 GB) e monta una GeForce 4070 Super con 12 GB di VRAM. AI – A108, invece, è dotato di 128 GB di RAM (non ulteriormente espandibile) e adotta una GPU GeForce 4080 Super con 16 GB di VRAM. Entrambi sono dotati di dischi NVMe da 2 TB (è possibile montarne un massimo di 6) e di connettività a 1 Gb/s. 
I server sono fisicamente ubicati in Italia, più specificatamente ad Arezzo, che è un ulteriore plus sotto il profilo della privacy: non solo i dati sono accessibili solamente dall’utente, che ha il totale controllo sul sistema, ma non usciranno mai dal territorio italiano. I prezzi? Si parte da un minimo di 193,75 euro al mese (IVA esclusa) per AI - A108 e da 276,83 euro al mese, sempre IVA esclusa, per AI – A109.

Ma a chi è dedicata questa offerta, e perché la Private AI è un tema importante per le aziende? Per capirlo è prima necessario comprendere il contesto in cui operiamo.

I numeri dell’IA in Italia

Sebbene sia una tecnologia che solo di recente è accessibile a un vasto pubblico di imprese, la diffusione è già notevole: nel 2020 il mercato italiano dell’IA valeva 300 milioni secondo l’Osservatorio Artificial Intelligence del Politecnico di Milano, ma già nel 2023 questo valore è cresciuto notevolmente, arrivando a 760 milioni e registrando un incremento del 52% rispetto al precedente anno, sempre secondo l’Osservatorio. Un dato che fa riflettere è la penetrazione di questa tecnologia, ormai adottata in qualche forma da più della metà delle imprese italiane (53%).

Il settore in cui l’adozione è più matura è quello del manifatturiero, che da tempo la utilizza per la manutenzione predittiva dei macchinari e per la rilevazione dei difetti tramite computer vision, ma recentemente anche realtà operanti in altri ambiti ne hanno accelerato l’adozione. Per esempio, per automatizzare processi noiosi e ripetitivi, o per creare chatbot molto efficienti nel customer care. Anche nell’ambito della sicurezza informatica l’intelligenza artificiale si sta dimostrando estremamente utile, dato che aiuta gli esperti IT ad analizzare velocemente log e avvisi di sistema, andando alla ricerca di eventuali anomalie. Lavori che, svolti manualmente, richiedono parecchio tempo, che potrebbe essere dedicato ad attività più strategiche e a valore aggiunto.

Intelligenza artificiale e privacy

Molte imprese hanno abbracciato con entusiasmo l’IA in varie forme, ma va anche detto che in generale si nota una certa prudenza sia nell’adottarla sia nell’estenderne ulteriormente l’utilizzo. Il motivo è da ricercare nei dubbi relativi alla privacy, espressi anche dal Garante della Privacy italiano e dai suoi omologhi europei. Non sempre è chiaro come verranno utilizzati i dati caricati dagli utenti. Il timore è che possano venire usati per addestrare ulteriormente i modelli dei principali attori del mercato, in alcuni casi. In altri, invece, il nodo è relativo alla conformità normativa: dove vengono elaborati questi dati? Sono trasferiti fuori dall’UE? E come vengono trattati? Temi fondamentali per le imprese che operano in settori regolamentati come la finanza o la sanità, ma che interessano in varie misure anche le aziende attive in altri settori.

Non è un caso che l’UE abbia proprio di recente pubblicato l’UE AI Act, una serie di regole che governano lo sviluppo e l’utilizzo dei sistemi di intelligenza artificiale all’interno dell’Unione Europea. Un documento che deve ancora essere ratificato dai singoli Stati, ma che mette degli specifici paletti al suo utilizzo, così da garantire che le applicazioni che fanno uso dell’IA seguano dei principi etici e di sicurezza. Si tratta di un framework che specifica quali applicazioni sono lecite e quali totalmente inaccettabili: fra queste ultime, per esempio, l’utilizzo dell’IA per sistemi di scoring sociale come quelli adottati in Cina, lesivi della privacy e della dignità delle persone. Ma l’UE AI Act non si limita a questo, e pone precise condizioni per la privacy e la data governance. 

Per garantire un’adozione sicura e rispettosa della privacy dell’IA, Aruba ha ampliato la sua offerta di server dedicati che, con i Server GPU, ora può contare su workstation con GPU NVIDIA.