Juniper Networks: l'IA per le reti e le reti per l'IA. Ne parliamo con Mario Manfredoni

È da ormai molto tempo che Juniper parla di intelligenza artificiale applicata al mondo delle reti: è dall'acquisizione nel 2019 di Mist, azienda che ha sviluppato un sistema per monitorare e risolvere i problemi sulle reti e che ora è al centro della strategia di Juniper.

Mist è un sistema che consente di monitorare lo stato della rete e dei dispositivi e propone in automatico possibili soluzioni in caso di problemi; si tratta di uno dei primi esempi sul mercato di IA applicata al miglioramento dell'esperienza d'uso delle reti. Ne abbiamo parlato con Mario Manfredoni, Senior Director South Europe di Juniper Networks, per capire meglio come Mist rientri nella strategia di Juniper e come invece l'azienda approcci un altro tema estremamente importante, ovvero quello delle reti per i data center dove si addestrano e fanno funzionare le applicazioni d'IA.

La rivoluzione copernicana dell'IA applicata alle reti

"Per quasi 30 anni siamo stati abituati a parlare di esperienza di rete, di dispositivi collegati, di quante porte ha un dispositivo di rete, qual è il throughput, qual è il consumo, qual è l'uptime. Non ci siamo interessati molto a cosa ne pensa l'utilizzatore, al fatto che pure con una ricezione di 5 tacche non si riuscisse a fare una videochiamata o a scaricare la posta: l'esperienza dell'utilizzatore non è stata pressoché mai considerata, era un di più, anche perché oggettivamente non si sapeva come monitorarla, come misurarla, come tenerla in considerazione", ci dice Manfredoni. "Poi nel 2019 abbiamo acquisito una società, Mist, di cui abbiamo mantenuto il marchio, il logo, che non è più il nome della società ma è quello della soluzione. Mist faceva access point. Può sembrare strano, perché Juniper che vuol vendere valore acquisisce in ambito consumer. In realtà, ai più era sfuggito che dietro all'acquisto di questa società che produceva access point c'era uno strano sistema di gestione, basato su IA e machine learning, che gestiva la rete Wi-Fi in maniera diversa."

Mist è ora uno dei pilastri fondanti dell'offerta di Juniper, che punta moltissimo proprio sulla presenza di questo software all'interno della sua offerta per differenziarsi dalla concorrenza. Nel tempo, Mist si è evoluto e ha acquisito nuove abilità, ma resta fermo il caposaldo dell'esperienza: "Mist dal giorno uno è nata per rispondere all'esigenza di dimenticarci il device, dimenticarci della rete, e pensare solo ed esclusivamente all'utilizzatore finale, al caso d'uso, al terminale."

Non si tratta, però, solo di software. Un elemento importante è stato la presenza di hardware che permettesse di gestire la raccolta dei dati necessari a far funzionare il sistema. Manfredoni ci racconta che "dal 2014 il sistema ha cominciato a raccogliere dati dagli hotspot, che non erano "off the shelf": era hardware capace di poter monitorare più di 60 diversi stati logici per ciascun client collegato. Questa mole di dati è stata la base di partenza dell'intelligenza artificiale di Mist. Dal 2014 abbiamo un'IA che sta continuando a crescere, a imparare, nel 2019 l'abbiamo acquisita, tra il 2020 e il 2022 abbiamo aumentato le sorgenti e i dati telemetrici aggiungendo al Wi-Fi anche la parte di switch, la parte di SD-WAN, la parte di prodotti di rete geografica come i router, abbiamo aggiunto e integrato il mondo cloud data center."

Com'è ormai noto, infatti, l'IA necessita di molti dati di alta qualità per essere efficace e raccoglierli dagli access point ha dato a Mist la possibilità di ottenerne grandi quantità, per di più relative a situazioni reali. Ciò le ha permesso di sviluppare un'IA basata su casi reali e non simulati. Ma a cosa serve l'IA nelle reti?

"Trasforma il paradigma, che non è più legato al dispositivo, ma all'esperienza della persona e dell'applicazione, del caso d'uso che sta dietro il dispositivo. Non si va più a verificare la connettività: non vado più, come facevo vent'anni fa, a vedere se le icone erano gialle, verdi o rosse, ma vado a vedere l'utente e se questo per collegarsi e autenticarsi in rete, anziché 200 millisecondi, ce ne ha messi due di secondi. Vado a vedere se questo problema è stato causato da un DHCP che ha risposto con un ritardo perché ha problemi", ci dice Manfredoni.

"Questo è possibile grazie al fatto che l'IA è in grado di raccogliere i dati telemetrici e caricarli in un'infrastruttura sicura, in data center su cui noi possiamo dare il nostro contributo ed elaborarli coi motori di machine learning e intelligenza artificiale. A questo bisogna aggiungere il fatto che non mi interfaccio più alla rete con una tastiera pensando alla CLI di ciascun dispositivo che è nella catena della connettività, ma con un linguaggio naturale chiedendo all'assistente di rete virtuale Marvis: 'Ciao Marvis, come va oggi la rete? Quali sono oggi gli utenti che sono insoddisfatti? Quali sono i problemi che hai riscontrato?' Questo, ed è matematicamente comprovato dai clienti, porta a una riduzione drammatica del numero di pratiche da risolvere: ServiceNow, che è un nostro cliente, dichiara che li ha abbattuti del 90%. È magia? No, non è magia. Per i primi 15 giorni Marvis non ha fatto altro che continuare a dirti tutti i problemi aperti che trovava; tu dovevi sistemarli, che si trattasse di un cavo guasto, di una VLAN che mancava, di una configurazione di un terminale con i driver sbagliati. Stabilizzata la rete, tutti i nuovi casi sono tendenzialmente prevedibili e vengono anticipati. Per quel 10% rimanente, grazie all'informazione che Marvis dà, c'è un abbattimento del 50% del tempo di risoluzione. E questo è il nuovo paradigma: io non penso più al dispositivo, non penso più all'uptime, alla connettività, a bit e byte, alla CLI, ma penso a quella che è l'esperienza."

La conclusione, insomma, è proprio questa: per Juniper l'IA non è un'aggiunta dettata dalla moda del momento, ma una ben ponderata e che mira ad aggiungere effettivamente qualcosa all'esperienza sia degli amministratori, sia degli utenti. Per molti versi è una rivoluzione copernicana, come dicevamo nel titolo del paragrafo: gli aspetti tecnici diventano davvero una base su cui costruire l'esperienza degli utilizzatori della rete, dal momento che questa può ora essere misurata e gestita realmente. In passato non era così e bisognava giocare un po' al gatto e al topo nella continua ricerca di eventuali problemi, talvolta senza la possibilità di trovare le soluzioni per via della complessità delle reti odierne.

Dall'IA per le reti alle reti per l'IA

C'è però un altro aspetto da considerare, che è quello delle reti per l'IA. Se finora abbiamo parlato di IA per le reti, esiste anche l'opposto, che è sempre più rilevante vista l'esplosione che c'è stata negli ultimi anni di data center dedicati all'IA. Davide Bianchini, data center e automation sales manager di Juniper Networks, ci racconta l'offerta di Juniper in questo ambito: "oggi è noto che le GPU, praticamente per un 30%, non lavorano, perché aspettano che la rete finisca dei job. Quindi, da questo punto di vista, completare i job più rapidamente vuol dire fare avere anche un miglior ritorno nell'investimento delle GPU. Quindi la rete, se ieri era un di più, oggi è diventata una commodity."

Con ciò Bianchini (in foto qui sopra) intende che la rete è diventata una funzione essenziale che deve funzionare e che non conta più in quanto tale, ma come base su cui costruire qualcos'altro - in questo caso l'IA. "Noi diciamo che sta avendo una rilevanza perché le GPU, fra l'altro, costano, tanto che per un server con dentro 8 GPU si parla di 300.000€. Quindi da questo punto di vista immaginiamo cosa vuol dire avere un cluster con 1.024 GPU o quasi: in genere è un costo molto elevato. In quest'ambito, quindi, se la rete è in grado di migliorare lo sfruttamento delle GPU, vuol dire che mi aiuta anche a avere un miglior ritorno nell'investimento. E come Juniper siamo stati primi a rilasciare per esempio uno switch con chipset Express 5, che è ritenuto un riferimento in quest'ambito, che è praticamente uno switch con tutte le porte 800G."

È qui, però, che emerge un punto, che è quello degli standard. Finora il mondo delle reti ad alte prestazioni è stato dominato da InfiniBand, tecnologia il cui hardware era prodotto da Mellanox, azienda acquisita nel 2019 da NVIDIA che rimane di fatto monopolista di mercato. InfiniBand è oggi impiegata sulla maggioranza dei supercomputer, ma Ethernet sta recuperando la distanza accumulata negli anni e sta diventando nuovamente competitiva. C'è poi un altro aspetto, che è quello che citava Bianchini della commoditisation delle reti, ovvero del passaggio di queste a "mattoncini" con cui costruire altro ma che, in quanto componente di un sistema più ampio, perde per certi aspetti rilevanza e diventa un elemento da gestire più ad alto livello: Ethernet ha a disposizione svariate soluzioni di gestione che sono, invece, assenti per InfiniBand.

A questo proposito, Manfredoni ci dice che per Juniper "l'obiettivo è quello di sostituire InfiniBand, anche perché è una tecnologia che fa solo NVIDIA tramite l'acquisizione di Mellanox e non è compatibile con soluzioni prodotte da AMD, Intel o altri. Da questo punto di vista, quindi, qualcuno già 10 anni fa pensava che era già morta, invece è ancora qua. Oggi però ci sono veramente i presupposti per andare a sostituirla e usare una tecnologia standard, Ethernet, con dei meccanismi ad hoc come RDMA che gestiscono congestione, load balancing etc. Quindi in quest'ambito noi stiamo lavorando in questa direzione, anche se stiamo collaborando con NVIDIA sulla parte di GPU: abbiamo un laboratorio negli Stati Uniti, che abbiamo già realizzato, dove andiamo a fare proprio anche i confronti tra InfiniBand ed Ethernet. InfiniBand è una soluzione che, a differenza per esempio di Juniper che ha messo anche Apstra su Ethernet, e che quindi governa tutto l'ambiente, non è così ottimizzata [dal punto di vista della gestione]."

Sarà interessante, dopo che si chiuderà l'acquisizione da parte di HPE, vedere come evolverà la strategia di Juniper e quanto questo approccio avrà un riflesso, invece, sulla strategia di HPE nel mondo HPC.