'Intelligenza' artificiale ingannata facilmente dal testo: la mela diventa un iPod

Probabilmente non bisognerà far sostenere alle IA un test Voigt-Kampf, come accade in Blade Runner per individuare i replicanti, per poter capire se si tratti di intelligenze artificiali. CLIP, intelligenza artificiale sviluppata da OpenAI per riconoscere immagini, disegni e testi che trattano gli stessi soggetti, viene infatti ingannata facilmente inserendo testi non correlati alle immagini, stando a quanto hanno scoperto gli scienziati.

L'intelligenza artificiale ingannata dai testi: un rischio potenziale

CLIP è un progetto di ricerca e non è ancora utilizzato in alcun prodotto commerciale, ma rimane uno dei sistemi di intelligenza artificiale per la visione computerizzata più avanzati tra quelli sviluppati finora. Nonostante ciò, i ricercatori di OpenAI hanno scoperto che può essere facilmente ingannato usando i cosiddetti "attacchi tipografici". "Sfruttando l'abilità del modello di leggere i testi in maniera efficace, abbiamo scoperto che anche fotografie di testo scritto a mano possono spesso ingannare il modello", spiegano i ricercatori in un articolo sul blog di OpenAI.

In questo modo una mela con applicato un foglio e la scritta a mano "iPod" viene riconosciuta come un iPod dall'IA: un errore che nessun essere umano farebbe, dato che il cervello umano è cosciente del contesto e riesce a distinguere tra l'oggetto principale (in questo caso una mela) e uno applicato sopra di esso. Allo stesso modo, applicare il simbolo del dollaro su una motosega fa pensare all'IA che si tratti di un salvadanaio (come da immagine di seguito). Se pensiamo a quanto i sistemi di IA siano sempre più utilizzati nella videosorveglianza e nel riconoscimento automatico di testi (basti pensare alla lettura dei dati delle targhe sui veicoli), è palese che ci sia un problema da risolvere.

Questo attacco viene reso possibile dal modo in cui apprende CLIP, che è più simile a quello degli umani: a un singolo concetto possono corrispondere diverse componenti come immagini, testi, idee, sensazioni, odori e altro ancora. Nel caso di CLIP ci sono immagini, disegni e testi. CLIP reagisce dunque non solo alle immagini in quanto tali, ma ai concetti astratti. Dopotutto, se leggete la parola "elefante" molto probabilmente penserete a un elefante oppure, se vi chiedessero di che colore è la parola "bianco", difficilmente rispondereste "nero".

Questo problema è presente anche, ad esempio, con l'IA che si occupa del riconoscimento delle immagini sulle automobili Tesla: è facilmente ingannabile da adesivi posti sulla strada, cosa che può portare a reazioni impreviste e potenzialmente pericolose. Non si tratta, però, di un'esclusiva delle macchine: anche gli uomini, vedendo cartelli di stop o di pericolo in luoghi inattesi, tendono a reagire in maniera imprevedibile (e, dunque, potenzialmente pericolosa). Il problema è dunque raggiungere un equilibrio che porti le macchine a non avere gli stessi pregiudizi e le stesse reazioni imprevedibili delle persone, così da permettere alla società nel complesso di avanzare oltre le limitazioni attuali.

Al momento questa facilità con cui vengono ingannate le IA è un problema, ma in futuro potrebbe trattarsi di un'opportunità, dato che potrebbe portare a sistemi più sofisticati. Per il momento ci sono problemi di bias (traducibile come "pregiudizio, preconcetto, propensione, predilezione") anche per quanto riguarda alcuni specifici temi: dato che CLIP viene addestrato con informazioni provenienti da Internet, ci sono segnali di razzismo che portano, ad esempio, ad associare il Medio Oriente al terrorismo o le persone nere ai gorilla.

Ci sono ancora molti passi avanti da fare prima che le IA possano raggiungere il livello di affidabilità delle persone nel riconoscere gli oggetti. Questo caso ci dimostra però che per evitare problemi basta, in fondo, che nessuno metta su una fotografia di una mela la scritta "cadrega".