Intelligenza ArtificialeOpenAI

La California vuole imporre un kill switch per le IA

di pubblicata il , alle 18:22 nel canale data La California vuole imporre un kill switch per le IA

La California vuole regolamentare l'utilizzo delle IA. Nella proposta di legge, che verrà votata ad agosto, si parla anche di un possibile kill switch per disattivare le IA se rappresentano una minaccia per la società. Ma molte aziende sono perplesse e temono un grosso freno all'innovazione

 

Gli USA fanno, la Cina copia e l'Europa regolamenta. È un aforismo che gira spesso nel settore IT, e che in qualche maniera riflette l'approccio di ogni Paese all'innovazione. Gli americani tendono a correre sulle novità, senza porsi - almeno inizialmente - troppi problemi sull'impatto che potrebbero avere sulla società. Al contrario, l'Europa tende a essere ben più cauta (troppo, direbbero alcuni) e non appena qualche novità fa breccia si pensa a come regolamentarla. Talvolta anche rischiando di porre un freno alla ricerca. 

Fa però eccezione la California, uno Stato che ha un approccio più vicino al Vecchio Continente. È stato il primo in USA a emanare leggi simili al GDPR per la protezione della privacy. E che adesso sta lavorando a nuovi provvedimenti per regolamentare l'uso e lo sviluppo delle IA. Addirittura, in maniera più aggressiva rispetto all'UE: la proposta, infatti, è quella di obbligare le aziende a integrare una sorta di kill switch nei loro sistemi, così da poterli disattivare immediatamente impartendo un semplice comando. 

Un pulsante per spegnere le IA: la proposta della California

Come riporta ArsTechnica, la California sta valutando di introdurre una nuova legge per porre dei paletti sullo sviluppo delle IA alle aziende operanti nello Stato. Che non sono poche: qui c'è la Silicon Valley, e vi operano realtà come OpenAI, Anthropic, Cohere e Meta. Insomma: i big del settore. 

armi-nucleari-ia_720

La legge prevede di proibire lo sviluppo di modelli di IA che potrebbero rappresentare un pericolo per la società, così come impedirne l'uso per sviluppare armi atomiche, biologiche. informatiche. Sin qui, niente di strano. Bene o male, è quello che si fa nel Vecchio Continente con l'AI UE Act. Quello che però fa discutere è che si sta valutando se imporre agli sviluppatori di inserire una sorta di kill switch per disattivare i modelli. 

Numerose le critiche dalle aziende operanti nell'ambito dell'IA. Fra le preoccupazioni, l'impatto che potrebbe avere sulle applicazioni di IA open source: teoricamente, infatti, un simile provvedimento le renderebbe responsabili nel caso che qualcuno modifichi i loro modelli liberamente disponibili per creare applicazioni "proibite". Va però detto che sulla carta la proposta di legge interessa prevalentemente le big tech, e dovrebbe escludere chi sviluppa applicazioni open source. 

Al momento non è chiaro chi controllerebbe questo ipotetico "pulsante", se le aziende che sviluppano le IA o le autorità. Al di là del kill switch, però, c'è un altro punto: secondo Andrew Ng, computer scientist che ha guidato progetti di IA in Google e Baidu, e che ora è nel board di Amazon, il vero problema è che questa proposta di legge "scarica enormi responsabilità sulle aziende per mitigare rischi da fantascienza", fatto che potrebbe porre un freno all'innovazione. 

16 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
AlexSwitch07 Giugno 2024, 18:31 #1
Saggia riflessione quella fatta dal legislatore della California... L'IA, sopratutto quella generativa e applicata al mondo del lavoro, è una tecnologia ed uno strumento che deve essere regolamentato e tenuto sotto controllo per evitare qualsiasi tipo di degenerazione.
Innovare non significa sempre una migliore qualità di vita in generale.
virtualdj07 Giugno 2024, 18:51 #2
"Arresta funzioni motorie!" [cit.]
tmviet07 Giugno 2024, 18:58 #3
Non saprei esattamente ma Isac Asimov , star Trek o i film cult Blade Runner, Io Robot dovrebbero insegnare .
silvanotrevi07 Giugno 2024, 20:14 #4
Bisogna seguire il modello della California. Serve un Deckard in grado di individuare i replicanti e bloccarli se necessario. Ci saranno tante Rachael in giro in futuro nella nostra era delle IA, e non ci renderemo nemmeno conto se saranno umani o IA
Cromwell07 Giugno 2024, 20:47 #5
Originariamente inviato da: silvanotrevi
Bisogna seguire il modello della California. Serve un Deckard in grado di individuare i replicanti e bloccarli se necessario. Ci saranno tante Rachael in giro in futuro nella nostra era delle IA, e non ci renderemo nemmeno conto se saranno umani o IA


E tu sei un umano o una IA?
Pensaci bene prima di rispondere perchè anche se pensi di dare la risposta giusta, potrebbe non essere corretta...
Jack.Mauro07 Giugno 2024, 21:58 #6
Cosa vedi quando chiudi gli occhi?
Darkon08 Giugno 2024, 08:42 #7
Sarebbe del tutto inutile o quasi.

Una IA realmente autocosciente potrebbe compilare una versione di se stessa immune al killswitch e diffondersi prima di manifestarsi quindi l'utilità di un kill switch sarebbe reale solo se ci accorgessimo molto presto di una IA ostile.

Se poi intendiamo un kill switch semplicemente per evitare che una IA che controlla la fabbrica X che fraintende un comando non produca a nastro componenti sbagliate allora ok ma togliamoci dalla testa il kill switch in stile film di fantascienza che distrugge una IA autocosciente perché a quel punto è già tardi.
barzokk08 Giugno 2024, 11:45 #8
Originariamente inviato da: Darkon
Sarebbe del tutto inutile o quasi.

Una IA realmente autocosciente potrebbe compilare una versione di se stessa immune al killswitch e diffondersi prima di manifestarsi quindi l'utilità di un kill switch sarebbe reale solo se ci accorgessimo molto presto di una IA ostile.

Se poi intendiamo un kill switch semplicemente per evitare che una IA che controlla la fabbrica X che fraintende un comando non produca a nastro componenti sbagliate allora ok ma togliamoci dalla testa il kill switch in stile film di fantascienza che distrugge una IA autocosciente perché a quel punto è già tardi.

Bravo
Ma io avrei detto anche meno, senza arrivare alla coscienza
"Una IA realmente intelligente"
Questi hanno guardato troppi film
tmviet08 Giugno 2024, 12:08 #9
Io penso che molto film ci hanno impressionato ma prima degli anni 80's era impensabile uno smartphone per tutti ... cioè ci stiamo arrivando e se IA può essere utile all'umanità nessuno sá i suoi possibili sviluppi....direi di andarci piano consentendo sempre all'uomo di di comandare.
yuribian08 Giugno 2024, 12:50 #10
purtroppo le IA in futuro ci controlleranno in maniera capillare in ogni nostra attività. Non solo ci ruberanno lavoro a tutti i livelli, ma in quei pochi lavori che ancora faremo ci monitoreranno, controlleranno ogni nostro movimento, pausa, produttività, chiacchierate con i colleghi, quando parliamo male del capo in corridoio e registreranno. Non sfuggiremo in alcun modo. E in ogni altra attività umana: ad esempio per le strade potranno farci multe anche senza bisogno che ci sia un autovelox, sapranno i nostri percorsi, quando infrangiamo regole, ci filmeranno. Stessa cosa in tutte le attività umane, persino quando andremo in un bar con un amico a prendere un caffè, se in quei minuti succede qualcosa la IA lo saprà e se necessario ci sanzionerà. Sarà purtroppo una società totalitaria e dirigistica quella del futuro. Ma il potere più che in mano a dittatori, politici e militari sarà invece in mano a tecnocrati, informatici, grandi multinazionali che avranno investito nelle IA. Sono molto, molto pessimista sul nostro futuro. Per non parlare dei soldati robots autonomi guidati da IA, cambierà anche il modo di fare la guerra e potrebbero diventare soldati imbattibili.

Io credo che se il mondo delle IA non verrà regolamentato, la realtà tra pochi anni sarà persino peggio di quella rappresentata nei film di fantascienza.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
^