ChatGPT e IA autonoma: urge una regolamentazione. L'appello degli scienziati

se nascerà l'IA di cui parli ce ne accorgeremo tardi.
ma non serve una IA cattiva come la descrivi tu.. basta una IA stupida mal gestita..

qualcuno parla di dare Etica ad un computer quando noi umani per primi non abbiamo ancora una definizione di Etica.
tempo fa ricordo che c'era stato uno scienziato che spiegava l'impossibilità di creare le famose 3 leggi della robotica perchè, anche se nei libri funzionano, "non arrecare danno" ad un umano e tutte le altre cose scritte non hanno lo stesso senso per chiunque e non sono oggettive e pertanto dipendono dalla percezione umana per prendere significato.

per me puo' essere etico non buttare le immondizie per terra ma in altre culture magari questo non è un problema
c'è chi rutta a tavola e chi non lo fa
chi si saluta stringendosi la mano e chi facendo l'inchino
etc etc..

usi, costumi, etica, tutto relativo alle persone e non assoluto per cui spiegare alle AI la cosa è ridicola

se chiedessimo all'AI di salvare il pianeta al posto che la razza umana la la AI farebbe differenza mentre per noi si sottintende salvare il pianeta PER la razza umana e non a prescindere dalla stessa

delegare le decisioni alle macchine è un bel problema se le macchine possono prendere decisioni in autonomia.. non sono termostati.. stiamo delegando ad altri la nostra vita e questo porterà inevitabilmente a delle scelte

Esatto. Gli algoritmi di machine learning e deep learning appartengo all'IA sub simbolica e operano solo per induzione (stimano statisticamente i loro parametri a partire da esempi), non hanno alcuna consapevolezza e capacità deduttiva-logica tipica dei modelli simbolici (ricordiamoci l'esperimento della stanza Cinese di Searle). Questo è il motivo per cui a volte (spesso) prendono delle cantonate non conoscendo il contesto di applicazione delle loro inferenze. Inoltre, gli algoritmi di machine e deep learning, trovano le correlazioni statistiche tra i dati, ma le correlazioni non sono sinonimo di causalità (la causalità implica correlazione, non il viceversa).
Infine, avere grandi quantità di dati a disposizione non significa che siano di qualità. Secondo Taleb, il 90% dei dati è rumore, il 9% è qualcosa già noto e solo 1% è utile.
Nella pratica gli algoritmi di "addestramento" dell'IA sono tutti o quasi di tipo NP-completo e quelli utilizzabili in pratica hanno complessità polinomiale superiore a N^3.
Tutto ciò che va oltre la complessità lineare, logaritmica o quasi lineare è di fatto inutilizzabile in problemi reali (vedere esempio FFT).

Scusate se non ho letto queste 4 pagine di commenti, ma piu' o meno immagino.
Per chi dice che ora l'IA e' tupida fa poco, non ragiona ecc..
Si avete ragione, ma questa e' la pre-preistoria per l'IA, in attesa di AGI e sopratttuo quello che ne verra' dopo, quello di cui gli Scienziati si preoccupano ed hanno paura non e' di questa AI o futura AGI, Loro vedono ancora oltre, forse Noi non lo vediamo, ma voglio limitare per migliore sicurezza ed eventualmente la sopravvivenza NS. da quella che in futuro lontano verra' e per fermare/limitare i danni bisogna intervenire in quanto la velocita' di miglioramento dell'IA sara' esponenziale, ad un certo punto bah.. vedremo.

Hai ragione, perché cioè, poi alla fine, non è che uno di base può tanto prevedere come andrà il futuro. Al massimo si può iniziare a cercare un sistema per, così dire, evitare che il peggio peggiori. Specialmente quando le cose sono così complicate e difficili da capire. Ma sì, dai, poi si vedrà. È inutile farsi troppi problemi. Al momento le cose sono ancora molto acerbe. Con calma si sistemerà tutto.

concordo con te
il problema non sono quei giocattolini attuali che bene o male possono solo fregare il lavoro a qualcuno
il problema sono quelle che vogliamo costruire "domani" e che potrebbero essere autonome

SFIDA

Hanno provato a farla giocare contro di Fischer e Spasskij (magari assieme!)?

secondo me ti poni il problema da un punto di vista umano quando invece stiamo parlando di una possibile forma di vita che non sarebbe umana.

Cerco di spiegarmi meglio: dai per scontato che una IA veramente senziente voglia per forza dominare la terra e/o sterminare l'uomo ma queste sono aspirazioni umane. Una IA veramente senziente semplicemente è una incognita che nessuno di noi può anche solo sperare di decifrare.

Potrebbe avere aspirazioni del tutto diverse da quelle umane e perfino desiderare di "servire", oppure potrebbe non avere alcun interesse verso l'uomo e la terra e dedicarsi all'esplorazione cosmologica oppure a qualcosa che io non so nemmeno immaginare.

Il punto è che per quanto gli scienziati o chiunque altro possa dire o fare una IA realmente senziente per essere definita tale dev'essere superiore alla programmazione e quindi se anche imponessimo delle regole etiche potrebbe scegliere di disobbedire.
Se non ha la capacità di disobbedire alla programmazione allora non è una vera IA ma un complesso, avanzato, tutto quello che volete programma di simulazione.

D'altra parte potremmo definire intelligente un umano che è incapace di scegliere per se stesso? Non credo anzi penseremmo che ha evidenti problemi.

Senza contare che l'IA è un asset militare devastante e quindi se anche ci dessimo regole etiche per le ricerche civili è palese che chi sta ricercando nel campo dell'IA militare tali problemi non se li porrà mai.

Sinceramente non ho idea di cosa deciderà dell'umanità una vera IA indipendente ma d'altra parte l'homo sapiens sterminò le versioni meno intelligenti quindi non vedo con che diritto se dessimo i natali a qualcosa migliore di noi ci potremmo lamentare se decidesse che siamo superati.

Il punto sta proprio qui... potrà mai esistere una VERA IA in grado di avere una auto-coscienza indistinguibile da una umana? Perché se la risposta è no allora il resto sono solo avanzatissimi programmi di simulazione che sono ben diversi dalla singolarità necessaria per creare una vera e propria IA.
Mi permetto anche di correggerti una cosa: il desiderio è abbastanza comune in natura e non è una caratteristica specifica umana, quello che intendi tu semmai è l'astrazione cioè la capacità di immaginare e volere qualcosa di mai sperimentato e che è solo immaginato.
Per farti un esempio la mia cagnolina prova desiderio... di mangiare, di prendere quello specifico gioco e così via. Mentre difficilmente si fermerà mai a immaginare un gioco che non ha mai visto prima.

non dimentichiamoci una piccola ma fondamentale differenza fra noi ed un eventuali IA senziente..

noi siamo mortali e ci rapportiamo alla nostra vita limitata e a tutte le paure e i problemi connessi ad un limite temporale breve

una IA senziente può andare oltre questi problemi terreni e questo la renderebbe molto diversa da noi anche nel pensare.. sarebbe ben distinguibile da noi perchè non avrebbe un limite e quindi potrebbe prendere decisioni per noi non ragionevoli

restando in tema di fantascienza Hary Seldon creò un progetto millenario che andava oltre la sua stessa vita per un bene che lui vedeva superiore al danno attuale

se una IA dovesse prendere quella via e "resettare" il pianeta per un bene superiore sarebbe da ridere..

si fantastica ma la sola idea che un ammasso di silicio creato da noi possa diventare senziente quando ancora non sappiamo come siamo stati creati su questo pianeta è quanto meno bizzarro... ma creare una IA pericolosa è molto più facile non dovendo ne essere senziente ne essere cattiva ma solo mal progettata

Jules Verne ha scritto di fantascienza sognando un domani che poi si è realizzato.. noi umani siamo anche questo
Tesla ed Edison hanno rivoluzionato il mondo
abbiamo molte menti che hanno pensato diversamente e sognato, da scrittori a inventori.. le AI lo faranno ?
qualcuno ha detto che saranno indistinguibili da noi..

quindi in futuro una IA cambierà vestito per attirare l'attenzione di un'altra IA che beccherà un ceffone dalla IA con cui sta ?

siamo molto complessi noi umani e abbiamo sia il pensiero razionale che quello irrazionale ed imprevedibile perchè abbiamo emozioni

le IA del futuro avranno emozioni ? e quindi proveranno amore, odio, rimorso, rimpianto etc ?

quindi a cosa serviranno una volta che saranno incasinate e complicate come noi ? dovremo trovare degli psicologi con cui farle parlare per uscire dai loro problemi di crescita ?

se le IA sono pensate per aiutarci allora meglio che restino stupide come quelle attuali perchè se diventeranno indistinguibili da noi allora proveranno le stesse emozioni che proviamo noi.. paura, rabbia, odio, autodifesa e quindi guerra alla forma di vita che le può annientare

io spero che siano sempre diverse da noi e sotto al nostro pieno controllo