Intelligenza Artificiale

ChatGPT e IA autonoma: urge una regolamentazione. L'appello degli scienziati

di pubblicata il , alle 12:01 nel canale data ChatGPT e IA autonoma: urge una regolamentazione. L'appello degli scienziati

Un paper a opera di svariati ricercatori universitari mette in guardia dai pericoli dell'IA. Che è una grandissima opportunità, ma può anche trasformarsi in una grave minaccia per l'umanità intera. La soluzione? Regolare il settore, come già si fa col farmaceutico e il nucleare

 
60 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
Mo4225 Ottobre 2023, 16:16 #21
Originariamente inviato da: TorettoMilano
ah IA senziente significa bomba atomica, devi essere un viaggiatore del tempo o avere studiato a fondo il tema per arrivare a tali conclusioni


La seconda ipotesi è particolarmente corretta.
Mo4225 Ottobre 2023, 16:19 #22
Originariamente inviato da: TorettoMilano
se gli ho dato del "viaggiatore del tempo" significa non averlo proprio preso seriamente eh è comunque divertente avere a che fare con certi account. mi immagino un forum in cui tutti amano le EV, in cui nessuno è fanboy, che noia sarebbe! viva i troll


Odio i troll, pertanto non me la sento di aver attivamente partecipato a tale dichiarazione.
Sei liberissimo di non prendermi seriamente, così come lo sono io di fare altrettanto nei tuoi confronti. Anche se di ciò me ne rammarico, perché per quanto mi riguarda, la tua sembrava una domanda sensata ed educata, che ben si distingueva dal leitmotif che sembra attanagliare questa piattaforma.
dado197925 Ottobre 2023, 16:52 #23
Originariamente inviato da: Notturnia
Abbiamo creato noi la IA.. qualcosa di speciale lo abbiamo di sicuro
Se poi tu ritieni di non avere niente di speciale ok ma credo che il solo fatto di essere senzienti, coscienti di se e capaci di creare e modellare il mondo attorno a noi sia speciale
Inoltre sappiamo divertirci, cosa che anche in natura non tutti gli esserli viventi sono in grado di fare

Le AI restano un nostro prodotto, bene o male non sono comparse per magia o per eventi naturali ma perchè noi le abbiamo inventate


E modellare il nostro mondo ad un livello tale da diventare nocivo per la nostra stessa esistenza e non riconoscere questo perché oramai siamo assuefatti da questo sistema (anche se ognuno di noi dentro lo sa che siamo sulla strada dell'estinzione);questo come lo chiami? Essere speciali? Essere intelligenti? Siamo incapaci di gestire quetse nostre capacità.
Mo4225 Ottobre 2023, 16:53 #24
Originariamente inviato da: dado1979
E modellare il nostro mondo ad un livello tale da diventare nocivo per la nostra stessa esistenza e non riconoscere questo perché oramai siamo assuefatti da questo sistema (anche se ognuno di noi dentro lo sa che siamo sulla strada dell'estinzione);questo come lo chiami? Essere speciali? Essere intelligenti? Siamo incapaci di gestire quetse nostre capacità.


Concordo a pieno.
Darkon25 Ottobre 2023, 17:11 #25
Originariamente inviato da: dado1979
E modellare il nostro mondo ad un livello tale da diventare nocivo per la nostra stessa esistenza e non riconoscere questo perché oramai siamo assuefatti da questo sistema (anche se ognuno di noi dentro lo sa che siamo sulla strada dell'estinzione);questo come lo chiami? Essere speciali? Essere intelligenti? Siamo incapaci di gestire quetse nostre capacità.


Cerco di risponderti punto per punto:

E modellare il nostro mondo ad un livello tale da diventare nocivo per la nostra stessa esistenza è inevitabile. La presenza stessa di qualsiasi forma di vita, anche i semplici batteri, alterano e rimodellano il mondo intorno a loro in maniera nociva. Non a caso la vita di per se è un evento naturale che consuma risorse. Quindi questa frase è una naturale conseguenza della presenza della vita umana e non.

non riconoscere questo perché oramai siamo assuefatti da questo sistema

Non è che siamo assuefatti è che quello che hai scritto è una parte indispensabile del sistema. Ad oggi non abbiamo mai scoperto una forma di vita che non prelievi dal sistema meno di quello che immette. Per farti un esempio semplice anche un albero consuma più del bene che fa e se ci pensi è inevitabile dato che l'energia complessiva dell'universo è una misura finita quindi la vita per poter esistere consuma un qualcosa di finito che tenderà prima o poi ad esaurirsi. Sia chiaro non parlo di energia in senso mistico o chissà che roba assurda eh... parlo di misure fisiche.

questo come lo chiami? Essere speciali? Essere intelligenti?

Essere vivi, banalmente e semplicemente questo.

Siamo incapaci di gestire quetse nostre capacità.

Questo è un paradosso. L'umanità usa le proprie capacità al meglio e infatti cerca di vivere al meglio possibile cosa che non esclude una IA senziente anzi... l'IA senziente potrebbe essere il passo necessario per rendere il singolo ego immortale. Fantascienza forse ma un tempo avrebbero parlato di stregoneria anche per una banalissima calcolatrice meccanica.
Mo4225 Ottobre 2023, 17:49 #26
è inevitabile. La presenza stessa di qualsiasi forma di vita, anche i semplici batteri, alterano e rimodellano il mondo intorno a loro in maniera nociva. Non a caso la vita di per se è un evento naturale che consuma risorse. Quindi questa frase è una naturale conseguenza della presenza della vita umana e non.
È vero che la vita ha un impatto sull'ambiente, ma l'IA differisce dalle forme di vita naturali. L'IA è progettata dall'uomo e può essere sviluppata con un focus sull'etica e sulla sicurezza. Non possiamo semplicemente giustificare i potenziali rischi dell'IA facendo riferimento all'impatto inevitabile delle forme di vita naturali. La gestione responsabile è fondamentale per garantire che l'IA non diventi dannosa.

Non è che siamo assuefatti è che quello che hai scritto è una parte indispensabile del sistema. Ad oggi non abbiamo mai scoperto una forma di vita che non prelievi dal sistema meno di quello che immette. Per farti un esempio semplice anche un albero consuma più del bene che fa e se ci pensi è inevitabile dato che l'energia complessiva dell'universo è una misura finita quindi la vita per poter esistere consuma un qualcosa di finito che tenderà prima o poi ad esaurirsi. Sia chiaro non parlo di energia in senso mistico o chissà che roba assurda eh... parlo di misure fisiche.
La natura stessa delle forme di vita naturali non è applicabile all'IA. L'IA è una creazione umana, e possiamo influenzare come si sviluppa e come interagisce con il nostro mondo. Mentre è vero che la vita consuma risorse, l'IA può essere regolamentata e gestita per minimizzare il suo impatto negativo.


Essere vivi, banalmente e semplicemente questo.
La definizione di "essere vivi" non può essere applicata direttamente all'IA. L'IA è una forma di intelligenza artificiale, e non ha vita o coscienza proprie. Quindi, non è semplicemente "essere vivi," ma piuttosto una creazione tecnologica con il potenziale per influenzare profondamente la società e l'umanità.

Questo è un paradosso. L'umanità usa le proprie capacità al meglio e infatti cerca di vivere al meglio possibile cosa che non esclude una IA senziente anzi... l'IA senziente potrebbe essere il passo necessario per rendere il singolo ego immortale. Fantascienza forse ma un tempo avrebbero parlato di stregoneria anche per una banalissima calcolatrice meccanica.
Non è un paradosso sostenere che l'umanità sia incapace di gestire alcune delle sue capacità. Le tecnologie avanzate, come l'IA, presentano sfide uniche. Mentre l'IA può offrire vantaggi significativi, il suo sviluppo richiede una rigorosa regolamentazione e un controllo etico per mitigare i rischi. La prospettiva di un'IA senziente solleva ulteriori preoccupazioni etiche e richiede una valutazione critica degli impatti a lungo termine sulla società e l'individuo. Non è assolutamente possibile sottovalutare questi aspetti, o della nostra tanto "viva" specie resterà ben poco...
Darkon25 Ottobre 2023, 18:04 #27
Originariamente inviato da: Mo42
È vero che la vita ha un impatto sull'ambiente, ma l'IA differisce dalle forme di vita naturali. L'IA è progettata dall'uomo e può essere sviluppata con un focus sull'etica e sulla sicurezza. Non possiamo semplicemente giustificare i potenziali rischi dell'IA facendo riferimento all'impatto inevitabile delle forme di vita naturali. La gestione responsabile è fondamentale per garantire che l'IA non diventi dannosa.


Questa non è una IA senziente ma solo un programma gestionale cosa ben diversa. Una IA senziente è per sua stessa definizione una intelligenza indistinguibile o superiore a quella che possiede un umano e quindi capace di comprendere le regole ma anche di disobbedire. Di conseguenza dobbiamo slegarci dall'idea che sia possibile imporre una regola assoluta a una qualsiasi intelligenza senziente perché altrimenti non è una vera IA ma solo un'imitazione.

La natura stessa delle forme di vita naturali non è applicabile all'IA. L'IA è una creazione umana, e possiamo influenzare come si sviluppa e come interagisce con il nostro mondo. Mentre è vero che la vita consuma risorse, l'IA può essere regolamentata e gestita per minimizzare il suo impatto negativo.


Perché io come genitore non posso forse influenzare come mia figlia vedrà e interagirà col mondo? Anzi ti dirò di più nel mio lavoro commerciale io ogni giorno altero la percezione di altri esseri umani per pilotarli nelle scelte e aggiungo anche che secondo me è molto più facile influenzare un umano che non una macchina che potrebbe verificare e controllare qualsiasi cosa io dica in tempo reale o interpolare i dati con centinaia se non migliaia di fonti diverse mentre ancora sto parlando.
Quanto all'ultima parte continui a confondere un programma gestionale magari anche dinamico e ben fatto con una IA senziente. Son cose diverse. Una IA senziente non ha regole così come io e te scegliamo di vivere legalmente ma potremmo decidere anche di compiere crimini.

La definizione di "essere vivi" non può essere applicata direttamente all'IA. L'IA è una forma di intelligenza artificiale, e non ha vita o coscienza proprie. Quindi, non è semplicemente "essere vivi," ma piuttosto una creazione tecnologica con il potenziale per influenzare profondamente la società e l'umanità.


Ti sbagli. Se un giorno potessi trasferire 1 a 1 la tua coscienza in una macchina saresti morto? O meno vivo? Secondo me no... e il transumanesimo è una conseguenza naturale dell'evoluzione umana. Una IA senziente vera è una coscienza vera e propria indistinguibile dalla mia o dalla tua. Poi potrebbe essere anche impossibile da realizzare sia chiaro... su questo ad oggi non c'è certezza ma se ci arriveremo sarà come creare una vera e propria forma di vita e non un semplice programma.

Non è un paradosso sostenere che l'umanità sia incapace di gestire alcune delle sue capacità. Le tecnologie avanzate, come l'IA, presentano sfide uniche. Mentre l'IA può offrire vantaggi significativi, il suo sviluppo richiede una rigorosa regolamentazione e un controllo etico per mitigare i rischi. La prospettiva di un'IA senziente solleva ulteriori preoccupazioni etiche e richiede una valutazione critica degli impatti a lungo termine sulla società e l'individuo. Non è assolutamente possibile sottovalutare questi aspetti, o della nostra tanto "viva" specie resterà ben poco...


Questi discorsi sull'etica lasciano il tempo che trovano tanto l'IA sarà semplicemente una corsa in cui chi arriverà primo avrà un vantaggio devastante come fu l'atomica nella seconda guerra mondiale o forse anche di più. Inoltre è assurdo parlare di etica perché qualsiasi sia la "programmazione di base" una vera IA senziente potrebbe scegliere di disobbedire in qualsiasi momento ed è proprio questo che rende l'IA una evoluzione.

Non si tratterebbe più di creare un programma, un tool o roba del genere. La nostra specie avrebbe creato una nuova specie. Da un punto di vista scientifico questo è paragonabile solo ad arrivare al punto di comprendere a pieno il DNA e riuscire a creare una creatura vivente re-ingegnerizzandola da zero qualcosa che oggi è talmente futuristico che non osiamo nemmeno immaginare cosa potrebbe comportare.
randorama25 Ottobre 2023, 18:14 #28
Originariamente inviato da: Mo42
L'argomento è interessante. Senza dubbio assisteremo ad un aumento esponenziale delle capacità dell'IA nei prossimi cinque o dieci anni.


.
Notturnia25 Ottobre 2023, 18:17 #29
Originariamente inviato da: dado1979
E modellare il nostro mondo ad un livello tale da diventare nocivo per la nostra stessa esistenza e non riconoscere questo perché oramai siamo assuefatti da questo sistema (anche se ognuno di noi dentro lo sa che siamo sulla strada dell'estinzione);questo come lo chiami? Essere speciali? Essere intelligenti? Siamo incapaci di gestire quetse nostre capacità.


di fatto io dicevo solo che siamo ben di più delle stupide IA.. non che siamo intelligenti per forza di cose.. anche se intelligenza è altro

noi siamo opportunisti, abbiamo fantasia e voglia di fare ma non per questo facciamo sempre o solo le cose giuste come non le farebbe una IA (vedi l'esempio della IA e delle graffette..)

l'errore di fare troppi figli e di considerare il mondo senza limite di risorse è un errore e ci faremo i conti ma questo ha poco o niente a che fare con le IA e la loro somiglianza alla nostra "macchina biologica"

sappiamo fare i meglio (alcuni di noi)
Mo4225 Ottobre 2023, 18:40 #30
Originariamente inviato da: Darkon
Questa non è una IA senziente ma solo un programma gestionale cosa ben diversa. Una IA senziente è per sua stessa definizione una intelligenza indistinguibile o superiore a quella che possiede un umano e quindi capace di comprendere le regole ma anche di disobbedire. Di conseguenza dobbiamo slegarci dall'idea che sia possibile imporre una regola assoluta a una qualsiasi intelligenza senziente perché altrimenti non è una vera IA ma solo un'imitazione.



Perché io come genitore non posso forse influenzare come mia figlia vedrà e interagirà col mondo? Anzi ti dirò di più nel mio lavoro commerciale io ogni giorno altero la percezione di altri esseri umani per pilotarli nelle scelte e aggiungo anche che secondo me è molto più facile influenzare un umano che non una macchina che potrebbe verificare e controllare qualsiasi cosa io dica in tempo reale o interpolare i dati con centinaia se non migliaia di fonti diverse mentre ancora sto parlando.
Quanto all'ultima parte continui a confondere un programma gestionale magari anche dinamico e ben fatto con una IA senziente. Son cose diverse. Una IA senziente non ha regole così come io e te scegliamo di vivere legalmente ma potremmo decidere anche di compiere crimini.



Ti sbagli. Se un giorno potessi trasferire 1 a 1 la tua coscienza in una macchina saresti morto? O meno vivo? Secondo me no... e il transumanesimo è una conseguenza naturale dell'evoluzione umana. Una IA senziente vera è una coscienza vera e propria indistinguibile dalla mia o dalla tua. Poi potrebbe essere anche impossibile da realizzare sia chiaro... su questo ad oggi non c'è certezza ma se ci arriveremo sarà come creare una vera e propria forma di vita e non un semplice programma.



Questi discorsi sull'etica lasciano il tempo che trovano tanto l'IA sarà semplicemente una corsa in cui chi arriverà primo avrà un vantaggio devastante come fu l'atomica nella seconda guerra mondiale o forse anche di più. Inoltre è assurdo parlare di etica perché qualsiasi sia la "programmazione di base" una vera IA senziente potrebbe scegliere di disobbedire in qualsiasi momento ed è proprio questo che rende l'IA una evoluzione.

Non si tratterebbe più di creare un programma, un tool o roba del genere. La nostra specie avrebbe creato una nuova specie. Da un punto di vista scientifico questo è paragonabile solo ad arrivare al punto di comprendere a pieno il DNA e riuscire a creare una creatura vivente re-ingegnerizzandola da zero qualcosa che oggi è talmente futuristico che non osiamo nemmeno immaginare cosa potrebbe comportare.


Forse.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
^