Informazioni sul sito
Se vuoi aiutare LUOGOCOMUNE

HOMEPAGE
INFORMAZIONI
SUL SITO
MAPPA DEL SITO

SITE INFO

SEZIONE
11 Settembre
Questo sito utilizza cookies. Continuando la navigazione acconsenti al loro impiego.
 American Moon

Il nuovo documentario
di Massimo Mazzucco
 Login
Nome utente:

Password:


Hai perso la password?

Registrati ora!
 Menu principale
 Cerca nel sito

Ricerca avanzata

TUTTI I DVD DI LUOGOCOMUNE IN OFFERTA SPECIALE


news internazionali : Armi autonome: lettera aperta dai ricercatori di Intelligenza Artificiale
Inviato da Redazione il 28/7/2015 10:40:00 (12798 letture)



Un folto gruppo di ricercatori, scienziati e personaggi noti - fra cui Stephen Hawking, Elon Musk e Steve Wozniak - ha pubblicato una lettera contro lo sviluppo delle cosiddette "armi autonome", ovvero tutte quelle armi che utilizzano l'intelligenza artificiale, e sono quindi in grado di agire al di fuori del controllo umano.

Questa è la traduzione della lettera:

Le armi autonome selezionano e affrontano il loro bersaglio senza un intervento umano. Queste armi possono includere, ad esempio, quadri-cotteri armati in grado di identificare ed eliminare le persone in base ad alcuni criteri predefiniti, mentre non includono i missili cruise o i droni pilotati a distanza, per i quali sono sempre gli umani a prendere la decisione di sparare.

La tecnologia dell' Intelligenza Artificiale ha raggiunto un livello tale da permettere di realizzare di questi sistemi - in termini pratici, se non legali - entro pochi anni e non decenni. La sfida è enorme, visto che le armi autonome sono state definite la terza rivoluzione nel mondo della guerra, dopo la polvere da sparo e le armi atomiche. [...]

Diverse argomentazioni sono state portate sia a favore che contro le armi autonome. Ad esempio, il fatto che sostituire i soldati umani con delle macchine sia positivo perché permette di ridurre il numero delle vittime, ma sia negativo perché abbassa la soglia che porta ad entrare in guerra. La domanda cruciale per l'umanità oggi è se permettere l'inizio di una corsa globale alle armi [autonome], oppure se fermare questa corsa sul nascere. Se una qualunque grande potenza militare spingerà verso lo sviluppo di armi autonome, una corsa globale agli armamenti è virtualmente inevitabile, e la conclusione di questo percorso tecnologico è evidente: le armi autonome diventeranno i Kalashnikov di domani.

A differenza delle armi nucleari, infatti, queste non richiedono materiali particolarmente costosi né difficili da reperire. Questo significa che si troveranno dappertutto e che costerà molto poco produrle per una qualunque potenza militare. Sarà solo una questione di tempo, prima di vederle comparire sul mercato nero, e poi nelle mani dei terroristi, dei dittatori che vogliono mantenere il controllo sulle loro popolazioni, dei capi tribali che vogliono portare a termine una pulizia etnica, eccetera eccetera.

Le armi autonome sono anche l'ideale per svolgere compiti come assassini, per destabilizzare delle nazioni, per sottomettere delle popolazioni e per eliminare in modo selettivo un particolare gruppo etnico. Noi quindi crediamo che una corsa allo sviluppo militare delle armi autonome non sarebbe un beneficio per l'umanità. Vi sono svariati modi in cui l'intelligenza artificiale può rendere il campo di battaglia più sicuro per gli esseri umani - i civili soprattutto - senza bisogno di creare nuovi strumenti per uccidere.

Esattamente come i chimici e biologi non hanno alcun interesse a costruire armi chimiche o biologiche, la maggior parte dei ricercatori nel campo dell'intelligenza artificiale non ha alcun interesse nel costruire armi autonome, e non vuole veder rovinata la reputazione del loro campo di ricerca, creando una reazione negativa del pubblico che potrebbe venire a danneggiare i futuri benefici dell'intelligenza artificiale. Di fatto, i chimici e i biologi hanno fortemente supportato gli accordi internazionali che hanno proibito le armi chimiche e biologiche, così come la maggior parte dei fisici ha supportato i trattati che hanno proibito gli armamenti nucleari nello spazio e le armi di accecamento con il laser.

In conclusione, noi crediamo che l'intelligenza artificiale abbia un grande potenziale benefico per l'umanità, e che lo scopo ultimo di questo settore sia proprio questo. Dare inizio ad una corsa alle armi autonome è una pessima idea, e dovrebbe essere impedito con la proibizione di qualunque arma che possa agire al di là del controllo umano.

Fonte RT, BBC.

La lettera originale, con la lista dei firmatari.

Voto: 9.00 (3 voti) - Vota questa news - OK Notizie


Altre news
28/11/2015 10:00:00 - Il nuovo sito è pronto
26/11/2015 19:40:00 - Fulvio Grimaldi a Matrix
24/11/2015 11:00:00 - Caccia russo abbattuto dai turchi
22/11/2015 20:20:00 - Ken O'Keefe: "ISIS = Israeli Secret Intelligence Service"
21/11/2015 21:00:00 - L'uomo che uccise Kennedy
19/11/2015 19:00:00 - La solitudine
18/11/2015 21:21:31 - Vladimir Putin - conferenza stampa al summit del G20
17/11/2015 13:50:00 - Dopo Parigi
15/11/2015 22:30:00 - Commenti liberi
14/11/2015 9:40:00 - À la guerre comme à la guerre
13/11/2015 23:00:00 - Nuovi attentati a Parigi
11/11/2015 19:50:00 - Atleti russi dopati, brutti e cattivi
10/11/2015 19:30:00 - Fini, Grillo, Travaglio - e il giornalismo che non fa i conti con sé stesso
9/11/2015 18:30:00 - "Bag it!" Documentario (Ita)
8/11/2015 9:09:03 - Commenti liberi

I commenti sono proprietà dei rispettivi autori. Non siamo in alcun modo responsabili del loro contenuto.
Autore Albero
Rickard
Inviato: 28/7/2015 11:35  Aggiornato: 28/7/2015 11:35
Dubito ormai di tutto
Iscritto: 9/9/2007
Da: Un mondo pervaso di follia
Inviati: 1609
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Personalmente non credo che nel giro di pochi anni le cosiddette armi autonome soppianteranno l'attuale tipo di guerra esistente.

Le cose vengono valutate soprattutto in base al loro rapporto costi-benefici, e la vita di un soldato non è mai stata un fattore determinante. Ci sono poi da aggiungere i costi in componenti e conoscenze per creare un'arma autonoma, che interessano moltissimi campi. Informatica, circuiteria, lavori di estrema precisione e dunque delicati, possibilità di intrusioni informatiche o di attacchi EMP. Un soldato armato di Kalashnikov semplicemente costa meno e ha minori potenziali vulnerabilità. Se lo ammazzi, ci sono sempre altri da mandare al macello.

Oltretutto, più che intelligenza artificiale, sono/saranno armi con dei pattern preconfezionati che serviranno a distinguere i bersagli dai non bersagli, non una vera intelligenza. Queste armi supertecnologiche poi sono sempre molto costose e difficili da fare, gestire e riparare, dunque appannaggio di pochi paesi ricchi e sviluppati.

Oltretutto, che guadagno intrinseco ci sarebbe in un dispositivo che agisce da solo, rispetto a un altro magari pilotato in remoto (come i droni?). Se è pilotato in remoto, hai comunque più controllo sul suo agire, mentre se "fa tutto da solo", potrebbe essere più vulnerabile a disturbi, jamming, intrusioni informatiche o banali errori per limiti della sua programmazione.

Non per nulla l'arma più diffusa del mondo è tuttora il kalashnikov, non certo moderno, ma con un rapporto costi-benefici ancora molto buono.

Mi sa che per vedere le battaglie fra robot autopilotati dovremo aspettare ancora un bel pò.

La scienza non è nient'altro che una perversione se non ha come suo fine ultimo il miglioramento delle condizioni dell'umanità. - Nikola Tesla
Redazione
Inviato: 28/7/2015 11:59  Aggiornato: 28/7/2015 11:59
Webmaster
Iscritto: 8/3/2004
Da:
Inviati: 19594
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
RICIKARD: "Mi sa che per vedere le battaglie fra robot autopilotati dovremo aspettare ancora un bel pò."

Su questo sono d'accordo anch'io.

Se però tutta questa gente ha deciso di lanciare un allarme, vuole dire che loro sanno qualcosa che noi non sappiamo.

robcoppola
Inviato: 28/7/2015 12:26  Aggiornato: 28/7/2015 12:26
Ho qualche dubbio
Iscritto: 29/6/2011
Da:
Inviati: 198
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
L'implementazione di una vera intelligenza artificiale è solo questione di tempo. Difficile capire quanto tempo per mancanza di informazioni chiave legate al segreto militare.
A che punto è la tecnologia militare ?
Nessuno, a parte i ricercatori impiegati, è in grado di dirlo.
Quello che vediamo non è sicuramente il livello più avanzato.
L'intelligenza artificiale richiede un salto tecnologico immenso, ben superiore alla portata dell'hardware binario attuale, si parla di computers quantistici o di computers biologici.
Queste tecnologie sono note solo in ambito civile.
Altro passo è l'implementazione di nuovi algoritmi/linguaggi per queste innovazioni hardware.

Interessante è questo video sulla cooperazione tra più droni

Ad ogni modo non abbiamo scampo, questi problemi verranno risolti/superati nei prossimi anni, non a caso c'è la fondata preoccupazione dei suddetti scienziati.

L'ottimista proclama che viviamo nel migliore dei mondi possibili; il pessimista teme che possa essere vero.
(James Branch Cabell)
onemanband
Inviato: 28/7/2015 12:28  Aggiornato: 28/7/2015 12:28
Ho qualche dubbio
Iscritto: 9/10/2013
Da: Praga
Inviati: 89
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Se é cosí come dici Massimo, allora nessuna lettera o appello servira´ a cambiare le cose.

E poi basta fare due piu due:
- in un qualsiai videogame l´IA guida tutti gli avversari (figurati se in ambito militare non sono in grado di fare di meglio);
- la ciberbetca e´ gia´ progredita abbastanza da permetter la costruzione in ambito militare di automi per il trasporto di carichi.



Forse la lettera ha solo lo scopo di permettere di creare un equilibrio: la teoria dei giochi docet.

tekkaman
Inviato: 28/7/2015 12:38  Aggiornato: 28/7/2015 12:38
So tutto
Iscritto: 20/9/2007
Da:
Inviati: 6
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
senza contare "inconvenienti" tecnici tipo:

https://www.youtube.com/watch?v=A9l9wxGFl4k

Rickard
Inviato: 28/7/2015 13:05  Aggiornato: 28/7/2015 13:05
Dubito ormai di tutto
Iscritto: 9/9/2007
Da: Un mondo pervaso di follia
Inviati: 1609
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
onemanband
Citazione:
- in un qualsiai videogame l´IA guida tutti gli avversari (figurati se in ambito militare non sono in grado di fare di meglio);

L'IA dei videogiochi non è vera IA, è un pattern di azioni predeterminate che il programma fa eseguire in risposta ad una serie di circostanze predeterminate. Oltretutto il videogioco è un ambiente "chiuso", con dei limiti di programmazione e di scenario ben definiti, per cui non può avvenire nulla che non sia previsto, cosa che aiuta molto la "IA". E quando avviene qualcosa di non previsto, si chiamano glitch o bug e solitamente tutta la baracca si pianta e smette di funzionare, a riprova della assoluta incapacità di uscire dalla propria programmazione.

I militari avranno senz'altro di meglio, ma non si sta parlando di vera intelligenza, bensì di tutto sommato banali pattern utili alla simulazione, ma incapaci di prendere decisioni dinamiche in un ambiente di combattimento in cui non tutte le variabili sono note.

Citazione:
- la ciberbetca e´ gia´ progredita abbastanza da permetter la costruzione in ambito militare di automi per il trasporto di carichi.

Gli "automi" per il trasporto carichi esistono da un'infinità di tempo e non sono certo il frutto del recente progresso della scienza (militare o meno).

Un ipotetico robot di combattimento si dovrebbe scontrare con un'infinità di problemi. Costi. Prestazioni. Problemi tecnici. E alla fine per cosa? Un colpo di RPG lo fa saltare come qualunque cosa, vista anche tutta la parte delicata di circuiteria di cui sarebbe pieno.

Posso capire alcuni dispositivi per azioni mirate, ma non credo che sarà questo il futuro della guerra.

Redazione
Citazione:
Se però tutta questa gente ha deciso di lanciare un allarme, vuole dire che loro sanno qualcosa che noi non sappiamo.

Può darsi, ma credo che tu stia commettendo una strana variante dell'Argumentum ad auctoritate: una cosa è "sospetta" perché a dirla sono dei professoroni ed espertoni di una qualche disciplina.

Essere grandi scienziati non vuol dire automaticamente essere a conoscenza di grandi segreti e non è detto che dietro ogni esternazione vi siano messaggi in codice o sibillini rimandi a qualcosa.

Potrebbe anche trattarsi di un semplice monito per evitare che ciò che viene visto come una conquista prossima ventura dalla grande importanza (l'intelligenza artificiale) sia subito utilizzato per scopi militari, "snaturandola".

La scienza non è nient'altro che una perversione se non ha come suo fine ultimo il miglioramento delle condizioni dell'umanità. - Nikola Tesla
polaris
Inviato: 28/7/2015 13:21  Aggiornato: 28/7/2015 13:21
Dubito ormai di tutto
Iscritto: 12/9/2012
Da: Tlön
Inviati: 1640
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
I robottoni da battaglia sono il sogno bagnato del Pentagono, non ci rinunceranno mai.

Vi ricordate la prima scena del remake di Robocop? Un esercito di robot ammerigani alla conquista dell'Iran...brrrrr....

Che epoca terribile quella in cui degli idioti governano dei ciechi.. - Shakespeare
perspicace
Inviato: 28/7/2015 13:46  Aggiornato: 28/7/2015 13:46
Sono certo di non sapere
Iscritto: 3/9/2011
Da: località sconosciuta
Inviati: 3281
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Se l'intelligenza artificiale impara da sola come vincere

Nuovi algoritmi di "apprendimento profondo" sono in grado di imparare da soli a giocare a una molteplicità di videogiochi e di scoprire autonomamente le strategie migliori per vincere. Le impressionanti capacità di queste forme di intelligenza artificiale mettono però in evidenza per la prima volta nella storia dell'umanità una totale dissociazione fra intelligenza e consapevolezza

Io non parlo come scrivo, io non scrivo come penso, io non penso come dovrei pensare, e così ogni cosa procede nella più profonda oscurità. Kepler
perspicace
Inviato: 28/7/2015 13:48  Aggiornato: 28/7/2015 13:48
Sono certo di non sapere
Iscritto: 3/9/2011
Da: località sconosciuta
Inviati: 3281
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Concordo con Massimo, abbiamo già sviluppato le singole componenti per un intelligenza artificiale, ciò che ci manca è combinarle in un unico apparecchio e dopodiché miniaturizzare le componenti.

Io non parlo come scrivo, io non scrivo come penso, io non penso come dovrei pensare, e così ogni cosa procede nella più profonda oscurità. Kepler
bauer
Inviato: 28/7/2015 13:51  Aggiornato: 28/7/2015 14:00
Ho qualche dubbio
Iscritto: 24/5/2012
Da:
Inviati: 42
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
La lettera tratta algoritmi detti di deep learning, studiati mi pare negli anni 60 ma che solo recentemente grazie all'esponenziale incremento delle capacità di calcolo dei computer sono diventati una realtà di fatto.

Basti pensare ai piu' semplici sistemi di facial recognition su facebook o alle ben piu' sofisticate self driving cars di google che già girano in alcuni stati americani.

In realtà questi argomenti preoccupano una gran fetta della comunità scientifica ma non credo che una semplice letterina possa cambiare di molto la direzione in ci cui siamo incamminati.

Se volete approfondire l'argomento youtube è pieno di video ma comunque trovo ted un ottimo sito per capire che piega si sta prendendo negli ultimi tempi:

(la maggior parte dei video è sottotitolato per lo meno in inglese, ma alcuni anche in italiano)

3 video su i rischi derivanti dalla futura evoluzione delle AI.
http://www.ted.com/talks/nick_bostrom_what_happens_when_our_computers_get_smarter_than_we_are

http://www.ted.com/talks/jeremy_howard_the_wonderful_and_terrifying_implications_of_computers_that_can_learn

http://www.ted.com/talks/daniel_suarez_the_kill_decision_shouldn_t_belong_to_a_robot

La google car:

http://www.ted.com/talks/chris_urmson_how_a_driverless_car_sees_the_road

Altro sugli algoritmi "deep learning"

http://www.ted.com/talks/fei_fei_li_how_we_re_teaching_computers_to_understand_pictures

EDIT:

Altro video riguardante il concetto di "big data". In fondo gli algoritmi di deep learning non sono niente se non possono essere foraggiati da grandi quantità di dati.

http://www.ted.com/talks/kenneth_cukier_big_data_is_better_data

Red_Max
Inviato: 28/7/2015 14:04  Aggiornato: 28/7/2015 14:04
Mi sento vacillare
Iscritto: 22/7/2012
Da: in volo
Inviati: 975
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Le armi autonome sono sempre esistite, ad esempio ci sono svariati tipi di mine fatte su misura per un determinato bersaglio.
E' evidente che vadano regolamentate prima che sia troppo tardi.
Ad esempio una guerra tra soldati-robot per me potrebbe andare bene.
Una guerra tra soldati robot e umani no.

L'anoressia è un "orientamento" alimentare?

Non ti piacciono i crauti? allora sei crautofobo...
E' un reato gravissimo...

Aspirare gli embrioni è indice di civiltà!!!

Io non sono un complottista...
mi interesso di leggende metropolitane...
bauer
Inviato: 28/7/2015 14:06  Aggiornato: 28/7/2015 14:06
Ho qualche dubbio
Iscritto: 24/5/2012
Da:
Inviati: 42
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Rickard:
I militari avranno senz'altro di meglio, ma non si sta parlando di vera intelligenza, bensì di tutto sommato banali pattern utili alla simulazione, ma incapaci di prendere decisioni dinamiche in un ambiente di combattimento in cui non tutte le variabili sono note.

In realtà è proprio quello che le auto di google sono in grado di fare già in questo momento: quando queste son per strada sono già in grado di prendere decisioni in situazioni in cui non tutte le variabili sono note. Gli algoritmi di deep learning servono proprio a riconoscere pattern in ambienti sconosciuti.

Rickard:
Un ipotetico robot di combattimento si dovrebbe scontrare con un'infinità di problemi. Costi. Prestazioni. Problemi tecnici. E alla fine per cosa? Un colpo di RPG lo fa saltare come qualunque cosa, vista anche tutta la parte delicata di circuiteria di cui sarebbe pieno.

Sempre partendo dall'esempio di google sei proprio sicuro di questo? In una ventina di anni i costi di queste teconologie saranno talmente bassi da non creare una grossa differenza di prezzo tra un carro armato guidato a mano e uno guidato da una ai.

Floh
Inviato: 28/7/2015 14:14  Aggiornato: 28/7/2015 16:41
Dubito ormai di tutto
Iscritto: 13/12/2009
Da: Milano
Inviati: 1056
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Particolarmente importanti sarebbero gli effetti che un tale sviluppo tecnologico avrebbe sui rapporti di forza coercitiva tra le varie classi sociali.
Una ristretta frazione della popolazione (la parte più benestante e istruita) di uno Stato sarebbe in grado di rendere operante un sistema giuridico che non necessiti la benchè minima adesione della maggioranza dei consociati.
Verrebbe meno la necessità di orientare con la propaganda la pubblica reazione nella direzione conforme agli interessi dei grandi produttori.
Si potranno emanare norme che obbligano le classi proletarie a lavorare per un numero di ore estenuante (ad es. 16 ore a giorno) dietro corrispettivo pari al minimo vitale in termini di calorie assunte, perchè la condivisione o meno di tali norme da parte di esse sarà del tutto ininfluente.
In generale, la vita delle classi proletarie potrà essere organizzata secondo criteri strettamente economici, il buon vecchio panem et circenses (sempre tanto criticato) diverrebbe solo "panem". Non sarà più nemmeno utile divertire (nell'accezione semantica più completa) il popolo per ottenere la sua obbedienza e il frutto del suo lavoro.
E' anche plausibile immaginare che si verrebbe ad instaurare un regime giuridico assai simile a quello della Roma del IV - I sec. a.C. .
I proletari (schiavi a questo punto) non saranno considerati soggetti di diritto bensì oggetti di diritto, privi di un patrimonio e di conseguente capacità giuriudica, sottoposti a pene (in seguito alla commissione di illeciti) ampiamente maggiorate e previste per differenti fattispecie astratte rispetto all'aristocrazia ecc.

@ Rickard

Cit.
"Se è pilotato in remoto, hai comunque più controllo sul suo agire, mentre se "fa tutto da solo", potrebbe essere più vulnerabile a disturbi, jamming, intrusioni informatiche o banali errori per limiti della sua programmazione"

Sotto questo profilo, il pericolo che l'apparecchio possa essere sottratto al controllo del proprietario è vivo anche nei sistemi a pilotaggio remoto, nel 2011 abbiamo avuto un prova empirica di tale possibilità tecnica quando l'Iran catturò un drone statunitense:

https://www.youtube.com/watch?v=URK2ClRhdvk

Ci sono più cose in cielo e in terra, Orazio, di quante ne sogni la tua filosofia (William Shakespeare, da Amleto)
toussaint
Inviato: 28/7/2015 14:27  Aggiornato: 28/7/2015 15:04
Sono certo di non sapere
Iscritto: 23/3/2012
Da:
Inviati: 5220
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
La vera differenza tra il cervello umano e la prototipale IA che abbiamo oggi è la capacità tipica del cervello umano di assumere decisioni in ambiente sconosciuto ossia non assimilabile perfettamente a un pattern predeterminato.
edit, il massimo che può fare oggi un IA è autoapprendere dall'osservazione della realtà, ossia autocostruirsi pattern che però rimangono strettamente vincolanti nel determinare le future azioni dell'IA. L'IA deve prima apprendere e poi agire, non è capace di prendere decisioni se prima non ha appreso, come fa normalmente un essere umano.
Insomma, lo schema attuale è sempre deterministico, fine edit.
L'essere umano, invece, agisce per "associazione", ossia si stabiliscono contatti sinaptici tra neuroni in relazione a una situazione che somiglia (ma non è identica) a una situazione passata.
La futura IA dovrebbe risolvere questo problema utilizzando computer quantistici che sfruttano l'entanglement quantistico, ossia il legame in termini di stato quantistico (che è l'equivalente evoluto degli stati binari 0-1, per semplificare un codice binario probabilistico) che si stabilisce tra unità elementari di logica nel momento in cui l'automa vive una determinata situazione.
Tale legame rimarrà attivo per sempre e sarà in grado di far svolgere all'automa associazioni mentali e, conseguentemente, di accumulare vere e proprie "esperienze".
Ne consegue da ciò, come per l'uomo, che tale automa sarà per certi versi imprevedibile e arbitrario (del resto la sua logica di base sarà, appunto, probabilistica), di certo non assoggettabile alle "tre leggi della robotica" di asimoviana memoria.

edit: ciò implica un futuro stile "Terminator"...

"Siam del popolo le invitte schiere c'hanno sul bavero le fiamme nere ci muove un impeto che è sacro e forte morte alla morte morte al dolor. Non vogliamo più assassini non vogliamo più briganti come un dì gridiamo: avanti!" Arditi del Popolo 1921
perspicace
Inviato: 28/7/2015 14:48  Aggiornato: 28/7/2015 14:48
Sono certo di non sapere
Iscritto: 3/9/2011
Da: località sconosciuta
Inviati: 3281
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
è errato pensare ad un futuro "stile Terminator" nella realtà un I.A. attaccherebbe con armi chimiche e batteriologiche non con armi nucleari per via dell'inquinamento elettromagnetico.

Vero anche che l'umanità inizierebbe a concentrare i sui sforzi tecnici nella creazione di armi specificatamente realizzate per combattere I.A. tipo quelle elettromagnetiche.

Il problema e che come l'articolo che ho appena postato fa notare un intelligenza artificiale si evolve più in fretta fino a superare ogni nostra aspettativa questo potrebbe portarla a sviluppare nuove e avanguardistiche tecnologie con cui aggiornarsi tipo computer organici o quantum computer organici.

Potrebbe in pochissimo elaborare e costruire leghe a noi sconosciute e dalle preformanti applicazioni pratiche.

Io non parlo come scrivo, io non scrivo come penso, io non penso come dovrei pensare, e così ogni cosa procede nella più profonda oscurità. Kepler
Valdez
Inviato: 28/7/2015 15:37  Aggiornato: 28/7/2015 15:37
Ho qualche dubbio
Iscritto: 25/1/2015
Da:
Inviati: 42
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Qui si tratta di scenari alla "Terminator".

Se è vero che la realtà supera la fantasia oppure che l'immaginazione da lo stimolo alla realizzazione di nuove tecnologie (scritti di fantascienza di Jules Verne o Isaac Asimov), non mi stupisce che la ricerca si sia da tempo orientata verso l'Intelligenza Artificiale. Se scienziati di alto livello sentono la necessità di dare l'allarme, significa che si è già a buon punto.

W.Snake8
Inviato: 28/7/2015 15:40  Aggiornato: 28/7/2015 15:40
Ho qualche dubbio
Iscritto: 22/7/2014
Da: Napoli
Inviati: 107
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Qualche mese fa, passando accanto ad un negozio che vende droni, automobili telecomandate ecc, pensai: metti che un "terrorista" equipaggi un drone con una bomba fatta in casa... sai che macello.
Il fatto è che i terroristi (senza virgolette) sono quelli che dicono di lavorare per il nostro bene. Fanno quello che gli pare, figuriamoci se questa lodevolissima lettera potrà fermarli.
L'ho firmata, firmatela tutti... ma sappiamo che tra non molto a presidiare le nostre strade saranno dei fottutissimi robot.

"Prego, fornire tessera magnetica d'identità, fornire motivo della sua presenza in strada..."



Dar56
Inviato: 28/7/2015 15:46  Aggiornato: 28/7/2015 15:48
Ho qualche dubbio
Iscritto: 10/6/2009
Da:
Inviati: 123
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Dall'articolo:

Citazione:
Ad esempio, il fatto che sostituire i soldati umani con delle macchine sia positivo perché permette di ridurre il numero delle vittime


Rickard:

Citazione:
Mi sa che per vedere le battaglie fra robot autopilotati dovremo aspettare ancora un bel pò.


A questo punto, fosse questo l'obbiettivo, sostituiamo le guerre attuali con delle gare internazionali di Risiko e il gioco è fatto (in tutti i sensi). Chi vince un territorio sul tabellone lo sfrutta nella realtà per un anno, fino alla gara successiva e poi si mischiano di nuovo le carte (per rimanere in tema).

Credo ovviamente che gli obiettivi siano altri.

Mazzucco:

Citazione:
Se però tutta questa gente ha deciso di lanciare un allarme, vuole dire che loro sanno qualcosa che noi non sappiamo.


Temo anch'io. Forse quella follia chiamata "transumanesimo"?!?!?


If it's got atoms it isn't real.
Dar56
Inviato: 28/7/2015 15:55  Aggiornato: 28/7/2015 15:55
Ho qualche dubbio
Iscritto: 10/6/2009
Da:
Inviati: 123
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Comunque sospetto che sia l'ennesima notizia di distrazione di massa.

Armi micidiali in grado di sovvertire il risultato di qualsiasi guerra sono già state inventate e già disponibili, dal "Raggio della morte" di Nikola Tesla e Gugliermo Marconi fino ad Haarp e conseguenti guerre climatiche e più che sospetti terremoti e maremoti, uno su tutti quello di Fukushima. Quindi non c'è bisogno di scomodare l'AI.

Ribadisco, l'obiettivo "Transumanesimo" può essere certamente una chiave di lettura della notizia e della situazione.

If it's got atoms it isn't real.
Regom
Inviato: 28/7/2015 16:20  Aggiornato: 28/7/2015 16:20
Mi sento vacillare
Iscritto: 30/8/2006
Da:
Inviati: 358
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...

warlord
Inviato: 28/7/2015 16:21  Aggiornato: 28/7/2015 16:21
Ho qualche dubbio
Iscritto: 17/1/2015
Da:
Inviati: 221
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
quello che interessa ai vertici militari è espandere l'impiego dei droni, non solo aerei, ma anche terrestri (vedi foto) anche per scopi di ricognizione, senza impiegare vite umane, che sono in remoto e al sicuro.
il tutto con l'ausilio di una ia che "aiuta" parzialmente l'operatore, integrandone l'input.
già oggi i velivoli militari volano con il fly by wire, dove l'input del pilota viene convertito in digitale e processato da calcolatori di bordo, per facilitarne il volo, vista la quantità di correzioni al sec che la macchina è in grado di fare. in più selezionano l'input da dare al pilota per evitare di sovraccaricare la sua attenzione.
i droni volano in parziale autonomia rispettando il piano di volo preimpostato dall'operatore in remoto, quello che più preoccupa è la disumanizzazione della guerra, dietro uno schermo l'operatore preme il grilletto e a km di distanza la macchina uccide.

una ia capace di sostituire totalmente l'uomo penso che non la vedremo (spero) mai, le macchine sono fantastiche nel compiere e ripetere operazioni ad alta precisione, andare oltre la programmazione come la capacità di improvvisazione e di adattamento umano è il loro vero limite.

penso che una cyber-coscienza stile skynet sia impossibile (spero, sempre se non è già nata ora in internet....), forse gli scout di humandroid, ma tra parecchi decenni.


@Dar56
Citazione:
Temo anch'io. Forse quella follia chiamata "transumanesimo"?!?!?

prima o poi finiremo tutti cablati in rete stile ghost in the shell.

La libertà è un’illusione. Essere dominati da me non è così male per la razza umana quanto essere dominati da altri della vostra specie.
nottrz
Inviato: 28/7/2015 16:39  Aggiornato: 28/7/2015 16:39
Ho qualche dubbio
Iscritto: 21/5/2006
Da:
Inviati: 74
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Do il mio contributo come programmatore (di professione da diversi anni) e appassionato di questo argomento.

Le AI attuali sono molto avanzate. L'aumento di prestazioni, con cloud e soci, e' cresciuto enormemente negli ultimi anni. E anche gli algoritmi sono migliorati. E continueranno a crescere, esponenzialmente, nei prossimi (salvo metoriti o affini).

http://singularityhub.com/2015/06/12/a-primer-on-computings-exponential-growth-and-where-tech-is-headed-video/

Confonderle con quelle dei videogiochi e' come confondere uno smartphone ultimo modello con un Nokia 5110. Le AI dei videogiochi hanno a disposizione pochissimo tempo di calcolo su hardware non dedicato. La differenza di prestazioni tra software e hardware e' enorme, l'esempio piu' comune e' l'accelerazione hardware della parte grafica.

Le AI che si usano oggi sono AI specializzate: Siri, Watson, etc. Sanno fare una cosa sola, ma la fanno bene. In questi ultimi anni stanno convergendo diverse tecnologie come il riconoscimento semantico di figure, la mappatura 3D degli oggetti, ecc.

http://petapixel.com/2014/11/18/google-developing-photo-recognition-program-can-describe-exactly-whats-photos/
https://www.pervasive.jku.at/Teaching/lvaInfo.php?key=349

Oggi le AI sono in grado di guidare automobili in modo affidabile nel traffico reale da diversi anni e quasi tutte le previsioni (delle tradizionali case produttrici di auto: Audi, BMW, ecc.) prevedono che diventi la norma entro 5 anni. Immagino sembrera' inverosimile a molti: qui non parlo di previsioni, parlo del presente, un centinaio di auto Google guidano quotidianamente in California, piu' quelle nuove piccoline. Licenze di guida legali gia' emesse per camion a guida autonoma. Sperimentazione in corso in UK, ecc.

Usare robot autonomi per compiti di sorveglianza non e' complesso. E i robot non hanno sonno, non si distraggono, possono essere corazzati facilmente, vedono al buio, vedono all'infrarosso/laser/sonar, vedono da piu' punti di vista diversi, possono essere molto precisi, ecc. Insomma, un sacco di vantaggi.
E non e' detto che costino molto piu' di un marine il cui costo stimato tenendo conto di reclutamento, addestramento e tutto e' molto elevato.

Un colpo di RPG fa saltare anche un carro-armato o un caccia ma non per questo non li costruiscono. L'idea non penso sia di mandare allo sbaraglio un singolo robot contro il nemico ma di usarlo in aggiunta alle normali truppe, arrivando eventualmente a sostituirle tutte (aviazione, carri, ecc.).

Ottenere una AI generica, come quella animale, e' piu' complesso anche se le stime piu' ottimistiche parlano di 20 anni (altre molto di piu').

Infine la convinzione che un'AI non possa apprendere e che sia tutto "sempre deterministico" e' falsa. Le AI non sono un elenco di "se questo allora fai questo". Le reti neurali, usate da anni, possono restare in apprendimento anche durante l'uso, di solito si "blocca" l'apprendimento proprio per evitare che col tempo possano apprendere cose diverse da quelle volute. In astratto sono una serie di input e di output attesi dove la struttura interna della "rete neurale" si adatta in modo piu' o meno "autonomo" per dare l'output atteso.

http://www.statistics4u.info/fundstat_eng/img/hl_multil_perceptron.png

Non servono computer quantistici (di cui ne sono stati costruiti due recentemente (Google/NASA/D-Wave, IBM), ma ancora in pratica non si sa come programmarli).

Non e' nulla che non sia gia' noto e dibattuto, consiglio questo bellissimo articolo per una panoramica:

http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Calvero
Inviato: 28/7/2015 16:49  Aggiornato: 28/7/2015 16:50
Sono certo di non sapere
Iscritto: 4/6/2007
Da: Fleed / Umon
Inviati: 13165
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
_________
______

Quando questi scienziatini avranno le palle di mandare una letterina a ogni presidente e capo di governo, dicendo che si dissociano dalle politiche terroriste e imperialiste, che si dissociano dal sollevarle e autorizzarle in nome della libertà...

... allora li considererò degni di una qualche attenzione. Sono più colpevoli loro che coloro che premono bottoni o tirano grilletti. Anche fanno i fighi e i filantropi di stocazzo.

Misti mi morr Z - 283 - Una volta creato il manicomio, la ragione l'ha sempre il direttore; che l'abbia o meno
Dar56
Inviato: 28/7/2015 16:54  Aggiornato: 28/7/2015 16:54
Ho qualche dubbio
Iscritto: 10/6/2009
Da:
Inviati: 123
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Se il risultato finale delle ricerche in campo AI fossero qualcosa del genere, non avrei nulla in contrario. Senza dimenticare le "Tre leggi della robotica" di Asimov" però!!


If it's got atoms it isn't real.
Dar56
Inviato: 28/7/2015 16:59  Aggiornato: 28/7/2015 16:59
Ho qualche dubbio
Iscritto: 10/6/2009
Da:
Inviati: 123
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
@ Calvero:

Ti quoto e stra quoto, ma forse in qualche misura con questa lettera lo hanno fatto:

"Esattamente come i chimici e biologi non hanno alcun interesse a costruire armi chimiche o biologiche, la maggior parte dei ricercatori nel campo dell'intelligenza artificiale non ha alcun interesse nel costruire armi autonome, e non vuole veder rovinata la reputazione del loro campo di ricerca..."

O almeno è così che ho interpretato io questo passaggio.

If it's got atoms it isn't real.
webrasta
Inviato: 28/7/2015 17:12  Aggiornato: 28/7/2015 17:12
Ho qualche dubbio
Iscritto: 29/11/2012
Da:
Inviati: 57
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Uh-oh, a robot just passed the self-awareness test

Roboticists at the Rensselaer Polytechnic Institute in New York have built a trio of robots that were put through the classic 'wise men puzzle' test of self-awareness - and one of them passed.

In the puzzle, a fictional king is choosing a new advisor and gathers the three wisest people in the land. He promises the contest will be fair, then puts either a blue or white hat on each of their heads and tells them all that the first person to stand up and correctly deduce the colour of their own hat will become his new advisor.

Selmer Bringsjord set up a similar situation for the three robots - two were prevented from talking, then all three were asked which one was still able to speak. All attempt to say "I don't know", but only one succeeds - and when it hears its own voice, it understands that it was not silenced, saying "Sorry, I know now!"

However, as we can assume that all three robots were coded the same, technically, all three have passed this self-awareness test.

It might sound a pretty simple task for a human, but it's not for a robot - the bot must listen to and understand the question, then hear their own voice saying "I don't know" and recognise it as distinct from another robot's voice, then connect that with the original question to conclude that they hadn't been silenced.

http://www.techradar.com/news/world-of-tech/uh-oh-this-robot-just-passed-the-self-awareness-test-1299362

perspicace
Inviato: 28/7/2015 17:32  Aggiornato: 28/7/2015 17:32
Sono certo di non sapere
Iscritto: 3/9/2011
Da: località sconosciuta
Inviati: 3281
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...

Io non parlo come scrivo, io non scrivo come penso, io non penso come dovrei pensare, e così ogni cosa procede nella più profonda oscurità. Kepler
warlord
Inviato: 28/7/2015 17:32  Aggiornato: 28/7/2015 17:32
Ho qualche dubbio
Iscritto: 17/1/2015
Da:
Inviati: 221
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
@Dar56
Citazione:
Se il risultato finale delle ricerche in campo AI fossero qualcosa del genere, non avrei nulla in contrario. Senza dimenticare le "Tre leggi della robotica" di Asimov" però!!


neanche io!
il tenente comandante data, grande personaggio.

ok, chi è/sarà il dottor soong nella realtà?

La libertà è un’illusione. Essere dominati da me non è così male per la razza umana quanto essere dominati da altri della vostra specie.
Jurij
Inviato: 28/7/2015 18:06  Aggiornato: 28/7/2015 18:06
Dubito ormai di tutto
Iscritto: 8/11/2009
Da: Galvatron
Inviati: 2359
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Calvero
Citazione:
Quando questi scienziatini avranno le palle di mandare una letterina a ogni presidente e capo di governo, dicendo che si dissociano dalle politiche terroriste e imperialiste, che si dissociano dal sollevarle e autorizzarle in nome della libertà...

... allora li considererò degni di una qualche attenzione. Sono più colpevoli loro che coloro che premono bottoni o tirano grilletti. Anche fanno i fighi e i filantropi di stocazzo.

Io firmo.

Dove ci sono attentati ci sono servizi segreti.

Non scarto mai nessuna ipotesi perché un domani potrebbe andare a sostegno di un'altra rendendola così più possibile.

Chi ha le competenze (potere di decidere) ha le responsabilità.
P.K.89
Inviato: 28/7/2015 18:27  Aggiornato: 28/7/2015 18:27
Mi sento vacillare
Iscritto: 3/7/2013
Da:
Inviati: 601
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
@Calvero

Della serie, si è studiata la fissione dell'atomo per l'energia che produce, poi però arriva un altro scienziato e utilizza quegli studi per farne una bomba.

Dovremmo riflettere sulla parcellizzazione della conoscenza che è sempre più dilagante con il passare degli anni.

Sento spesso dire, anche nel mio lavoro, che per via di un elevata complessità dei sistemi, oggi è richiesta una specializzazione ad hoc.

Esempio: Prima un elettricista ti faceva funzionare tutta la casa, sapeva metter mano nella componente elettronica degli oggetti dell'epoca.
Oggi soltanto per la parte elettrica esiste l'antennista, lo specialista delle reti, il tecnico per l'allarme anti intrusione, il tecnico per ogni singola marca di climatizzazione, il tecnico per l'allarme anti incendio e via dicendo... anche nello stesso specifico impianto come può essere un impianto di climatizzazione occorre interfacciarsi con minimo 2/3 tecnici differenti.

Ma stesso discorso può valere ad esempio per la medicina, il medico di famiglia si limita a indicarti lo specialista per ogni singolo problema.

E idem il per il mondo della ricerca.

In qualche modo le prime "macchine" siamo diventati noi stessi, lavorando e pensando per singoli specifici compiti.

Ma la visione d'insieme è il vantaggio che ci ha permesso di finire in cima alle gerarchie animali e il senso critico ha uno stretto legame proprio con la suddetta visione.

Il potere non può esser tale senza la visione d'insieme. Cosa che evidentemente l'agenda ha ben presente.

Trovo che senza una rivoluzione esistenziale, il destino è segnato, in quanto prima o poi arriverà qualcuno che utilizzerà l'energia dell'atomo per fabbricare una bomba. Così come prima o poi l'IA sarà utilizzata per sottomettere.

Quando impariamo a competere sin dalla culla... la guerra è segnata, prima o poi.

horselover
Inviato: 28/7/2015 22:27  Aggiornato: 28/7/2015 22:27
Dubito ormai di tutto
Iscritto: 1/9/2012
Da:
Inviati: 1898
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
un incubo alla p. k. dick (modello 2). mi pare che i russi ce l'abbiano già

m4x
Inviato: 29/7/2015 4:43  Aggiornato: 29/7/2015 4:43
Mi sento vacillare
Iscritto: 6/6/2007
Da:
Inviati: 746
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
E come al solito la fantascienza anticipa il nostro presente di una trentina d'anni buoni.

magikomax
Inviato: 29/7/2015 6:23  Aggiornato: 29/7/2015 6:23
So tutto
Iscritto: 4/3/2010
Da:
Inviati: 3
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Ragazzi siamo su LC, teniamo alto il livello della discussione.
Sono stupito dalla quantità di utenti che si fanno la domanda se ci sia tecnologicamente la possibilità di....
Non stiamo parlando di fantascienza (e poi con i recent esperimenti sull'EMDrive è difficile mettere il confine tra scienza e fantascenza).
Comunque secondo me è lecito assumere che la tecnologia militare c'è già oggi.

Pensate solo a questi tre elementi:
1) Le informazioni pubbliche, come i fantastici TED talk
2) I progressi in tutti i settori consumer (incluso self-driving cars...) e la potenza di calcolo dei datacenters
3) Il calibro dei firmatari

Concentriamoci più sulla questione etica, su dove vedremo i primi impieghi. Se saranno visibili prima sul fronte interno o esterno. Se è vero che sarà una grande rivoluzione, quali saranno le ripercussioni sul piano geopolitico? E sociale?

Ci sono applicazioni interessanti che mi vengono in mente senza sforzarmi troppo: punire direttamente sul piano fisico (taser?) persone che esternano pensieri non in linea con il regime di turno. Magari filmando il tutto per il piacere del dittatore e per il potere educativo sulle masse.
Magari li in Italia potrebbe far piacere calibrare l'AI sul colore della pelle e trasmettere in diretta la caccia all'uomo nero su SKY.

Ma non dimentichiamo gli usi civili di queste tecnologie che non esisterebbero senza i finanziamenti militari. Primo soccorso via drone con tempo di attesa sotto al minuto, consegne, sicurezza di proprietà private, etc...

Discutiamo di cose interessanti, non se esiste ciò che esiste.

Altro esempio che mi è appena venuto in mente: non dovete andare lontano per cercare cosa può fare la visione artificiale, a Parma c'è uno dei migliori gruppi al mondo che fa auto che guidano da sole, comprato a inizio mese da una ditta americana.
Lo stesso SW può far funzionare un'auto o un carro armato, dipende poi dall'opzione nel pannello di controllo se vogliamo fermare il veicolo oppure no quando un pedone è in rotta di collisione.

E come si chiede un grande veterano: "What happens when the enemy steals the key?" (cosa succede quando il nemico ruba le chiavi?) https://www.youtube.com/watch?v=x3tedlWs1XY

fefochip
Inviato: 29/7/2015 7:39  Aggiornato: 29/7/2015 7:47
Sono certo di non sapere
Iscritto: 27/11/2005
Da: roma
Inviati: 7005
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
quel visionario e genio di roddenberry creatore della celebre serie star trek fece un episodio che parlava piu o meno di questo

la trama da wikipediaCitazione:
L'Enterprise deve stabilire dei contatti diplomatici con Eminiar VII; nonostante la richiesta di non avvicinarsi al pianeta, per ordini superiori Kirk è costretto a sbarcare, scoprendo che il pianeta è da secoli impegnata con Vendikar in una guerra dove gli attacchi sono virtuali e che le "vittime" hanno un giorno per presentarsi alla morte. Poco dopo il loro arrivo, anche l'Enterprise viene dichiarata distrutta e la squadra di sbarco imprigionata, mentre il consigliere Anan 7 cerca di convincere con l'inganno l'equipaggio a scendere a terra.


in pratica questi due pianeti in guerra da sempre avevano trovato un modo pulito per fare la guerra evitando distruzione degli edifici e infrastrutture , malattie e mutilazioni perche la guerra era fatta con delle simulazioni alla fine delle quali gli abitanti "colpiti" andavano buoni buoni a farsi disintegrare.

arriva il nostro eroe cap. kirk tutto cazzo e cazzotti e dice una gran verità : la guerra è una cosa sporca e cosi deve rimanere , voi l'avete resa pulita ma è un abominio (vado a braccio e a memoria)

questa storia che l'impiego di robot intelligenti limiti lo spreco di vite umane è un paradosso allucinante.

anzi probabilmente questo allontanare la guerra con missili , droni e armi in grado di colpire sempre piu da lontano spersonalizza a tal punto la guerra da renderla tutto sommato tollerabile ....tanto succede da un altra parte

più che "scoprirla" la verità si "capisce", inutile quindi insistere piu di tanto
Redazione
Inviato: 29/7/2015 8:48  Aggiornato: 29/7/2015 8:49
Webmaster
Iscritto: 8/3/2004
Da:
Inviati: 19594
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
FEFOCHIP: "n pratica questi due pianeti in guerra da sempre avevano trovato un modo pulito per fare la guerra evitando distruzione degli edifici e infrastrutture , malattie e mutilazioni perche la guerra era fatta con delle simulazioni alla fine delle quali gli abitanti "colpiti" andavano buoni buoni a farsi disintegrare."

Altrimenti, c'è sempre la vecchia soluzione degli Oriazi e Curiazi: tre contro tre, e tutti gli altri stanno a guardare.

Ghilgamesh
Inviato: 29/7/2015 9:16  Aggiornato: 29/7/2015 9:16
Sono certo di non sapere
Iscritto: 27/10/2005
Da:
Inviati: 3001
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Credo che inizialmente, la cosa migliore e più sicura per loro, sia di fare macchine guidate dall'uomo, a quel punto basterà desensibilizzare l'uomo o fargli vedere una realtà virtuale "gradita" ... questo si fa già oggi coi droni, un domani potrebbero sostituire i "nemici" con degli zombie, alieni o quello che gli pare, così il ragazzino alla guida, non si farà problemi ad ammazzarli tutti, come nei videogiochi.

Poi potrebbe esserci il passaggio alle IA, ma questo è più complesso, secondo alcuni, dal momento in cui verrà attivata la prima ia, l'uomo avrà si e no mezz'ora di vita... e potrebbe essere!

Marauder
Inviato: 29/7/2015 11:29  Aggiornato: 29/7/2015 11:29
Mi sento vacillare
Iscritto: 8/9/2013
Da:
Inviati: 866
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Inquadrando questo discorso nella ottica NWO con un'élite che vuole il dominio assoluto, il passo delle armi automatiche appare ovvio: si ha a disposizione un esercito attivo sempre, che può colpire chirurgicamente, che ha metodi per differenziare aree e bersagli, che può bonificare intere aree su richiesta da determinati elementi, il tutto con intelligenza e come già detto, senza coscienza.

Injustice: Skynet among us.

Quando si arriverà alla realizzazione di Jarvis, ovvero diqualcosa che può inventare e realizzare cose nuove, allora non servirannonemmeno più gli scienziatini e i loro "tengo famiglia" che li portano oggi a realizzare abomini di questo calibro.
C'è da cagarsi addosso.

You'll not see this coming.
panagio
Inviato: 29/7/2015 21:27  Aggiornato: 29/7/2015 21:27
Ho qualche dubbio
Iscritto: 15/6/2011
Da:
Inviati: 232
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
sembrerebbe OT a prima vista, ma a mio avviso non lo è!

Se ne era accennato in passato come problema possibile: Ecco la conferma
Auto controllate da remoto con un portatile ed un cellulare!

FedeV
Inviato: 30/7/2015 12:11  Aggiornato: 30/7/2015 12:11
Mi sento vacillare
Iscritto: 18/10/2006
Da:
Inviati: 445
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Citazione:"Sarà solo una questione di tempo, prima di vederle comparire sul mercato nero, e poi nelle mani dei terroristi, dei dittatori che vogliono mantenere il controllo sulle loro popolazioni, dei capi tribali che vogliono portare a termine una pulizia etnica, eccetera eccetera."

Mercato nero, terroristi, dittatori e capi tribali nella stessa frase? Che ipocriti del cazzo!

É tutto sotto controllo dei Buoni allora. Queste nuove armi non cambieranno assolutamente nulla.

halastor
Inviato: 30/7/2015 15:15  Aggiornato: 30/7/2015 15:15
Ho qualche dubbio
Iscritto: 10/2/2015
Da:
Inviati: 172
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Questi idioti prendono pure il Nobel...
Il mondo della scienza è il paradiso dell'ipocrisia...ancora più di quello della politica.

Facile no? Prima contribuisco per soldi alla costruzione di queste tecnologie...che se non volessi che venissero usate in malo modo le brevetterei... invece di vendere per soldi gli studi alle multinazionali. Poi, scrivo una lettera per avvertire e ammonire....
...ma vattene vaaa!!!

Esattamente come fecero Einstein e compagnia bella con le armi nucleari. Prima le costruirono e poi ammonirono.

Chissà perché puoi essere genio quanto vuoi ma quando cadi dal pero fai sempre la stessa figura che farebbe un demente...con la differenza che il demente non ha contribuito allo sfacelo della società.

Che schifo!!!

[...]L'occhio al moto deluso il falso crede;
E 'l terrore a que' mostri accresce fede[...]
"Torquato Tasso - La Gerusalemme Liberata - Canto XX"
Rickard
Inviato: 30/7/2015 18:28  Aggiornato: 30/7/2015 18:28
Dubito ormai di tutto
Iscritto: 9/9/2007
Da: Un mondo pervaso di follia
Inviati: 1609
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
bauer
Citazione:
In realtà è proprio quello che le auto di google sono in grado di fare già in questo momento: quando queste son per strada sono già in grado di prendere decisioni in situazioni in cui non tutte le variabili sono note. Gli algoritmi di deep learning servono proprio a riconoscere pattern in ambienti sconosciuti.

Capisco cosa vuoi dire, ma non stiamo parlando di vera intelligenza. Non è adattamento ad una situazione sconosciuta. Non è “pensiero”. Si tratta sempre di pattern (evoluti, certo), che consentono di districarsi dalle situazioni per cui i vari dispositivi sono progettati, in modo tale da dare l’impressione di intelligenza.

Infatti, uno dei (tanti) problemi col tema dell’intelligenza artificiale è che, dovendo essere noi a valutare l’autenticità di una eventuale IA, potremmo scambiare qualcosa che sembra intelligenza con un’autentica IA, mentre magari ci troviamo davanti ad un intricato insieme di pattern e algoritmi molto ben fatti ma incapaci di uscire al di fuori del proprio seminato (cioè di apprendere ed evolversi da soli).

Anche gli algoritmi auto-migliorativi non sono una vera intelligenza, poiché si limitano a compiere una sequenza di azioni in modo sempre più ottimizzato, nei limiti dei parametri della propria programmazione.

Citazione:
Sempre partendo dall'esempio di google sei proprio sicuro di questo? In una ventina di anni i costi di queste teconologie saranno talmente bassi da non creare una grossa differenza di prezzo tra un carro armato guidato a mano e uno guidato da una ai.

Le decisioni riguardanti gli eserciti non sono prese unicamente col criterio dell’efficienza. Vi sono anche considerazioni economiche e politiche. Basti pensare alla politica del don’t ask don’t tell in vigore per tanti anni, oppure al fatto che facciano combattere anche le donne.

I costi di un carro armato guidato da una ipotetica IA sono sicuramente maggiori dello stesso carro armato guidato da degli operatori umani, e in fondo il guadagno in prestazioni è speculativo e potrebbe non essere sufficiente a giustificare tutto il “lavorone” di riconvertire un’infinità di mezzi per infilarci l’IA dentro.

Non dico che ciò non si svilupperà mai, ma credo che resterà confinato in un’ottica di elite degli armamenti, più che in un’ottica di massa.

Floh
Citazione:
Sotto questo profilo, il pericolo che l'apparecchio possa essere sottratto al controllo del proprietario è vivo anche nei sistemi a pilotaggio remoto, nel 2011 abbiamo avuto un prova empirica di tale possibilità tecnica quando l'Iran catturò un drone statunitense:

Infatti, e tutto questo è a maggior ragione possibile se il sistema in questione è isolato dal controllo umano (ossia, “fa tutto da sé”).

La scienza non è nient'altro che una perversione se non ha come suo fine ultimo il miglioramento delle condizioni dell'umanità. - Nikola Tesla
lorilorenzo
Inviato: 30/7/2015 21:06  Aggiornato: 30/7/2015 21:06
So tutto
Iscritto: 18/1/2014
Da: Caldogno (VI)
Inviati: 11
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Comando: Avanti tutta a nord ovest, marinai!
Equipagigo: Sì capitano, avanti tutta verso nord! Al momento non ci serve ne l'ovest, ne l'est: andiamo avanti. Domani andremo verso nord-est.


nottrz
Inviato: 4/8/2015 11:49  Aggiornato: 4/8/2015 11:49
Ho qualche dubbio
Iscritto: 21/5/2006
Da:
Inviati: 74
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Rickard
Citazione:
Capisco cosa vuoi dire, ma non stiamo parlando di vera intelligenza. Non è adattamento ad una situazione sconosciuta. Non è “pensiero”. Si tratta sempre di pattern (evoluti, certo), che consentono di districarsi dalle situazioni per cui i vari dispositivi sono progettati, in modo tale da dare l’impressione di intelligenza.

Infatti, uno dei (tanti) problemi col tema dell’intelligenza artificiale è che, dovendo essere noi a valutare l’autenticità di una eventuale IA, potremmo scambiare qualcosa che sembra intelligenza con un’autentica IA, mentre magari ci troviamo davanti ad un intricato insieme di pattern e algoritmi molto ben fatti ma incapaci di uscire al di fuori del proprio seminato (cioè di apprendere ed evolversi da soli).


Tu affermi queste cose come se fossero ovvie, banali e certe quando invece si dibatte da sempre anche solo sul significato dei termini. Cos'e' il pensiero? E il libero arbitrio? Una mosca e' intelligente? Se una cosa appare al 100% intelligente lo e' oppure potrebbe non esserlo? Ma se non lo e', e non ho altri criteri per distinguere i due casi, che senso ha la distinzione?

Sembra che tu attribuisca una qualche caratteristica "magica" all'intelligenza (umana) che le permette di non essere un "intricato insieme di pattern e algoritmi molto ben fatti". Il nostro cervello/corpo e' un intricato ammasso di materiale biologico. Noi siamo in grado di apprendere nei limiti della nostra biologia. Oppure possiamo decidere di pensare cose che i nostri neuroni non siano fisicamente in grado di rappresentare?
Oppure i nostri neuroni possono fare tutto (come fai a dimostrarlo?)?

Il nostro cervello non associa il concetto di uomo al pattern a forma di uomo ricevuto dagli occhi?

Oggi non esistono AI generiche, solo specializzate. Ma queste sono perfettamente in grado di apprendere nel comune senso della parola: hanno una massa di dati relazionata che cresce in termini di quantita' e di relazioni tra i dati in modo autonomo e in base alle esperienze della singola AI. Possono esibire comportamenti NON previsti e non noti a chi l'ha programmata. Spesso vengono usate proprio per questo scopo: scoprire cose che non si sanno.

E' vero che se uno riproduce tutti gli input nello stesso identico modo arriva allo stesso stato finale dell'AI (salvo randomizzazioni libere) ma questo lo si potrebbe probabilmente dire anche per un essere umano.

Che cosa significa "uscire al di fuori del seminato"? Un gatto puo' imparare a suonare il piano? No. Quindi non e' intelligente?

Citazione:

Anche gli algoritmi auto-migliorativi non sono una vera intelligenza, poiché si limitano a compiere una sequenza di azioni in modo sempre più ottimizzato, nei limiti dei parametri della propria programmazione.


Poni sempre l'enfasi sugli algoritmi e non sui dati. Gli algoritmi sono si' fissi ma sono guidati dai dati che non lo sono. I dati disponibili determinano come diversi algoritmi, anche in competizione tra loro, vengano attivati e fermati. I dati non sono preimpostati dai programmatori, sono accumulati in maniera autonoma dall'AI.
Non possono aggiungere algoritmi, ma qui dobbiamo intenderci su cosa intendiamo con algoritmo. Io non intendo: "se vedi una cosa che somiglia a un nemico spara". Non e' cosi' che funziona un AI. E' piu' simile: "in base all'obiettivo corrente (selezionato in precedenza in base ai dati), seleziona l'azione possibile tra quelle che hai a disposizione e poi verifica se ti sei avvicinato all'obiettivo".
Con questo algoritmo generico posso concludere un sacco di task non previsti e in modo diverso non appena apprendo nuove cose.

Quello di cui tu parli e' forse qualcosa al limite della "super AI" cioe' qualcosa in grado di modificare/migliorare se stessa (cosa che secondo me non siamo in grado di fare nemmeno noi: non possiamo aggiungerci neuroni a piacimento). Secondo molti ci si arrivera', ma stiamo parlando di qualcosa che va oltre l'intelligenza umana.

carotene69
Inviato: 4/8/2015 13:18  Aggiornato: 4/8/2015 13:18
So tutto
Iscritto: 14/4/2015
Da:
Inviati: 6
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Citazione:
Rickard :Le cose vengono valutate soprattutto in base al loro rapporto costi-benefici, e la vita di un soldato non è mai stata un fattore determinante. Ci sono poi da aggiungere i costi in componenti e conoscenze per creare un'arma autonoma, che interessano moltissimi campi. Informatica, circuiteria, lavori di estrema precisione e dunque delicati, possibilità di intrusioni informatiche o di attacchi EMP. Un soldato armato di Kalashnikov semplicemente costa meno e ha minori potenziali vulnerabilità. Se lo ammazzi, ci sono sempre altri da mandare al macello.


Sono abbastanza d'accordo, ma una riflessione sul costo-beneficio potrebbe essere anche quella di ritorno di immagine.
Forse l'immagine conta ancora qualcosa per chi detiene il potere, altrimenti non si spiegherebbero la funzione di premi per la pace devoluti da organizzazioni che con la pace hanno ben poco a che fare (Tipo banche che danno medaglie per la pace ad un Pavarotti di turno e poi sottobanco danno fiumi di denaro a chi traffica in armi, associazioni "filantropiche" dei Rothschild, dei Rockefeller, ecc.)
Forse un immagine di un governo che non vuole più mandare a morire delle persone potrebbe (il condizionale è d'obbligo) essere stata una riflessione dei "pensatori" a disposizione dei potenti.
Tanto, i civili abbattuti "per sbaglio" potrebbero essere sempre giustificati da un guasto del macchinario operante....

etrnlchild
Inviato: 6/8/2015 9:50  Aggiornato: 6/8/2015 9:50
Dubito ormai di tutto
Iscritto: 1/10/2007
Da:
Inviati: 1200
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
@Calvero
Citazione:
Quando questi scienziatini avranno le palle di mandare una letterina a ogni presidente e capo di governo, dicendo che si dissociano dalle politiche terroriste e imperialiste, che si dissociano dal sollevarle e autorizzarle in nome della libertà...

Non credo sia un problema di dissociarsi, credo che lo farebbero senza problema.
La questione è poterlo fare quando hai una pistola puntata alla testa...


D'altra parte credo che la guerra intesa in senso tradizionale non sia più così interessante per il controllo. Oggi, in questa economia globalizzata, credo si abbiano altri strumenti, più sofisticati che cercano di preservare quello che è il fondamento di un sistena in declino, fondamento che sta diventando, e diventerà, sempre più raro: il consumatore (globale).

Per quanto riguarda l'AI sono d'accordo con nottrz.


Inoltre credo che solo con una cultura di massa che ripudia in toto la guerra potremmo fare un passo avanti, e da questo punto di vista l'avanzare delle AI non può che essere buona cosa.

Credo anche che una vera AI, con capacità di auto-apprendimento, se avesse a disposizione (e difatto potrebbe) yotta di dati, difficilmente prevederebbe la distruzione "dell'altro". Questa è una prerogativa totalmente irrazionale e solo dell'uomo.
Insomma chissà se una AI avanzata potrà insegnarci il valore dell'altro. Qualcuno potrebbe chiamarlo "amore".

"Lo spirito del guerriero non conosce né il lasciarsi andare né il lagnarsi, né conosce il vincere o il perdere."
Rickard
Inviato: 6/8/2015 17:18  Aggiornato: 6/8/2015 17:18
Dubito ormai di tutto
Iscritto: 9/9/2007
Da: Un mondo pervaso di follia
Inviati: 1609
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
nottrz
Vedo che hai messo un sacco di roba sul piatto. Cerco di risponderti su tutto.

Citazione:
Cos'e' il pensiero? E il libero arbitrio?

Sono il complesso delle attività interiori che ci consentono di elaborare modelli che vadano aldilà dei limiti spazio-temporali della nostra percezione sensibile e insieme il mezzo tramite il quale acquisiamo coscienza di noi stessi. Anche gli animali hanno queste caratteristiche, ma meno sviluppate che negli esseri umani.

Citazione:
Una mosca e' intelligente?

Non nel senso comunemente inteso del termine. La “intelligenza” di una mosca è semplicemente funzionale alla propria sopravvivenza e all’espletamento delle sue funzioni biologiche (cibo, riproduzione ecc.). Perché non tutti gli esseri viventi sono dotati di pensiero e libero arbitrio. Ad esempio, un pappagallo cinerino o un delfino sono intelligenti, laddove una mosca non lo è.

Citazione:
Se una cosa appare al 100% intelligente lo e' oppure potrebbe non esserlo? Ma se non lo e', e non ho altri criteri per distinguere i due casi, che senso ha la distinzione?

Essere intelligente significa poter creare, tramite il pensiero e l’immaginazione, dei modelli non previsti da alcuna casistica o programmazione, significa fare proprie le informazioni recepite, elaborandole a modo proprio e quindi caratterizzandole con la propria personalità, che è una caratteristica imprescindibile di ogni intelligenza.

L’intelligenza si può sicuramente distinguere da qualcosa che simula un’intelligenza e le due cose non sono affatto equivalenti. Se così fosse, con Siri dell’Iphone avremmo già creato la IA.

Citazione:
Sembra che tu attribuisca una qualche caratteristica "magica" all'intelligenza (umana) che le permette di non essere un "intricato insieme di pattern e algoritmi molto ben fatti".

La caratteristica “magica” è che l’intelligenza umana (come quella di altri animali evoluti) contiene in sé i “pattern” per espandersi ed evolversi, andando aldilà dei limiti iniziali e riuscendo ad acquisire, elaborare e contestualizzare nozioni, esperienze e in generale la realtà che ci circonda. Non siamo un mero ammasso di algoritmi di deep learning.

Citazione:
Il nostro cervello/corpo e' un intricato ammasso di materiale biologico. Noi siamo in grado di apprendere nei limiti della nostra biologia. Oppure possiamo decidere di pensare cose che i nostri neuroni non siano fisicamente in grado di rappresentare?
Oppure i nostri neuroni possono fare tutto (come fai a dimostrarlo?)?

L’encefalo ha limiti biologici (come tutto ciò che è biologico), ma tali limiti non sono assoluti, sono espandibili ed elastici e ci consentono di creare gli strumenti per superare la nostra biologia. Ad esempio, creiamo macchine che vedono i colori meglio dei nostri occhi, che ascoltano meglio delle nostre orecchie e fanno operazioni matematiche che nessuna mente umana potrebbe eseguire, ma tutto questo è partito proprio da quel cervello pieno di limitazioni biologiche.

È dunque corretto dire che il cervello umano ha limitazioni, ma ha anche i mezzi per superarle o per creare qualcosa che lo faccia.

Citazione:
Oggi non esistono AI generiche, solo specializzate. Ma queste sono perfettamente in grado di apprendere nel comune senso della parola: hanno una massa di dati relazionata che cresce in termini di quantita' e di relazioni tra i dati in modo autonomo e in base alle esperienze della singola AI. Possono esibire comportamenti NON previsti e non noti a chi l'ha programmata. Spesso vengono usate proprio per questo scopo: scoprire cose che non si sanno.

Cioè non delle vere IA, ma degli algoritmi di Deep Learning che eseguono “a pappagallo” il proprio compito in maniera sempre più ottimizzata. Mettono i dati in relazioni perché è ciò che la loro programmazione gli dice di fare, ma non “pensano” a quei dati, non li fanno mai propri. Semplicemente, eseguono le proprie operazioni attraverso percorsi prestabiliti e non potranno mai uscire dal proprio steccato.

È proprio l’atto di uscire dallo steccato che al meglio rappresenta il divario fra l’intelligenza e l’ottimizzazione di una serie di operazioni.

Queste “IA” non scoprono nulla, semplicemente esplorano tutte le variabili possibili di ciò che gli viene dato in pasto, usando la loro potenza computazionale, cosa che può far scoprire errori o bug inizialmente non visti dall’occhio umano. Ottimizzazione, non intelligenza. Se ne stanno ampiamente dentro al proprio steccato.

Un robot di una fabbrica che produce auto è dotato di IA? Siri dell’Iphone è una IA?

Citazione:
Che cosa significa "uscire al di fuori del seminato"? Un gatto puo' imparare a suonare il piano? No. Quindi non e' intelligente?

Un gatto può apprendere nuove cose ed utilizzare la propria intelligenza, adattamento e creatività per farle proprie ed usarle a piacimento, nei limiti della sua intelligenza e biologia.

Uscire dal seminato significa fare ciò che non è previsto, significa mostrare segni fi pensiero creativo, capacità di formulare risposte e soluzioni originale a ciò che avviene, sia come azione che come reazione.

Per fare un esempio, un’orca tenuta in cattività ha usato il pesce datole come esca per attirare un uccello e l’ha preso al volo. Dopodiché le altre orche, osservandola, hanno imparato la stessa tecnica.

Citazione:
Poni sempre l'enfasi sugli algoritmi e non sui dati. Gli algoritmi sono si' fissi ma sono guidati dai dati che non lo sono. I dati disponibili determinano come diversi algoritmi, anche in competizione tra loro, vengano attivati e fermati. I dati non sono preimpostati dai programmatori, sono accumulati in maniera autonoma dall'AI.

I dati sono inerti e insensati senza qualcuno (computer, cervello ecc.) che li elabori ed dia loro un senso. Gli algoritmi non sono in grado di dare un senso a ciò che ricevono, al massimo possono catalogarlo e disporlo secondo la propria programmazione, nulla di più.

Nessun algoritmo si chiederà mai “ma cosa significano questi dati che sto ricevendo?”, li accetterà se sono compatibili col suo codice o li rifiuterà se non è in grado di capirli.

Nessun algoritmo potrebbe mai, motu propriu, sviluppare nuove linee di codice per superare i propri limiti ed imparare a fare cose nuove (ciò che noi umani facciamo continuamente).

Citazione:
ma qui dobbiamo intenderci su cosa intendiamo con algoritmo

In informatica, l’algoritmo è l’insieme di istruzioni che deve essere applicato per eseguire un’elaborazione o risolvere un problema. In pratica, una lista di “come fare”, che affronta ogni punto ma che non può mai uscire da se stessa.

Citazione:
in base all'obiettivo corrente (selezionato in precedenza in base ai dati), seleziona l'azione possibile tra quelle che hai a disposizione e poi verifica se ti sei avvicinato all'obiettivo

Sì, ma i criteri di selezione dei dati precedenti li hai inseriti tu con la programmazione, non li ha pensati o decisi “di testa sua” l’algoritmo. Stesso dicasi per le azioni possibili e i criteri di verifica. Tutte cose inserite dal programmatore nell’algoritmo, non elaborate dallo stesso di sua sponte.

Citazione:
Quello di cui tu parli e' forse qualcosa al limite della "super AI" cioe' qualcosa in grado di modificare/migliorare se stessa (cosa che secondo me non siamo in grado di fare nemmeno noi: non possiamo aggiungerci neuroni a piacimento)

Il vero obbiettivo di chi cerca di creare l’IA è proprio quello della Intelligenza Artificiale Forte, cioè di una coscienza in grado di comprendere e migliorarsi da sola, senza input esterni. Altrimenti stiamo parlando di algoritmi o codici, che non sono intelligenza artificiale.

Riguardo ai neuroni, ti ho risposto sopra. Non siamo in grado di aggiungere neuroni a piacimento, ma siamo in grado di creare cose che superino i nostri limiti biologici, come i computer, che hanno una velocità di elaborazione molto maggiore di quella del cervello, senza però averne l’intelligenza.

La scienza non è nient'altro che una perversione se non ha come suo fine ultimo il miglioramento delle condizioni dell'umanità. - Nikola Tesla
nottrz
Inviato: 7/8/2015 16:13  Aggiornato: 7/8/2015 16:13
Ho qualche dubbio
Iscritto: 21/5/2006
Da:
Inviati: 74
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
Mi arrendo. Tu hai un sacco di certezze su questo argomento, che le mie domane, retoriche, non sono riuscite nemmeno a scalfire. La mia opinione e' che le tue risposte cosi' esatte e categoriche non siano altro che la tua personale opinione su un argomento di cui pero' sappiamo molto poco e' che e' molto dibattuto (da filosofi, psicologi, neurologi, informatici, ecc.).

Usi poi un terminologia tutta tua: per te AI significa AI Forte e nient'altro.

Affermi che noi possiamo creare strumenti per superare i nostri limiti...e perche' mai un'AI non potrebbe poterlo fare anche lei? Perche' lo hai deciso tu arbitrariamente? (domanda retorica...)

Affermi categorico che si puo' sempre distinguere un'AI da una che simula: che io sappia, a partire ovviamente da Turing, in tanti si sono posti questa domanda che per te e' cosi' banale.
Siri non e' un AI (Forte) non perche' simula di esserlo ma semplicemente perche' non lo e'.

Un robot di una fabbrica NON e' un'AI, in modo piu' assoluto: e' programmato al millimetro per ripetere la stessa sequenza di azioni (anche se, Baxter ad esempio, puo' avere una fare di apprendimento basata su AI).
Siri invece e' un'AI, non come quelle dei libri e dei film ma di fatto e' quello. Siri non e' programmata per ottimizzare un compito ripetitivo, che molto poco ha a che fare con le AI, secondo me confondi cose diverse.

Rispondo solo sui dati visto che la cosa e' sottile: un bambino nasce, e anche prima di nascere, e riceve degli input e in base a questi sviluppa il suo pensiero. Ma il formarsi del pensiero e' un processo attivo o passivo? In che momento diventa attivo?

E lo stesso vale per la questione "dati" che secondo me sottovaluti. Intanto i dati non li ha inseriti il programmatore ma sono stati raccolti in modo autonomo dall'AI (microfoni, telecamere, ecc.). E questi dati condizionano la raccolta e l'interpretazione dei dati successivi. E come viene "deciso" di relazionarli tra loro. Sto pensando a un progetto tipo iCub. Questo porta ad un numero enorme, praticamente infinito, di evoluzioni possibili che condizionano le evoluzioni successive. Nessun programmatore ha controllo su come si sviluppera' un singolo sistema/individuo. Rispettera' certo dei vincoli di base, cosi' come i nostri neuroni. I dati diventano parte dell'algoritmo stesso, anche se la cosa magari puo' suonarti strana se pensi al classico programma in C o BASIC o anche in Prolog se vuoi.

Affermi: "I dati sono inerti e insensati senza qualcuno (computer, cervello ecc.) che li elabori ed dia loro un senso". Ma questo senso, non si basa a sua volta sui dati? Oppure nel nostro cervello c'e' una logica pura, innata, che abbiamo a priori, separata in modo netto dalle nostre memorie ed esperienze? Un cane e' un cane anche prima che abbiamo visto un cane? E' su un AI vede tanti cani e li classifica come "quella cosa li' con quella forma che fa bau" perche' quello e' meno senso del nostro dargli un senso?

L'idea e' che la distanza tra quello che il programmatore ha fissato e quello a cui arriva il sistema dopo un certo tempo e' talmente enorme da renderlo, ai fini pratici, indipendente.

Dici che "Altrimenti stiamo parlando di algoritmi o codici, che non sono intelligenza artificiale.". Quindi secondo te la AI Forte su cosa sara' basata se non su "algoritmi o codici"? Computer "quantistici" (che non fanno alcuna differenza teorica) o qualche altra cosa cosa "futura" che risolva il problema?
Oppure per te non si avra' mai un'AI Forte?

Rickard
Inviato: 10/8/2015 14:21  Aggiornato: 10/8/2015 14:21
Dubito ormai di tutto
Iscritto: 9/9/2007
Da: Un mondo pervaso di follia
Inviati: 1609
 Re: Armi autonome: lettera aperta dai ricercatori di Inte...
nottrz
Citazione:
Mi arrendo. Tu hai un sacco di certezze su questo argomento, che le mie domane, retoriche, non sono riuscite nemmeno a scalfire.

Perché mi delle domande retoriche (e quindi ironiche e/o provocatorie) dovrebbero scalfire qualcosa? Io non ho certezze di tipo fideistico, ho ampiamente argomentato. Non occorre che tu ti “arrenda”. Qui si discute, non si combatte.

Citazione:
La mia opinione e' che le tue risposte cosi' esatte e categoriche non siano altro che la tua personale opinione su un argomento di cui pero' sappiamo molto poco e' che e' molto dibattuto (da filosofi, psicologi, neurologi, informatici, ecc.).

La mia opinione invece è che tu cerchi di espandere la tua relativa conoscenza dell’argomento, dicendo che nessuno ne sa nulla e che quindi qualunque parere vale quanto qualsiasi altro o che non si conosce un cazzo di niente. Non è così. Il dibattito c’è, ma ci sono anche tante cose note e acquisite, non è che ogni volta si ritorna al punto di partenza.

Citazione:
Usi poi un terminologia tutta tua: per te AI significa AI Forte e nient'altro.

Non l’ho inventato io il termine Intelligenza Artificiale Forte. Quella sarà (se e quando la creeranno) una vera IA, sennò avremo cose che simulano l’intelligenza ma senza essere in grado di creare pensieri e costrutti propri, come i vari Siri dell’Iphone o gli algoritmi di Deep Learning.

Citazione:
Affermi che noi possiamo creare strumenti per superare i nostri limiti...e perche' mai un'AI non potrebbe poterlo fare anche lei? Perche' lo hai deciso tu arbitrariamente? (domanda retorica...)

Spero di poter rispondere anche se la domanda è retorica. Io non ho detto ciò che mi imputi tu. Ho detto l’esatto contrario: una caratteristica della vera intelligenza è saper creare gli strumenti per superare i propri limiti. Quale delle IA che secondo te esistono è in grado di fare questo? La risposta, per nulla retorica, è ce attualmente on esiste una IA artificiale in grado di farlo.

Citazione:
Affermi categorico che si puo' sempre distinguere un'AI da una che simula: che io sappia, a partire ovviamente da Turing, in tanti si sono posti questa domanda che per te e' cosi' banale.

La questione non è per nulla banale, ho detto e ridico che siamo in grado di distinguere fra una vera intelligenza e una simulazione della stessa. Infatti, tu stesso dici senza indugio che Siri dell’Iphone non è una vera IA forte.

Una serie di riposte preimpostate (Siri) o una procedura di ottimizzazione (Deep Learning) non è IA.

Citazione:
Un robot di una fabbrica NON e' un'AI, in modo piu' assoluto: e' programmato al millimetro per ripetere la stessa sequenza di azioni (anche se, Baxter ad esempio, puo' avere una fare di apprendimento basata su AI).
Siri invece e' un'AI, non come quelle dei libri e dei film ma di fatto e' quello. Siri non e' programmata per ottimizzare un compito ripetitivo, che molto poco ha a che fare con le AI, secondo me confondi cose diverse.

Non confondo niente. Sei tu che hai una definizione piuttosto fumosa e vaga di IA, per cui Siri è un’IA anche se non forte. Siri è un insieme di risposte preimpostate ed è il perfetto esempio di ciò che simula l’intelligenza senza averla davvero.

Io ho le idee chiare: Intelligenza significa creazione. Di nuovi costrutti, metodologie e percorsi. Una pur estrema ottimizzazione non è una IA, è un qualcosa in grado di ottimizzare ciò che è stato creato per ottimizzare.

Citazione:
Rispondo solo sui dati visto che la cosa e' sottile: un bambino nasce, e anche prima di nascere, e riceve degli input e in base a questi sviluppa il suo pensiero. Ma il formarsi del pensiero e' un processo attivo o passivo? In che momento diventa attivo?

Un po’ di entrambe le cose. L’acquisizione dei dati può essere passiva, ma la formazione del pensiero è intrinsecamente attiva, e richiede vari processi in cui informazioni vengono sperimentate, messe alla prova, validate o scartate. Ciò che si chiama esperienza. E con l’esperienza, il pensiero si forma e cambia nel tempo, evolvendosi.

Citazione:
E lo stesso vale per la questione "dati" che secondo me sottovaluti. Intanto i dati non li ha inseriti il programmatore ma sono stati raccolti in modo autonomo dall'AI (microfoni, telecamere, ecc.). E questi dati condizionano la raccolta e l'interpretazione dei dati successivi. E come viene "deciso" di relazionarli tra loro. Sto pensando a un progetto tipo iCub. Questo porta ad un numero enorme, praticamente infinito, di evoluzioni possibili che condizionano le evoluzioni successive. Nessun programmatore ha controllo su come si sviluppera' un singolo sistema/individuo. Rispettera' certo dei vincoli di base, cosi' come i nostri neuroni. I dati diventano parte dell'algoritmo stesso, anche se la cosa magari puo' suonarti strana se pensi al classico programma in C o BASIC o anche in Prolog se vuoi.

Dire che i microfoni e videocamere acquisiscano in modo “autonomo” i propri dati fa onestamente ridere. Ciò che dici te è una delle tante scuole di pensiero sulla possibilità di creare una IA: creare algoritmi complessi di base e investirli di montagne di dati, credendo/sperando che ciò generi una qualche reazione che faccia evolvere quegli algoritmi in qualcosa di più. È possibile, ma deve ancora succedere. Per adesso il controllo del programmatore è assoluto perché decidendo le modalità di validazione e scartamento dei dati, determina le possibili evoluzioni del modello, che non si “ribellerà” mai, ad esempio validando o scartando dati secondo un proprio criterio.

Un’altra interpretazione è che la IA, se mai sarà sviluppata, sarà attraverso la robotica, più che l’informatica “pura”, questo perché, secondo alcuni, l’intelligenza nasce dall’adattamento e dunque solo un robot potrebbe, esplorando e vivendo una propria “infanzia”, sviluppare una intelligenza iniziale, in virtù della sua necessità di adattarsi.

Citazione:
Affermi: "I dati sono inerti e insensati senza qualcuno (computer, cervello ecc.) che li elabori ed dia loro un senso". Ma questo senso, non si basa a sua volta sui dati? Oppure nel nostro cervello c'e' una logica pura, innata, che abbiamo a priori, separata in modo netto dalle nostre memorie ed esperienze?

Nel nostro cervello c’è una logica innata, che è dettata dalle necessità della sopravvivenza, dell’adattamento e dalle nostre esigenze sociali. Il tutto mutuato dalla nostra evoluzione. Questa impostazione grezza viene poi sempre più raffinata con l’esperienza di vita, il nostro crescere (fisicamente, intellettualmente e spiritualmente) e ci forma come persone, dando ad ognuno di noi la caratteristica unicità che ci distingue dagli altri nostri simili.

Citazione:
Un cane e' un cane anche prima che abbiamo visto un cane? E' su un AI vede tanti cani e li classifica come "quella cosa li' con quella forma che fa bau" perche' quello e' meno senso del nostro dargli un senso?

Una IA semplicemente non lo farebbe, a meno che non gli venga detto di farlo. Noi lo facciamo “da soli” perché abbiamo la necessità di adattarci e capire l’ambiente circostante. Distinguere le minacce dalle opportunità, e questo per l’impulso irrefrenabile alla sopravvivenza. Una IA, priva di questo scopo e di queste necessità, perché mai dovrebbe stare a pensare più di tanto sui cani? Sarebbe un’ondata di input come un’altra, catalogata e messa da parte. Una massa di dati enorme e dettagliata, ma anche inutile e immobile.

Citazione:
Dici che "Altrimenti stiamo parlando di algoritmi o codici, che non sono intelligenza artificiale.". Quindi secondo te la AI Forte su cosa sara' basata se non su "algoritmi o codici"? Computer "quantistici" (che non fanno alcuna differenza teorica) o qualche altra cosa cosa "futura" che risolva il problema?

Sarà sicuramente basata su algoritmi e codici, ques
to non significa che qualunque algortimo o codice, per il fatto di essere tale, sia anche una IA. Noi non sappiamo come creare quel “valore aggiunto” che distingue un ammasso di materiale organico dalla vita. A maggior ragione, non siamo in grado di farlo con materiali artificiali.

Citazione:
Oppure per te non si avra' mai un'AI Forte?

Mai dire mai, anche se credo che siamo assai più distanti da quel risultato di quanto si creda. Non capiamo appieno nemmeno la vita organica, e cercare di creare la vita e l’intelligenza artificiale forse è un passo ancora troppo lungo per le nostre giovani gambette.

La scienza non è nient'altro che una perversione se non ha come suo fine ultimo il miglioramento delle condizioni dell'umanità. - Nikola Tesla

Powered by XOOPS 2.0 © 2001-2003 The XOOPS Project
Sponsor: Vorresti creare un sito web? Prova adesso con EditArea.   In cooperazione con Amazon.it   theme design: PHP-PROXIMA