Considerazioni etiche sull'intelligenza articiali

[Alkabar]

Vediamo come la pensate...

Il filmato non è nuovo nuovo, ma potrebbe dare uno spunto a una discussione interessante. Considerato il titolo.

Fra di voi però... io sto sclerando sul mio PhD.


http://gizmodo.com/gadgets/robots/amazing-robot-reality-or-techno-puppet-show-255821.php

[Alkabar]

Qualunque cosa sia l'intelligenza "articiali" !!!! lol...

[Hador]

siamo talmente lontani da una realizzazione che parleremmo di fantascienza

[Alkabar]

siamo talmente lontani da una realizzazione che parleremmo di fantascienza

do uno spunto: per esempio, i tre principi asimoviani sono azzeccati secondo voi ??

[Necker]

arabo...:lol:

[ahzael]

la mente umana e' in fondo un insime di script pero piu complessi, l inteligenza artificiale si basa sullo stesso principio, tutto quello che facciamo ha una ragione, persino un azione stupida come volersi pungere un dito e' una cosa che ha una ragione
"VOGLIO SENTIRE DOLORE" > MI PUNGO IL DITO

probabilmente siamo lontani ancora dal poter descrivere al computer i nostri sentimenti, ma anche li ci sono ricerche in atto, forse non potremmo ancora descrivere cose come "l amore" , ma alla fin fine, se mettiamo tantissimi script insieme e un computer abbastanza potente, penso che possiamo facilemente emuolare la mente umana.
In fondo anhe noi impariamo per lo piu dal passato.

[Hador]

do uno spunto: per esempio, i tre principi asimoviani sono azzeccati secondo voi ??e il quarto? :p
asimos immagine molte cose, in io robot la politica e l'economia ad esempio sono organizzate da AI potentissime, così complesse che sono state progettate e costruite da altre AI.
O il problema sociale dei robot umanoidi, non accettati neanche sui pianeti esterni perchè migliori degli esseri umani (anche e soprattutto a scopo sessuale), o l'idea che un robot arrivi a comprendersi meglio di quanto lo conosca il suo creatore e che si evolva apportandosi modifiche progettate da lui.
Di spunti asimov ne da quanti ne vogliamo... bisognerà vedere quanto se sarà possibile crerare una AI, perchè...

la mente umana e' in fondo un insime di script pero piu complessi, l inteligenza artificiale si basa sullo stesso principio, tutto quello che facciamo ha una ragione, persino un azione stupida come volersi pungere un dito e' una cosa che ha una ragione
"VOGLIO SENTIRE DOLORE" > MI PUNGO IL DITO

probabilmente siamo lontani ancora dal poter descrivere al computer i nostri sentimenti, ma anche li ci sono ricerche in atto, forse non potremmo ancora descrivere cose come "l amore" , ma alla fin fine, se mettiamo tantissimi script insieme e un computer abbastanza potente, penso che possiamo facilemente emuolare la mente umana.
In fondo anhe noi impariamo per lo piu dal passato.non è vero che la mente umana è un insieme di script. Non basta programmare 2^1000 reazioni in seguito a relative azioni per avere un essere pensante, il cervello non funziona così se non nella parte meccanica (mi pungo il dito -> lo tiro via e dico ahi).

Il pensiero, la vita, l'intelletto, l'anima, il ghost chiamatelo come volete ma è qualcosa ben lontano dalla nostra concoscenza di programmazione (basata su azione -> reazione), tutto ciò che c'è in giro ora si basa anch'esso su azione reazione, possiamo attualmente creare programmi che ascoltano, vedono, toccano e in relazione agli impulsi esterni preprogrammati agiscono in determinata maniera, ma una scimmia addestrata è molto più intelligente, anche se non parla.

Asimov infatti parla del cervello positronico, cioè un cervello in tutto e per tutto ma costruito sinteticamente non di processori o programmi, finchè nn avremo idea di come cazzo funzioni sta roba schifosa che abbiamo dentro la testa non penso che riusciremo mai a costruire qualcosa che vuole imitare (raggiungere? superare?) l'intelligenza umana.

[Alkabar]

entro nell'arbitrario:

in mia opinione un essere senziente va rispettato in quanto senziente, carne e ossa, circuiti e reti neurali che sia...

odio fare i commenti di due righe, non ho un gran tempo oggi. Magari sta notte mi spiego meglio.

[Hador]

ah, prima della AI viene poi l'etica della robotica, e la rivoluzione industriale che porterà.
In un futuro si avrà a disposizione infinita manodopera a costo zero, li si che ci sarà da ridere, l'uomo in quanto forza lavoro diventerà inutile
entro nell'arbitrario:
in mia opinione un essere senziente va rispettato in quanto senziente, carne e ossa, circuiti e reti neurali che sia...
odio fare i commenti di due righe, non ho un gran tempo oggi. Magari sta notte mi spiego meglio.il problema è che non sappiamo cosa renda noi senzienti, e programmare 100 mila miliardi di reazioni in seguito a delle azioni non rende il computer sul quale gira il programma senziente.
Sicuramente non si potrà mai arrivare a un programma senziente solo via software.

Porsi ora delle seghe mentali sull'accettare o meno esseri pensanti artificiali quando la metà del forum non accetta immigrati e omosessuali è decisamente prematuro :p

[rehlbe]

non riesco neanche a pormi il problema: se 200 anni fa eravamo a 0 nel progresso verso una intelligenza artificiale oggi saremo a 0,000001...

si può pensare a script sempre più avanzati, in grado di imparare etc etc ma sempre nell'ottica di un obiettivo da raggiungere prestabilito.. pensare ad un essere artificiale che "vive" è qualcosa a cui oggi siamo vicini come lo siamo all'ipotesi di popolare il sole :confused:

[Hador]

un programma non può accettare come input se stesso :nod:

[IrideL]

ne riparliamo tra un migliaio di anni ok ? :sneer:

[Palur]

un programma non può accettare come input se stesso :nod:
kith per esempio usa pannocchie , e lui è senz'altro un intelligenza arificiale senno non si spiega :sneer:

[Hudlok]

alkino ma invece di difendere i diritti dei robot vai a far una protesta davanti ad un macello -.-

[Axet]

la mente umana e' in fondo un insime di script pero piu complessi, l inteligenza artificiale si basa sullo stesso principio, tutto quello che facciamo ha una ragione, persino un azione stupida come volersi pungere un dito e' una cosa che ha una ragione
"VOGLIO SENTIRE DOLORE" > MI PUNGO IL DITO

probabilmente siamo lontani ancora dal poter descrivere al computer i nostri sentimenti, ma anche li ci sono ricerche in atto, forse non potremmo ancora descrivere cose come "l amore" , ma alla fin fine, se mettiamo tantissimi script insieme e un computer abbastanza potente, penso che possiamo facilemente emuolare la mente umana.
In fondo anhe noi impariamo per lo piu dal passato.

Che c'entra?

In questo modo avresti sempre un qualcosa che imita il comportamento umano a seconda degli stimoli che gli vengono sottoposti, non un qualcosa che pensa.

Ma anche solo l'imparare è qualcosa che, al momento, ci è impossibile da spiegare a un computer.

Per farti un esempio, come fai a spiegare cos'è una cucina a un computer?
Quali sono i tratti caratteristici di una cucina? L'avere un tavolo? Un piano cucina? Un forno?

Magari gli potresti spiegare che quel che sta vedendo è una cucina e lui se lo potrebbe ricordare, limitatamente però alla cucina in questione.
Se ne vede un'altra che magari non ha il forno o è costituita in maniera completamente differente, come fa a riconoscerla come cucina?
Non può.

Un computer da questo punto di vista è come una persona autistica. Può immagazzinare quanti dati vuole, ma non riesce ad inserirli in un contesto.

[ahzael]

un programma non può accettare come input se stesso :nod:

Theory of recursion ?
Factorial Number?
Fibonacci?
Hanoi tower?

[ahzael]

Per farti un esempio, come fai a spiegare cos'è una cucina a un computer?
Quali sono i tratti caratteristici di una cucina? L'avere un tavolo? Un piano cucina? Un forno?

method LeanNewPlace
New place name = CUCINA
Object type = ROOM
General Traits(0.*)= FRIDGE, OVEN, DINING TABLE, CUPBOARD,STOVE etc etc
General Description=place used to cook / process food



method IdentifyRoom(*room)
If RoomYouEntered has(0.*)=CUCINA.GeneralTraits then YOUMAYHAVENTERED CUCINA



Per quale motivo tu quando entri dentro una cucina pensi di essere entrato in una cucina?

[Hador]

Theory of recursion ?
Factorial Number?
Fibonacci?
Hanoi tower?
fottuta macchina di turing :nod:

[rehlbe]

ahza, quello di cui parli è un computer in grado di eseguire istruzioni.. lo metti in una cucina e sa che ha una funzione etc etc

ma una intelligenza artificiale per come la intendo io è quella che secondo il proprio gusto (non criteri di ottimizzazione degli spazi etc, ma dati soggettivi) decide che la cucina la preferisce colorata in un certo modo o a cui piace di più una sedia rispetto ad un altra, per il semplice motivo che gli sembra avere più stile

per come la vedo io una macchina, per quanto avanzata, ma che può solo seguire istruzioni e programmi, non merita alcuna discussione etica, di macchina si tratta, niente altro... quando e se ci sarà davvero da porsi problemi di questa entità sarà quando la macchina sarà "senziente", capace di scegliere da sola le proprie istruzioni e programmi, dotata di individualità..

[ahzael]

ahza, quello di cui parli è un computer in grado di eseguire istruzioni.. lo metti in una cucina e sa che ha una funzione etc etc
ma una intelligenza artificiale per come la intendo io è quella che secondo il proprio gusto (non criteri di ottimizzazione degli spazi etc, ma dati soggettivi) decide che la cucina la preferisce colorata in un certo modo o a cui piace di più una sedia rispetto ad un altra, per il semplice motivo che gli sembra avere più stile
per come la vedo io una macchina, per quanto avanzata, ma che può solo seguire istruzioni e programmi, non merita alcuna discussione etica, di macchina si tratta, niente altro... quando e se ci sarà davvero da porsi problemi di questa entità sarà quando la macchina sarà "senziente", capace di scegliere da sola le proprie istruzioni e programmi, dotata di individualità..

Si ma infatti l ho detto prima, i sentimenti sono una cosa a parte, non si possono descrivere, per il semplice motivo che non hanno criterio, nemmeno noi sappiamo perche' vogliamo una cucina verde pisello, eppure le vendono.

[Abby]

per come la vedo io una macchina, per quanto avanzata, ma che può solo seguire istruzioni e programmi, non merita alcuna discussione etica, di macchina si tratta, niente altro... quando e se ci sarà davvero da porsi problemi di questa entità sarà quando la macchina sarà "senziente", capace di scegliere da sola le proprie istruzioni e programmi, dotata di individualità..


Do uno spunto sperando di trovare qualcuno che riesca a leggere tutto il libro e non solo alcune parti.

Gödel, Escher, Bach: Un'Eterna Ghirlanda Brillante (Douglas Hofstadter)

[ihc'naib]

non credo che sia sensato parlare oggi di un problema del genere, ma vi butto li' alcune cose che potrebbero interessarvi nel proseguire la vostra discussione:

- apprendimento artificiale: Le doti di apprendimento di quei sistemi chiamati reti neurali, anche nel caso di situazioni non addestrate (ovvero che non prevedono l'intervento umano per deformarsi e portarsi a una configurazione utile allo scopo) sono sorprendenti, anche se molto limitate nel campo degli imput possibili.

- Cervello umano: a differenza di quello che dice Hador, se non si coinvolge la metafisica, affermare che il cervello sia una continua esecuzione di una marea di script non e' sbagliato, per quello che puo' far intuire oggi la ricerca scientifica sia sull'uomo che sugli animali. In particolare, ammettendo che l'evoluzione dal cervello di questi ultimi a quello umano sia stata solo quantitativa e non qualitativa (nel senso che non sia apparsa in qualche modo un' "anima" fra l'homo erectus e l'homo sapiens), allora somiglieremmo molto a un oggetto informatico con dei metodi, che si definiscono con varie forme di apprendimento (genetico, mnemonico, imitativo, educativo)... il tutto e' estramemente complesso, e lo studio relativo si limita solo a "scoperchiare il sasso", pero' sembra ragionevole pensare che l'esistenza umana sia fatta di un grandissimo numero di stati, dalle caratteristiche molto precise, tra i quali si sposta in funzione degli stimoli esterni...

[Hador]

si ma il punto che il metodo per l'apprendimento, per il senso critico, per il pensiero, per l'indipedenza sono sconosciuti.
Se ti prendo e ti metto in una stanza senza "input" tu pensi cmq, magari sogni, magari ti disperi, questa roba non la puoi fare tramite programma

[ihc'naib]

si ma il punto che il metodo per l'apprendimento, per il senso critico, per il pensiero, per l'indipedenza sono sconosciuti.
Se ti prendo e ti metto in una stanza senza "input" tu pensi cmq, magari sogni, magari ti disperi, questa roba non la puoi fare tramite programma

non capisco se stai parlando di limiti quantitativi/tecnici o qualitativi/culturali.

come ho detto, cmq, una dir. e' stata indicata.. che non si conosca a fondo la mente umana e' un discorso, che la si conosca così poco da non poter affermare che sia teoricamente emulabile da un insieme di oggetti informatici con miliardi di script e' un altro. quel pochissimo che so sull'argomento mi fa pensare che tale emulazione sia possibile.

edit perchè ho rletto.. sugli altri tre non giurerei, ma credo che il metodo per l'apprendimento sia noto. credo.

[Hador]

a quanto ne so non è noto nulla, il problema è che dovresti simulare le emozioni su un programma (e dotarlo di coscienza), ora come ora puoi emulare una istanza, una situazione, un robot che ti entra nella cucina e ti dice bella cucina, non un robot che entra in una stanza mai vista, vede cos'è, decide se gli piace o meno e ti da un consiglio sul colore.
Il caso 1) è poi semplicemente ciò che vediamo nei videogiochi, il bot decide a seconda della situazione cosa fare dove sparare che percorso è meglio, ma non è che ci puoi chiaccherare :p

[ihc'naib]

hm. allora
quello che conosciamo (diciamo conoscono) sul cervello umano e' un po' piu' di quello che pensi tu. Per lo meno, lo e' nel limite, come dicevo, del supporre il cervello umano come un cervello animale piu' complicato, la' dove intervengono come dici tu emozioni e coscienza, che sono tuttavia sempre configurazioni chimiche e movimenti di informazioni elettriche all'interno del cervello, seppur, come dicevo, incredibilmente complicate.

La questione cucina... ti rimando a quello che dice ahza, a cui aggiungo che la'aggiunta qualitativa (mi piace, vorrei questo colore) dipende da un'associazione delle configurazioni possibili (archiviabili in memoria) con parametri di "soddisfazione" (calcolabili analiticamente), esattamente come fa, di nuovo in maniera chimica, anche il cervello.

[Hador]

si ma i parametri di un cervello sono costruiti su apprendimento e influenza esterna, e soprattutto sono personali.
secondo la vostra tesi sarebbe possibile creare AI che sarebbero ognuna copia di un altra, basta questo per andar contro alla definizione di intelligenza.

Il cervello non è un mero contenuto dati, è anche un processore che si modifica e modifica la sua struttura in base agli apprendimenti, per questo imo l'HW nostro attuale non sarà mai adatto (non in potenza ma in tipo) allo sviluppo di AI.

[San Vegeta]

un programma non può accettare come input se stesso :nod:

quando l'hai elaborata questa stronzata? :)

[ihc'naib]

mi concentro sulla parte importante di quello che dici



Il cervello non è un mero contenuto dati, è anche un processore che si modifica e modifica la sua struttura in base agli apprendimenti,

Il cervello e' dati. In un determinato momento, la configurazione chimica, eletrica e meccanica di quello che c'hai nella testa e nel midollo spinale descrive completamente cio' che sei, pensi, ricordi, sai, sogni etc. etc.
Sulla "automodifica", e' una cosa che gia' esiste in informatica.
In ogni caso, il cervello non modifica la sua struttura. Non in maniera concettualmente diversa dall' "archiviazione di memoria".
Pensa che il passaggio da stato a stato negli animali piu' semplici, con tutte le conseguenze, gli errori, i paradossi che si porta dietro, è moto ben identificato. Input definiti fanno scattare un organismo da uno stato all'altro in maniera molto chiara e decisa, analogica o digitale, e sopratutto prevedibile.
La supposizione e' che il cervello umano abbia semplicemente molti piu' stati, e dunque molto, molto, molto piu' sfumati, tuttavia sempre esistenti.

[Hador]

scazzato

[Hador]

quando l'hai elaborata questa stronzata? :)vabbè vegeta era per scrivere una frase d'effetto idiota -_-
Usiamo la macchina di turing per simulare un qualsiasi calcolatore esistente, codifico secondo codifica binaria la macchina di turing e le passo come input se stessa codificata in binario, a seconda delle stringhe o non sono accettate (il quale insieme compone il linguaggio di diagonalizzazione) o sono accettate ma non c'è garanzia di arresto (cioè non è in grado di riconoscere il linguaggio), questi sono linguaggi ricorsivamente enumerabili, cioè stiamo parlando di un problema indecidibile.

Simile per il dilemma del "ciao mondo", io non sono in grado di scrivere un qualsiasi programma H che preso un programma P e un input I per P mi dice se P eseguito con input I mi stampa "ciao mondo".
mi concentro sulla parte importante di quello che dici
Il cervello e' dati. In un determinato momento, la configurazione chimica, eletrica e meccanica di quello che c'hai nella testa e nel midollo spinale descrive completamente cio' che sei, pensi, ricordi, sai, sogni etc. etc.
Sulla "automodifica", e' una cosa che gia' esiste in informatica.
In ogni caso, il cervello non modifica la sua struttura. Non in maniera concettualmente diversa dall' "archiviazione di memoria".
Pensa che il passaggio da stato a stato negli animali piu' semplici, con tutte le conseguenze, gli errori, i paradossi che si porta dietro, è moto ben identificato. Input definiti fanno scattare un organismo da uno stato all'altro in maniera molto chiara e decisa, analogica o digitale, e sopratutto prevedibile.
La supposizione e' che il cervello umano abbia semplicemente molti piu' stati, e dunque molto, molto, molto piu' sfumati, tuttavia sempre esistenti.
si ma quello che manca è come gestire strati e memoria, un cervello non è una zuppa di dati, questi dati devono essere catalogati incastrati gestiti e interfacciati con l'esterno, io nasco senza dati, non sto instandby finchè muoio ma ricevo degli stimoli che vengono assimilitati e imparati. Questo via software come lo esprimi?
Inoltre la nostra intelligenza è strettamente legata ai nostri sensi e agli stimoli, come pensare di creare una AI che non abbia uguali, ad esempio, sensi rispetto a noi?

[ihc'naib]

si ma quello che manca è come gestire strati e memoria, un cervello non è una zuppa di dati, questi dati devono essere catalogati incastrati gestiti e interfacciati con l'esterno, io nasco senza dati, non sto instandby finchè muoio ma ricevo degli stimoli che vengono assimilitati e imparati. Questo via software come lo esprimi?


Ti ripeto, l'apprendimento e' gia' stato emulato dall'informatica. In definitiva apprendere significa associare una certa configurazione di input con un evento futuro. (un risultato).. non e' cosi' complicato. La parte sugli strati, quella si' potrebbe essere molto piu' ostica, sopratutto perche' la conoscenza di come funzioni nel cervello umano e' limitatissima.. tuttavia, non vedo perche' dovrebbe essere oggettivamente impossibile.



Inoltre la nostra intelligenza è strettamente legata ai nostri sensi e agli stimoli, come pensare di creare una AI che non abbia uguali, ad esempio, sensi rispetto a noi?

Ma i nostri sensi non sono particolarmente complicati come principi. sono estremamente sofisticati, certo, ma il principio su cui si basano e' ormai perfettamente compreso dalla fisiologia. Di nuovo, in linea di principio, e per certi casi particolari anche in pratica, non e' assurdo "percepire" con una macchina. La parte complessa e' la valutazione conoscitiva che ci sta dietro, l'intepretazione, ovvero. Ma quella rientra nel discorso generico sul cervello, visto che riguarda dati che sono gia' in forma elettrica.

[Hador]

io non ho detto che è oggettivamente impossibile, ma che secondo me una evoluzione software non è sufficiente ma occorrerà una piattaforma HW simile in struttura e funzionamento al cervello.
tutto rigorosamento imo eh

Per i sensi dico, senza una struttura che emula il cervello come fai a progettare un qualcosa che in natura si basa sui sensi senza implementare i sensi? (potrei volere una AI nella macchina cazzo ne so)

[Axet]

method LeanNewPlace
New place name = CUCINA
Object type = ROOM
General Traits(0.*)= FRIDGE, OVEN, DINING TABLE, CUPBOARD,STOVE etc etc
General Description=place used to cook / process food
method IdentifyRoom(*room)
If RoomYouEntered has(0.*)=CUCINA.GeneralTraits then YOUMAYHAVENTERED CUCINA
Per quale motivo tu quando entri dentro una cucina pensi di essere entrato in una cucina?

Quindi se poi l'IA in questione entra in taverna dove c'è il frigo (magari per tenere le birre) e un tipo che si sta mangiando un panino, penserà di essere in cucina :sneer:

Non è così semplice ;)

[Zaider]

do uno spunto: per esempio, i tre principi asimoviani sono azzeccati secondo voi ??

si

[Galandil]

io nasco senza dati, non sto instandby finchè muoio ma ricevo degli stimoli che vengono assimilitati e imparati. Questo via software come lo esprimi?

E' errato dire che nasci senza dati. Gli esseri viventi hanno già dei dati iniziali e delle funzioni iniziali, codificati entrambi nel nostro vero sistema informatico a base 4, il DNA.

La cosa parecchio interessante è che il nostro sistema di dati ed elaborazione in molti casi NON fa distinzione fra ciò che è "dato" e ciò che è "funzione". Dei geni sono considerati dati in alcuni casi e funzioni in altre. A questo va aggiunto l'estrema complessità del sistema.

Per questo motivo recentemente è nata la branca della bio-informatica, cioé una branca che unisce biologia e informatica per studiare i sistemi biologici come tali, con degli input esterni, input in feedback, funzioni di trasferimento e output.

Una nota per Ihc: il nostro cervello modifica la sua struttura. La cosa affascinante è proprio questa: le interconnessioni neurali stabiliscono le regole delle funzioni e i dati immagazzinati, e sono in costante mutazione (sebbene si possano comunque identificare delle aree macroscopiche ognuna preposta a specifiche funzioni).

Quindi, tornando al topic, se la domanda è "si sarà in grado in futuro di generare intelligenze "artificiali" in grado di comportarsi come l'uomo?", per me la risposta è si, se si procede nella giusta direzione.

Noi siamo la somma di programmazione iniziale (codice genetico) + stimoli esterni (filtrati attraverso i "trasduttori" dei cinque sensi). E ciò che chiamiamo "coscenza" viene dalla somma di questi fattori. Non vedo perché un sistema meccanico-elettronico, per quanto complesso, non possa essere in grado di comportarsi allo stesso di noi esseri umani (o viventi in generale).

[Alkabar]

alkino ma invece di difendere i diritti dei robot vai a far una protesta davanti ad un macello -.-

muuuuu. fatta, ora torniamo a parlare di robot.