Rivisitazione delle Tre Leggi della Robotica
24, May 2008 by Kiko
Sembravano non passibili di modifica, invece qualcuno ha provato a metterci le mani variando qualche punto. Sto parlando delle Tre leggi della robotica, create dal famoso scrittore di fantascienza Isaac Asimov e principi fondanti del comportamento dei robot protagonisti dei suoi racconti.
Le tre leggi sono state così enunciate:
- un robot non può recare danno a un essere umano, né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno;
- un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge;
- un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima e la Seconda Legge.
Dal centro studi della Marina degli Stati Uniti, John Canning propone una rivisitazione della Prima Legge, in particolare:
- un robot può colpire un altro robot quando quest’ultimo sta minacciando un essere umano.
Sarebbe praticamente una sorta di estensione della Prima Legge ma molti non condividono: se, agendo in tale ottica, un robot per colpire un altro robot recasse danno ad un individuo non violerebbe alcuna legge. Ma questo, secondo molti studiosi e scrittori, è impensabile.
La storia delle Tre Leggi è chiaramente fortemente legata alla professione di Asimov, quindi legate al mondo della Fantascienza e della Narrativa. Ma fu talmente vasta l’accettazione di tali leggi ed ebbero così tanto successo i libri di Asimov, che alla fine queste leggi vengono tuttora trattate al pari delle Leggi della Fisica.
La rivisitazione proposta da Canning striderebbe, in dettaglio, con una Quarta Legge che Asimov propose in un libro successivo all’emanazione delle Prime Tre Regole. Tale quarta legge viene spesso chiamata Legge Zero e recita:
- un robot non può recare danno all’umanità, né può permettere che, a causa del proprio mancato intervento, l’umanità riceva danno.
La Legge Zero, così scritta, è in grado di soprassedere alle precedenti, e stride fortemente con la proposta di Canning.
Parlando poi della possibile applicazione della proposta di Canning in termini di nuove generazioni di macchine da guerra, la proposta risulta ancora di più folle.
Voi, che ne pensate?
Word count: 329 | Print This Post |
permalink | on 27, May 2008 at 8:29 am
Questo articolo è stato segnalato su ZicZac.it….
…
permalink | on 27, May 2008 at 8:30 am
Rivisitazione delle Tre Leggi della Robotica…
Sembravano non passibili di modifica, invece qualcuno ha provato a metterci le mani variando qualche punto. Sto parlando delle Tre leggi della robotica, create dal famoso scrittore di fantascienza Isaac Asimov e principi fondanti del comportamento dei …
permalink | on 27, May 2008 at 8:30 am
Rivisitazione delle Tre Leggi della Robotica…
Sembravano non passibili di modifica, invece qualcuno ha provato a metterci le mani variando qualche punto. Sto parlando delle Tre leggi della robotica, create dal famoso scrittore di fantascienza Isaac Asimov e principi fondanti del comportamento dei …
permalink | on 27, May 2008 at 9:36 am
questa aggiunta è perfettamente inutile
“un robot può colpire un altro robot quando quest’ultimo sta minacciando un essere umano.”
un robot con le 3 leggi già agirebbe in quel modo perchè dovrebbe rispettare la prima che dice “né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno” tranquillamente ignorando la terza (che in realtà solo considerando “esistenza” in senso lato non gli permetterebbe di danneggiare altri robot , in senso stretto invece puo’ “colpire un altro robot” senza problemi)
caro John Canning , una uscita inutile
permalink | on 27, May 2008 at 9:51 am
Bah, essendo un fan appassionato di Asimov credo che un’aggiunta del genere non serva a nulla.
Il fatto che un Robot non possa permettere, a causa di un suo mancato intervento, che venga recato danno ad un essere umano è già sufficiente in quanto la prima legge ha maggior peso della terza legge.
Molto interessanti sono i racconti di Asimov (nelle due raccolte “Io, Robot”) proprio perchè scandagliano, con l’apparente leggerezza la disarmante semplicità propria dello stile Asimoviano, i conflitti che queste leggi giocano tra di loro, dove danno adito a comportamenti (robotici) strambi.
Aggiungerei, come accennato, che le 3 leggi, a prima vista “indistruttibili”, sono state messe in discussione proprio dallo stesso Asimov, con la legge Zero, idea nata progressivamente nel Ciclo dei Robot!
permalink | on 27, May 2008 at 10:09 am
@bgb, @luca
in effetti ho riportato il tutto per capire proprio cosa ne pensava la gente!
permalink | on 27, May 2008 at 10:30 am
Le 3 leggi della robotica di Asimov sono letterariamente perfette cosi’, semplici ed efficaci, ed hanno dato modo a quel genio che era asimov di tirare fuori dei racconti e delle situazioni al limite del paradossale.
La legge zero poi, che io lessi enunciata in Fondazione e Terra, mi e’ sempre sembrata un meraviglioso coronamento.
Tutta sta manfrina per dire che o la citazione di Canning e’ una versione (come al solito) semplficata e travisata dalla stampa di qualcosa di ben piu’ brillante, oppure si, concordo che poteva anceh starsene zitto e ammansire il suo ego con altro.
Detta cosi’ e’ un po’ come dire che “si beh, piu’ che 42 la risposta alla vita l’universo e tutto sarebbe meglio fosse 43, che almeno e’ un numero primo”
permalink | on 27, May 2008 at 10:33 am
La proposta non è sbagliata di per se, ma parte dal presupposto che qualcuno barerebbe nel programmare il proprio robot… Anche perché se nessun robot cercasse di danneggiare un umano non ci sarebbe bisogno dell’intervento di un altro robot per impedirlo… c’è una lacuna dovuta al fatto che non si cerca di impedire a priori che un robot danneggi una persona, ma si cerca di imporre ai robot di bloccare quei robot che vorrebbero farlo e che qindi sono stati sviluppati con precise intenzioni violente…
Se ne potrebbe parlare per ore senza caavrne un ragno dal buco… Se ogni robot rispetta le 3 leggi, la proposta di Canning è superflua, per rappresenta un episodio irrealizzabile…
permalink | on 27, May 2008 at 10:33 am
Secondo me non aggiunge nulla alle leggi preesistenti perche’ semplicemente le due proposte sono una particolarita’ del concetto di preservazione dell’incolumita’ dell’uomo gia’ peraltro contenuto nelle altre leggi.
permalink | on 27, May 2008 at 10:42 am
@/V
concordo parola per parola. Oltretutto la legge zero, oltre ad essere un perfetto coronamento, è anche l’emblema di un mito della letteratura nonchè di un grande uomo. Grande abbastanza da mettere in discussione persino una delle sue più complete teorizzazioni fantascentifiche (le tre leggi) che, pur essendo state prese per buone (anzi, ottime, fenomenali, geniali, perfette) da tutto il mondo (se ne trovano citazioni in fumetti, libri, cinema) ne ha voluto scovare la debolezza.
invece non sono d’accordo con cristian. La proposta è sbagliata già da come è formulata. Le tre leggi sono generiche, mentre il “colpire un altro robot” è un caso particolare. E’, a mio modesto parere, una proposta sciocca, inutile, e anche concettualizzata male.
permalink | on 27, May 2008 at 10:47 am
Che poi le 3 leggi sono imperfette per scelta stessa dell’autore, che le ha create cosi’ proprio per poterci scrivere sopra tutta una serie di racconti ispirati alle situazioni paradossali che ne sarebbero potute scaturire!
Cioe’, VA BENE ispirarvisi e tutto, ma prenderle sul serio al punto da mettersi a commentarne la fallacia dall’alto della Marina degli stati uniti mi fa pensare che la marina degli stati uniti ha fin troppo tempo libero…
Cos’e', non han piu’ posti dove esportare democrazia?
permalink | on 27, May 2008 at 10:52 am
/V
mmmm…dubito che le 3 leggi fossero imperfette per scelta dell’autore. Asimov non era un perfezionista (sue dichiarazioni), lui scriveva perchè gli piaceva farlo, anzi, raggiunta la notorietà buttava giù la bozza e correggeva solo i refusi.
Probabilmente le 3 leggi sono il parto di una notte (non ne ho certezza, ma ho certezza che Asimov fosse uno scrittore per diletto, alla faccia aggiungerei, figurati cosa poteva creare se ci si fosse messo d’impegno), come molti dei suoi racconti più fenomenali (”L’ultima domanda”, come scommessa ad un convegno, “Nove volte 7″, “Notturno”…etc…)
permalink | on 27, May 2008 at 11:59 am
Le tre leggi della robotica sono imperfette nel senso di fallaci, e cio’ voluto da Asimov che infatti vi ha scritto su dei racconti interamente incentrati alla fallacita’ delle leggi.
Per quel che puo’ valere ti riporto da wikipedia: “Nessuna delle storie scritte da Asimov facevano complimenti alle Tre Leggi della robotica. Al contrario, ne mostravano le falle e i malintesi, derivanti da impulsi errati. Asimov una volta si meravigliò di come riuscì ad estrarre così tante storie dalle poche parole che componevano queste leggi. Per alcune storie, l’unica soluzione fu quella di cambiare le leggi.”
Insomma, che uno mi venga a fare le scarpette alle mosche sottolineando l’ovvia verita’ che le leggi sono perfettibili mi pare un’intensa opera di cesellatura del niente.
(che poi io sono ottimista e continuo a pserare che la sua fosse un’osservazione ben piu’ brillante mal riportata dalla stampa, pero’…)
permalink | on 27, May 2008 at 1:24 pm
Interessante… Ma ridondante! Nessun robot può recare danno agli esseri umani, e la legge così espressa basta e avanza, inoltre deve intervenire in ogni caso per salvaguardare la vita umana, a prescindere che sia un altro robot a danneggiare l’umano.
permalink | on 27, May 2008 at 1:33 pm
STRONZATA: è gia implicita nella 1a legge. Questa nuova legge servirebbe solo per rendere inefficace la prima e quindi distruggere milioni di cervelli positronici.
Riguardo alla fallacità delle leggi non la definirei proprio così…tutt’al piu ci sono situazioni in cui l’interpretazione della legge è un po dubbia, ma comunque prevedibile in quasi ogni suo risvolto, come daltronde emerge anche dalla letteratura di Isaac.
L’unico appunto che si puo fare secondo me rimane quello della validità e sopratutto della effettiva necessità della legge n°0. Non erano 3!?!?!?!?!’ ihihihihihihihi no no no no no no no no !
permalink | on 27, May 2008 at 1:55 pm
@giordy: le piu’ famose (leggasi: quelle che vedi in tv) sono in effetti le prime 3. La quarta viene introdotta in seguito e formalmente parlando non e’ come le prime 3 (non e’ stata impostata dalla U.S. Robots ma viene creata da un personaggio di nome R. Daneel Olivaw). C’e’ poi anche da dire ceh la legge 0 e’ citata poco anche da Asimov, alla fien di Fondazione e Terra per quel che ne so io e in un altro racconto che ha semrpe come protagonista il personaggio di cui sopra.