Terzapagina – Può esistere una etica della macchina? Della Tecnologia? – 2°

AVEZZANO – Si avvicina la scadenza dell’appuntamento del 24 gennaio p.v. con il convegno ON-LIFE già preannunciato e vogliamo portare l’attenzione su alcuni fatti, spesso anticipati, anni or sono, dalla letteratura di fantascienza sul rapporto, in genere assai complesso, fra uomo e macchina.
“La macchina è il canto dell’uomo…” recita un brano attribuito ad Isaac Asimov lo stesso che enunciò le famose tre leggi della robotica che avrebbero regolato non solo i suoi racconti sui robot ma anche quelli della intera letteratura a seguire.
Le riportiamo per completezza.
Esse asseriscono:
«1) Un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno;
2) Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge;
3) Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.»
Successivamente, il buon dottore Asimov aggiunse la legge “zero”: Un robot non può recare danno all’umanità, né può permettere che, a causa del proprio mancato intervento, l’umanità riceva danno.
Le altre 3 leggi vennero quindi modificate di conseguenza:
1) Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. Purché questo non contrasti con la Legge Zero;
2) Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Legge Zero e alla Prima Legge;
3) Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Legge Zero, la Prima Legge e la Seconda Legge.
Indubbiamente si tratta di una visione antropocentrica, ma dopo la loro enunciazione di principio, scomparve la figura del “robot distruttore del proprio creatore”.
Solo in qualche racconto la “macchina pensante” diventa qualcosa di inquietante come in un racconto dove, dopo aver costruito un grande cervellone, uno dei progettisti inserisce la domanda: “Dio esiste?” e la macchina risponde: “Ora sì!” al che lo stesso va per staccare la spina ma un fulmine lo incenerisce…
C’è infine l'”Ultima domanda” di Isaac Asimov, un racconto nel quale un enorme Multivac, dopo la scomparsa dell’umanità risponderà alla domanda se “Dio esiste” rispondendo infine: “Sia la luce!” e la luce fu…
A parte questo, il mito del robot e poi dell’androide nascono dal dramma di Karel Capek “R.U.R.” ( (sigla di Rossumovi univerzální roboti, traducibile come “I robot universali di Rossum”) con la parola ceca “robota” che significa “lavoro pesante”.

Nel dramma,  robot, costituiti interamente da materia organica e simili agli esseri umani, vengono costruiti nella fabbrica fondata dal dottor Rossum, ubicata su un’isola sperduta in mezzo all’oceano. L’utopia di Domin, l’incauto demiurgo della Rossum, è di liberare l’umanità dalla schiavitù della fatica fisica. Ma gli effetti sono catastrofici, l’umanità reagisce male, affonda nel vizio e nell’indolenza, e le nascite iniziano a calare in modo preoccupante. I robot, ormai diffusi in tutto il mondo, iniziano a ribellarsi ai loro creatori e a sterminarli. Quando la moglie di Domin, con intuito e determinazione tutti femminili, distrugge i manoscritti che contengono le istruzioni per la fabbricazione degli androidi, è ormai tardi: i robot hanno ormai conquistato la Terra, e i più evoluti di essi hanno scoperto (e sembrano gradire) il modo in cui si riproducono gli esseri umani.
Come si vede è uno scenario che potrebbe stare alla base delle preoccupazioni della “bioetica”…
In realtà, i robot di Čapek sono “replicanti”, cioè umanoidi organici prodotti da quella che in seguito si sarebbe definita ingegneri genetica avanzata, malgrado la procedura di costruzione degli androidi di Rossum appaia descritta in termini piuttosto anacronistici: si parla di macchine per impastare e di tini per il trattamento di protoplasma chimico.
Con “Blade Runner” si vedrà come sia fosco il futuro dei replicanti in genere, ben al di là delle leggi della robotica di Asimov.
Il ritorno a Charles Beaumont ed ai suoi “Ultimi Riti” è più poetico ed umanizzante: alla fine sembra che il Creatore dell’Uomo abbia donato ad una macchina un’anima…
In fondo la grande distinzione uomo-macchina sta proprio in quell'”id”, l’anima, il soffio vitale, lo spirito eterno…

(segue)