L’etica delle macchine


    Una strada per lo sviluppo etico delle tecnologie robotiche. A Genova si è parlato di robot-soldato, cyborg, scenari futuristici e futuribili. Ma a molte domande manca ancora una risposta.

    Tracciare un percorso per lo sviluppo razionale ed etico delle macchine intelligenti. Oltre trenta scienziati e umanisti di tutto il mondo si sono riuniti con questo proposito a Genova, dal 27 febbraio al 3 marzo, in occasione dell’Atelier di Roboetica, un convegno promosso dall’Euron (European Robotic Research Network), che si pone di applicare alla robotica le direttive dell’European Group of Ethics, che si occupa di valutare le implicazioni etiche delle nuove frontiere di ricerca.

    Si stima che, entro il 2008, saranno oltre sette milioni i robot impiegati in ambito produttivo e domestico: la pervasività di questa tecnologia apre scenari di riflessione sulla complessità dei prodotti dell’industria robotica, a cui sono chiamati a partecipare non soltanto saperi scientifici ma anche contributi antropologici, filosofici ed etici.

    Macchine controllabili?

    La creazione di robot antropomorfi, in grado di svolgere compiti di elevata complessità, pone innanzi tutto il problema di assicurarsi che queste macchine non siano utilizzate per arrecare danno agli esseri umani.

    A questo problema aveva già tentato di rispondere nel 1942 Isaac Asimov, con la formulazione delle famose tre leggi sulla robotica.

    "Un robot non può recare danno a un essere umano, né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno" scriveva Asimov, immaginando che questo principio fosse codificato nel cervello positronico dei suoi robot.

    Tuttavia, se per gli automi delle storie di Asimov violare le leggi della robotica è impossibile, niente impedisce, nel mondo reale, di creare un robot in grado di non rispettarle.

    [inline: 1=Immagine - 1 - Copertina libro Robot Visions di Isaac Asimov] Immagine - 1 - Copertina libro Robot Visions di Isaac Asimov ©Ralph McQuarrie A Byron Press

    "È più fantascientifico imporre che un robot rispetti le leggi della robotica piuttosto che realizzare un robot stesso" ammonisce Gianmarco Veruggio, presidente della Scuola di Robotica, fondatore del RobotLab di Genova e promotore del convegno.

    E anche se l’implementazione di queste leggi fosse realizzabile, non sarebbe facile garantire che un tale sistema di controllo venga sostenuto da tutti i produttori o che comunque non venga eliminato in seguito, semplicemente riprogrammando l’automa.

    A chi la responsabilità?

    L’evoluzione delle tecnologie robotiche condurrà verosimilmente alla produzione di macchine in grado di interagire a livello sempre maggiore con l’ambiente circostante.

    Esse potranno sviluppare la capacità di decidere quale azione intraprendere in relazione alle condizioni con cui dovranno confrontarsi.

    Ci si deve dunque interrogare su quale debba essere considerata la responsabilità del singolo robot in merito alle proprie azioni e alle loro conseguenze, nel momento in cui la macchina passerà dall’essere uno strumento gestito da un essere umano a costituire un soggetto in grado di sollevare problemi etici e legali.

    Ma c’è chi crede che la produzione di androidi in grado di decidere e agire autonomamente non porti necessariamente con sè nuovi problemi, ma ne possa risolvere di vecchi.

    É questo il pensiero del professor Ronald Arkin, direttore del Mobile Robot Laboratory del Georgia Institute of Technology di Atlanta, secondo il quale lo sviluppo di unità robotiche soldato costituirebbe un esempio della possibilità di realizzare macchine in grado di "essere migliori, da un punto di vista etico, degli stessi esseri umani".

    [inline:2=Immagine - 2 - Uno dei robot sviluppati presso il Mobile Robot Laboratory.] Immagine - 2 - Uno dei robot sviluppati presso il Mobile Robot Laboratory. ©Georgia Tech Tactical Mobile Robotics.

    Questi humanoid, seguendo la definizione di Arkin, obbligati ad attenersi a precise direttive etiche, potrebbero costituire una forza non letale in grado di rispondere a emergenze di ordine pubblico in maniera più appropriata di quanto possano fare esseri umani sottoposti a situazioni di stress emotivo.

    Non solo: regole di ingaggio, codice militare di condotta, i termini della convenzione di Ginevra: questi sono soltanto altri esempi attuali di proposizioni dalle profonde implicazioni etiche che possono essere disattese da soldati umani ma, ritiene Arkin, potrebbero essere garantite da unità robotiche debitamente programmate.

    È dunque chiaro che il problema non sarebbe definire un’etica robotica, quanto indirizzare l’etica umana affinché si costruiscano robot che agiscano con finalità positive.

    Uomo e macchina

    I confini fra umano e artificiale sono destinati a confondersi sempre di più: applicare a organismi biologici delle componenti robotiche non appare più un traguardo così lontano.

    I vantaggi delle strutture biologiche, ossia le loro capacità di autoriparazione e la loro flessibilità, andrebbero infatti a coniugarsi con i vantaggi delle macchine, adattabili a condizioni estreme e altamente differenziabili nella scelta dei materiali e delle caratteristiche costruttive.

    Kevin Warwick, docente britannico di cibernetica presso l’Università di Reading, è forse il più noto pioniere in questo tipo di ricerca.

    Tramite l’impianto di un microchip nel suo braccio sinistro, è riuscito a collegare il proprio sistema nervoso a un computer, tramite il quale è in grado di tradurre gli impulsi provenienti dal suo cervello in un segnale elettrico.

    "I nostri sensi percepiscono solo il 5% di ciò che ci circonda" ricorda Warwick, mentre illustra l’esperimento tramite il quale è riuscito a realizzare una comunicazione diretta, cioè non mediata dalla comune esperienza sensoriale, fra il proprio sistema nervoso e quello della moglie Irena, anch’essa interfacciata a un computer tramite un microchip del tutto simile a quello del marito, installato in corrispondenza del nervo mediale del braccio.

    [inline: 3=Immagine - 3 - Kevin Warwick presenta l’esperimento che ha visto coinvolta anche la moglie Irena] Immagine - 3 - Kevin Warwick presenta l’esperimento che ha visto coinvolta anche la moglie Irena. ©Luca Caridà.

    Le ricerche di Warwick cercano applicazione nello sviluppo di nuove tecnologie a favore delle persone disabili, ma mirano anche a rendere possibile un radicale cambiamento di ciò che oggi concepiamo come essere umano.

    In scenari futuribili potremmo essere in grado di collegare in un grande network le nostre intelligenze, non solo fra loro, ma anche con altre intelligenze artificiali.

    Le nostre capacità di calcolo potrebbero essere moltiplicate e le nostre emozioni essere trasmesse intatte attraverso la rete fino a raggiungere persone lontane centinaia di chilometri.

    Tutte le informazioni presenti nel nostro cervello potrebbero essere trasferibili in supporti informatici, o addirittura in un altro cervello, mettendo radicalmente in crisi il nostro concetto di individuo.

    Un futuro remoto?

    La robotica è una disciplina relativamente giovane, ma sta per affacciarsi prepotentemente sul mercato.

    In Giappone si prevede che il fatturato dell’industria robotica debba superare quello del mercato auto entro il 2020.

    La ricerca, pur nella sua manifesta fase embrionale, dimostra già la necessità urgente di porsi interrogativi etici dalla non semplice soluzione e appare chiaro che affrontare il problema solamente nei termini di un sistema di controllo dei robot risulti quantomeno ingenuo.

    Quanta sia la distanza dalla necessità pratica di applicare il frutto di queste riflessioni non è chiaro, tuttavia esistono domande a cui è possibile cercare di rispondere fin da adesso.

    "Vogliamo conservare l’idea di ciò che siamo come esseri umani o cambiare la percezione di ciò che rappresentiamo?" É la conclusione di Warwick.

    Ma dietro alla sua domanda sembra nascondersi il personale benvenuto alla futura era dei robot.

    Sitografia

    Mobile Robot Laboratory Georgia Institute of Technology www-static.cc.gatech.edu/ai/robot-lab/

    Scuola di Robotica www.scuoladirobotica.it

    EURON - European Robotic Research Network www.euron.org

    GTTMR - Georgia Tech Tactical Mobile Robotics www-static.cc.gatech.edu/ai/robot-lab/tmr/index.htm

    University of reading www.reading.ac.uk

    Professor Kevin Warwick www.kevinwarwick.org



    Newsletter

    Resta informato con le nostre notizie periodicamente

    Cliccando sul pulsante iscriviti acconsenti al trattamento dei tuoi dati. La tua email non verrà MAI ceduta a nessuno!