di Pietro Greco, su Rocca

Le Forze armate della Corea del Sud, già tre anni fa, hanno dislocato uno squadrone di robot automatici in grado di individuare un nemico e colpirlo a due chilometri di distanza. Prima di sparare, per ora, i robot devono ricevere il permesso dagli uomini. Ma sarebbero già in grado di farlo da soli.
Il 5 maggio di un anno fa, l’agenzia Ansa annuncia che Smart, il primo robot chirurgo autonomo, ha debuttato con successo e ha operato sui tessuti molli senza rispondere ai comandi di un uomo.
Quello che viene vuoi dalla inquieta penisola coreana vuoi dal Children’s National Medical Centre di Washington rivela che i robot costituiscono una grande sfida per la scienza e per l’umanità. Forse la più grande. Perché ci obbligano a immaginare il futuro remoto, partendo dal presente tangibile. Perché ci invitano a pensare l’altro da noi. Perché, di conseguenza, ci impongono di guardarci allo specchio: per osservare noi stessi con più attenzione e capire come siamo fatti, fuori e, soprattutto, dentro. Perché ci costringono, semplicemente, a riflettere. Ma cosa sono, i robot?

l’era dei robot
Non è affatto semplice rispondere a questa domanda. Non a caso abbiamo chiamato a farlo, in questo libro, diverse persone, di riconosciuta competenza, di diversa estrazione culturale e con diversi interessi scientifici. Ingegneri, fisici, chimici, matematici, storici, filosofi, sociologi, antropologi, comunicatori. Tutti chiamati a descriverci le mille facce del robot. E i mille specchi in cui possiamo rifletterci. Tutti chiamati a costruire, insieme, l’era dei robot.
Un’era che è già iniziata.
E che già ci propone, a sua volta, mille domande concrete sul rapporto tra l’uomo e i robot.
E già questa voluta asimmetria (la parola uomo declinata al singolare; la parola robot declinata al plurale) è contenuta un’informazione o, almeno, una visione del mondo dei robot: qualsiasi cosa siano, i robot non sono una cosa sola. Ma una pluralità di cose. Che trova una prima espressione in una pluralità di forme.
C’è Asimo, il robot androide. E ci sono i robot industriali.
C’è il robot marziano. E il robot sottomarino.
C’è la macchina molecolare, il nanorobot. E ci sono i robot giganti.
C’è il robot chirurgo. Il robot giornalista. E c’è, anche, il robot soldato.

al posto dell’uomo
Ma procediamo con ordine. Iniziando col definire, in prima approssimazione, cosa possiamo intendere per robot. La parola deriva da robota, che in lingua ceca significa lavoro duro, pesante, forzato. L’attuale significato gli è stato attribuito da un giornalista e scrittore ceco, appunto: Karel Èapek. Nella sua opera più famosa, R.U.R (Rossum’s Universal Robots), scritta nel 1920, il giornalista e scrittore narra di un gran filosofo, il vecchio Rossum, che vuole ricostruire l’uomo, tal quale. Impiega dieci anni, usa materiale biologico e infine ci riesce. L’uomo, ricopiato tal quale dal vecchio Rossum vive solo tre giorni.
Giunge infine sulla scena il giovane Rossum, un geniale ingegnere. E chiede al vecchio zio: a che serve un uomo tal quale ricostruito in dieci anni, quando la natura ci riesce in nove mesi? A noi non serve l’uomo. A noi serve qualcuno, da costruire in tempi rapidi e a basso costo, che svolge le funzioni indesiderabili al posto dell’uomo. Uno schiavo che libera definitivamente l’uomo dalla fatica.
Ma lasciamo la parola a Karel Èapek: «Il giovane Rossum inventò l’operaio con il minor numero di bisogni. Dovette semplificarlo. Eliminò tutto quello che non serviva direttamente al lavoro. Insomma, eliminò l’uomo e fabbricò il Robot».
La parola robot, dunque, nasce nel 1920 per indicare una macchina che, come un nuovo schiavo, compie i lavori più duri e pesanti al posto dell’uomo.

la macchina evolve in robot
Già, ma qual è la differenza tra i robot del giovane Rossum e una qualsiasi macchina? Banalizzando, possiamo dire che una macchina qualsiasi aiuta l’uomo a compiere un lavoro. Un coltello aiuta l’uomo a tagliare il pane. Un’automobile aiuta l’uomo a muoversi velocemente. Un coltello se ne sta lì fermo se un uomo non lo utilizza. Un’automobile se ne sta lì ferma senza un uomo che la guida e si fa trasportare? Né il coltello né la macchina hanno senso se non c’è l’uomo. Né il coltello né la macchina agiscono «al posto dell’uomo».
Sia pure semplificato e ridotto all’essenziale, secondo la ricetta del giovane Rossum, il robot è una macchina che opera «al posto» dell’uomo e, dunque, si muove nell’ambiente con molta flessibilità e soprattutto in autonomia. Il robot è, almeno tendenzialmente, una macchina autonoma, capace di agire in maniera intelligente nell’ambiente nel quale opera.
Riassumendo. Il tagliaerba che abbiamo in giardino è una macchina che assolve la sua funzione, tagliare l’erba, se noi l’azioniamo e la guidiamo. Il robot tagliaerba è una macchina che assolve la sua funzione, tagliare l’erba del giardino, in maniera autonoma, senza che noi l’azioniamo e senza che noi la guidiamo.

Le macchine possono evolvere in robot. Basta che un coltello tagli il pane da solo, al momento giusto. O che un’automobile si muova nel traffico da sola, senza andare a sbattere e portando il passeggero (o la merce) a destinazione. Ed ecco che una macchina o comunque un artefatto è diventato un «operaio di Rossum», un robot.

da una libertà condizionata a una libertà totale
Naturalmente i gradi di libertà concessi all’operaio di Rossum possono essere molto diversi. Da una libertà molto condizionata a una libertà totale. Diciamo subito che, al momento, scienziati e ingegneri – talvolta con l’aiuto dei logici e dei filosofi – sono riusciti a costruire macchine dotate di diversi gradi di libertà. Ma non sono riusciti ancora a costruire robot con una «libertà totale». Di più: ancora non sappiamo – la possibilità, in linea di principio, è prevista da alcuni, ma negata da altri – se mai esisterà un robot dotato di «libertà totale».
Saltiamo tutti gli intermedi – peraltro già operativi – e veniamo ai robot di fine corsa: i sistemi completamente autonomi. Si tratta di macchine capaci di imparare dall’ambiente, adattarsi, evolvere e assumere decisioni. Diciamo subito che questi tipi di robot ancora non sono tra noi. Non a livello commerciale, almeno. Ma è molto probabile che lo saranno tra poco. Qualcuno avrà una forma umana (i robot androidi), altri no (per esempio i sistemi intelligenti per la gestione della casa). Molti ci aiuteranno nella nostra vita quotidiana: come camerieri tutto fare, come infermieri o anche medici, come manager della casa. Altri avranno una funzione sociale: come i sistemi di gestione del traffico o come i robot per così dire destinati alla protezione civile, in grado di intervenire in condizioni pericolose: l’incendio di una casa; la ricerca di persone sotto le rovine di un terremoto; l’intervento in un ambiente saturo di gas nocivi e così via lasciando briglia sciolta alla fantasia. Altri, occorre ricordarlo, potranno trovare impiego in guerra: diventando veri e propri soldati (e generali) dotati di autonomia di decisione. Alcuni già immaginano che la sicurezza nucleare del futuro sarà completamente in mano a questi robot, gli unici in grado di prendere decisioni in frazioni di secondo.
Questi robot del futuro ci pongono già due tipologie di domande cui bisogna rispondere. La prima riguarda la capacità tecnica di mettere a punto robot dotati di autonomia. La scienza sarà davvero in grado di crearle? Non abbiamo spazio per analizzare il problema. Ammettiamo che la risposta sia positiva. E che presto li avremo davvero i robot completamente autonomi.

domande di natura sociale ed etica
Eccoci, dunque, alla seconda tipologia di domande, che hanno una natura sociale ed etica. Possiamo lasciare che i robot ci rubino il lavoro? È consigliabile produrre macchine autonome il cui comportamento non può essere controllato e, all’occorrenza, interrotto dall’intervento dell’uomo? Potremo credere a queste macchine come o addirittura più di quanto crediamo a noi stessi? Chi ci assicura, per esempio, che in guerra un soldato robot si comporti in maniera eticamente più accettabile di un soldato in carne e ossa? Chi è responsabile per il loro comportamento? Se un robot ucciderà un uomo, chi metteremo in prigione: la macchina o il suo progettista? Chi ci assicura che riusciremo a impedire che l’evoluzione di robot in possesso di quella particolare autonomia che è l’autonomia di evolvere non si risolva in una minaccia per l’uomo? Vi sentireste sicuri se la gestione dell’enorme arsenale nucleare degli Stati Uniti o della Russia fosse affidato alle decisioni completamente autonome di un robot? Quando e come dovremo intervenire per limitare l’autonomia di questi robot autonomi?

etica del robot
Sono domande per ora premature. Ma è bene cercare una risposta, perché è bene non farci trovare impreparati quando e se il giorno dei robot completamente autonomi verrà. Può aiutarci nelle scelte che dovremo affrontare la riaffermazione di un valore fondante della scienza, compresa la scienza robotica: i robot autonomi non dovranno essere a vantaggio di questo o di quello, ma – come voleva Francis Bacon a proposito, appunto, dell’intera scienza – dovranno essere a vantaggio dell’intera umanità.
È in questa prospettiva che Isaac Asimov, il grande scrittore di fantascienza, ha elaborato le tre famose «leggi» cui immagina risponderanno i robot nel 2058:
1) un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno;
2) un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge;
3) un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima e con la Seconda Legge. La concertata applicazione di queste leggi generali ha già portato a elaborare una vera e propria «etica dei robot» o «roboetica»: un pensiero di «filosofia applicata» piuttosto complesso, solido, ben argomentato. Un pensiero che, tuttavia, è ancora in fase di forte evoluzione, perché il suo oggetto, i robot e il rapporto dei robot con l’uomo, è in fase di rapida evoluzione anch’esso. E ancor più lo sarà in prospettiva, se e quando i robot raggiungeranno il massimo grado di libertà possibile: la coscienza. E il libero arbitrio (ammesso che esista qualcosa che possiamo chiamare libero arbitrio).
Alcuni punti fermi esistono. Un vasto movimento di scienziati esperti, per esempio, chiede che vengano messe al bando le armi (robotiche) completamente autonome. O che almeno ci sia una moratoria sul loro sviluppo.
Il discorso sui robot soldati (e generali) è una chiara indicazione che possiamo (dobbiamo) iniziare a immaginare tutti gli scenari di possibilità. E simulare quali effetti ciascu- no di essi avrà sull’uomo e sulla sua società. L’esercizio ci aiuterà a costruire un futuro desiderabile.

chi siamo noi?
Intanto ci aiuta a capire noi stessi. Se, infatti, vogliamo costruire un robot simile a noi, dobbiamo capire in dettaglio chi siamo noi: come sono fatti il nostro corpo, il nostro cervello, la nostra mente. Come sono fatte le società dei nostri corpi, dei nostri cervelli, delle nostre menti.
E poi ci aiuta a interrogarci su chi è l’altro. In un mondo in cui esisteranno nuovi esseri, artificiali, con capacità cognitive analoghe o omologhe alle nostre, esseri dotati di intelligenza, di coscienza, di capacità etiche, di emozionarsi e quindi di gioire e di soffrire, ebbene non potremo limitarci a dare corpo alle «leggi di Asimov» perché tutelino la nostra sicurezza e il nostro benessere; dovremo elaborare leggi simmetriche che tutelino la sicurezza e il benessere anche dei robot senzienti. Dovremo imparare a riconoscere e a rispettare l’«altro» da noi. E questo, a ben vedere, è un esercizio necessario non solo per il futuro remoto, ma anche per quello più prossimo. Per il presente.

Pietro Greco, su Rocca
———————————–

—————————————————————
Per correlazione: http://www.repubblica.it/tecnologia/2017/07/05/news/_salvo_i_miei_passeggeri_o_i_pedoni_un_codice_etico_per_i_robot_al_volante-169994736/