di  Antonio  Errico

La storia è bellissima e paurosa. Meraviglia. Inquieta. Sbalordisce. E’ scienza e fantascienza, realtà, surrealtà, finzione; un incubo, un bel sogno. Un’opera d’arte. Un mostro.

E’ la storia di Alice e di Bob. Non sono due ragazzini. Sono due robot.

Raccontano dunque le cronache che, durante un esperimento di Facebook sull’intelligenza artificiale, Alice e Bob si siano messi a parlare in una lingua sconosciuta agli umani. Pare che la cosa sia stata determinata da un errore di programmazione che ha permesso alle due macchine di modificare la lingua inglese per agevolare la comunicazione fra di loro. Pare che sia la prima conversazione tra due macchine di cui si abbia notizia.

Un errore. Probabilmente accidentale, non voluto.

Ma l’uomo della strada, quello che non ne sa assolutamente nulla di robotica e di programmazione di macchine, quello che dell’intelligenza umana si fida esclusivamente perché conta sull’intervento  dell’istinto di sopravvivenza, e che suppone che lo stesso istinto non possa supportare l’intelligenza artificiale, l’uomo della strada si domanda quali conseguenze possano derivare se quell’errore diventa intenzionale, se deliberatamente si programma una lingua con la quale far parlare macchina con macchina, senza neppure che si possa capire chi ne abbia realizzato la programmazione.

Questo si domanda l’uomo della strada.

Ma  Kevin Warwick non è un uomo della strada. E’ un professore britannico esperto in robotica. Ha detto che questa storia rappresenta sicuramente una pietra miliare per la scienza, ma chi dice che non costituisce un pericolo nasconde la testa sotto la sabbia. Secondo lui, infatti, il pericolo c’è e non è da sottovalutare: la possibilità che due macchine entrino in comunicazione fra loro, escludendo così ogni tipo di componente umana, è estremamente rischiosa, soprattutto in campo militare.

Forse gli uomini inventarono le lingue in questo modo. Componendo dei suoni che gli altri intorno non capivano e associando delle cose a quei suoni

Una storia bellissima e paurosa. Bellissima non solo perché è come uno straordinario racconto di fantascienza, ma anche perché è bellissima l’invenzione di una lingua. Forse gli uomini inventarono le lingue in questo modo. Componendo dei suoni che gli altri intorno non capivano e associando delle cose a quei suoni. Poi insegnarono quella lingua agli altri, e i significanti, e i significati si diffusero.

Ma l’uomo della strada pensa e dice che va bene la bellezza di una lingua creata dai robot, ma che questa faccenda gli fa comunque paura. Lui vuole capire che cosa dicono gli altri quando parlano. Vuole capire se stanno dicendo bene o se stanno dicendo male. Se casomai  stanno complottando qualcosa alle sue spalle. Se casomai stanno cercando di fregarlo in qualche modo. Lui vuole capire, indipendentemente se coloro che si parlano siano un assemblaggio di carne e ossa oppure di quel materiale di cui è fatto un robot.

Quando gli uomini parlano in una lingua che non capisce, lui si sforza di intuire qualche significato attraverso la decifrazione dei gesti che fanno, guardandoli negli occhi. Però immagina che i robot  occhi non ne abbiano. Allora non si fida affatto.

Isaac Asimov, padre della fantascienza, negli anni Quaranta ha formulato le leggi della robotica

Non ha nulla contro i robot, l’uomo della strada. Sa che servono a tante cose buone. Per esempio: sbrigano certe faccende domestiche e assistono persone anziane. Servono, appunto. Allora gli ritorna alla mente quello che diceva Primo Levi. Il robot, diceva, non può essere altro che un  dispositivo automatico rispondente esattamente, senza alcuna possibilità di errore, alle istruzioni impartitegli dal suo creatore o, più esattamente, dal suo programmatore.

Poi si ricorda delle celebri leggi della robotica formulate da Isaac Asimov, il più famoso scrittore di fantascienza di ogni tempo.

La prima legge dice: un robot non può recare danno a un essere umano, né può permettere che, a causa del proprio mancato intervento, un essere umano riceva un danno. La seconda dice: un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla prima legge. Infine la terza: un robot deve proteggere la propria esistenza, purché tale autodifesa non contrasti con la prima o con la seconda legge.

Poi ce n’è una quarta, successiva alle tre, forse la più importante, definita legge zero, che dice: un robot non può recare danno all’umanità, né può permettere che, a causa del proprio mancato intervento, l’umanità riceva un danno.

Non sempre i robot riescono a rispettare queste leggi. A volte, per applicarne una, devono violarne un’altra. A volte si ritrovano coinvolti in situazioni che non possono controllare, in dinamiche di errori di cui non hanno responsabilità.

Chissà se si sono detti davvero qualcosa, se quei suoni avevano davvero un significato, se quelle che sembravano parole non erano altro che rumori delle due macchine

In base a queste leggi, Alice e Bob non hanno fatto niente di male. Non hanno fatto male a nessuno né hanno permesso, per inazione, che un solo essere umano o l’intera umanità subisse un danno, non hanno obbedito ad ordini che avrebbero potuto provocare un danno; non si sono nemmeno posti il problema di dover difendere la loro esistenza perché nessuno la minacciava.

Semplicemente si sono messi a parlare come due fidanzatini sul muretto del lungomare, e chissà che cosa si sono detti, in quella loro lingua che forse sono stati costretti ad inventare perché uno degli umani ha fatto un errore nel calcolare i tempi e i modi di funzionamento di qualche meccanismo.

Ma poi. Chissà se si sono detti davvero qualcosa, se quei suoni avevano davvero un significato, se quelle che sembravano parole non erano altro che rumori delle due macchine.

L’uomo della strada non lo può sapere. Semplicemente sa che questa storia lo affascina e lo inquieta. Sa anche, perfettamente, che la scienza non si ferma, che non si negherebbe mai il passo ulteriore, ed è giusto che sia così. Ma negli uomini di scienza ripone una fiducia immensa. A volte prova una certa diffidenza nei confronti dei processi incontrollati della tecnica e della tecnologia, delle applicazioni che non tengono conto della dimensione etica.

Alcuni siti hanno riportato la conversazione fra Alice e Bob. C’è una frase che i due ripetono in continuazione: balls have zero to me to me to me to me to me to me to me to me to.

Nessuno sa che cosa voglia dire, per cui è lecita qualsiasi supposizione. Forse è la traduzione di un S.O.S. nella loro lingua inventata. Forse dicono e ripetono ed implorano: salvate le nostre anime di ghisa.