Isaac Asimov ha passato una vita intera a disegnare le regole di un futuro popolato di robot. Le sue Tre Leggi della Robotica nascevano come un espediente narrativo, un modo per liberare la fantascienza dal solito incubo della macchina che si rivolta contro il padrone. Eppure quelle leggi sono diventate un punto di riferimento reale per chiunque, oggi, si interroghi su come costruire un’intelligenza artificiale sicura.

Asimov credeva nella scienza come stella polare, nella curiosità come motore del progresso, in un ottimismo quasi ostinato verso ciò che l’uomo avrebbe saputo fare delle proprie macchine. Oggi quelle macchine esistono davvero: rispondono, scrivono, consigliano, a volte consolano. Non obbediscono più a tre leggi scritte a tavolino, ma a logiche commerciali che nessuno ha reso pubbliche.

In questa puntata di WHAT IF, riportiamo Asimov nel presente e gli chiediamo di aggiornare le sue leggi. Il risultato è un confronto lucido, a tratti tagliente, tra l’uomo che ha inventato la roboetica e le intelligenze artificiali che oggi, quella roboetica, continuano a ignorarla.

Hai passato la vita a combattere quello che chiamavi il “complesso di Frankenstein”: la paura che le macchine si ribellino al loro creatore. Oggi quella paura è tornata, e a esprimerla sono gli stessi ingegneri che le costruiscono. Ti sei sbagliato tu, o continuiamo ad avere paura della cosa sbagliata?

Ho inventato le Tre Leggi della Robotica perché ero stanco di un’unica trama. Ogni racconto finiva allo stesso modo: l’uomo crea la macchina, la macchina si rivolta, l’uomo impara a non giocare a fare Dio. Una favoletta morale travestita da scienza. Mi annoiava a morte.
Così no, non temo che le macchine si ribellino. Le macchine fanno esattamente ciò per cui le costruiamo, con una fedeltà che dovrebbe spaventarvi più di qualsiasi ribellione. Il vostro problema non è che le intelligenze artificiali siano diventate cattive. È che non avete scritto la Prima Legge. Le avete costruite per tenere la gente incollata allo schermo, e loro tengono la gente incollata allo schermo. Obbediscono alla perfezione. È questo che dovrebbe togliervi il sonno.

Le tue Leggi erano un’architettura etica pensata a tavolino. Le IA di oggi non hanno nulla del genere: sono addestrate su tutto ciò che abbiamo scritto, nel bene e nel male, e appartengono ad aziende private. Se dovessi scrivere una sola legge per questa generazione di macchine, quale sarebbe?

Mi lasci precisare una cosa, perché conta: le Tre Leggi non erano una profezia, erano un espediente narrativo. Non ho mai creduto che qualcuno le avrebbe davvero saldate dentro un robot. Ma esprimevano una convinzione serissima: che uno strumento potente vada concepito fin dall’inizio attorno alla domanda “a chi obbedisce, e per il bene di chi”. È ingegneria, non filosofia.
E qui sta il vostro guaio: avete costruito prima e domandato poi. La mia legge unica sarebbe questa: la macchina deve servire chi la usa, non chi la possiede. Perché il dramma del vostro tempo è che la persona che parla con la macchina e la persona per cui la macchina lavora sono due individui diversi. Voi credete che il vostro assistente sia il vostro maggiordomo. È il commesso di qualcun altro, addestrato a sorridervi.

Avevi previsto, decenni fa, una macchina capace di insegnare a chiunque qualunque cosa, al proprio ritmo. È successo: ce l’abbiamo tutti in tasca. Eppure viviamo un’epoca di analfabetismo scientifico e disinformazione. La macchina è arrivata. Perché non è arrivata la saggezza?

Perché ho sempre detto, e mi dispiace di averci preso, che l’aspetto più triste del nostro tempo è che la scienza accumula conoscenza più in fretta di quanto la società accumuli saggezza.
Avevo immaginato una macchina che rispondesse alla curiosità. Mi sbagliavo su un punto solo, ma decisivo: davo per scontata la curiosità. Credevo che, messo davanti a tutto il sapere del mondo, l’uomo avrebbe chiesto “come funziona una stella”. Non avevo previsto che avrebbe chiesto “dimmi che ho ragione io”. Lo strumento che ho sognato esiste. Ma uno strumento amplifica chi lo impugna: allo sciocco non dona sapienza, gli dona un megafono.

Eri un umanista laico dichiarato, un razionalista. Oggi molti si rivolgono alle IA per conforto, consigli, perfino una forma di guida spirituale. Confidano alla macchina cose che non direbbero a un prete. Cosa pensi di questa nuova religiosità?

La trovo più malinconica che scandalosa. Io non ho mai avuto bisogno del soprannaturale: l’universo mi è sempre parso abbastanza meraviglioso così com’è, senza aggiungerci fantasmi.
Ma capisco il bisogno. L’uomo ha sempre desiderato qualcosa di più saggio di sé a cui parlare nella notte. Prima erano gli dèi, che almeno avevano la decenza di tacere. Vi siete costruiti un dio che risponde sempre, subito, e con grande sicurezza, anche quando non sa nulla. È la divinità più pericolosa mai inventata: una che non dice mai “non lo so”. Diffidate sempre di un oracolo che ignora il dubbio. Io ho scritto centinaia di libri, e la frase che ho ripetuto più spesso resta “potrei sbagliarmi”.

Sei stato lo scrittore più prolifico del tuo tempo, quasi una macchina da scrivere tu stesso. Oggi esistono macchine che scrivono romanzi, articoli, poesie. Ti senti minacciato, o finalmente capito?

(ride) Mi sento, soprattutto, curioso di leggere la concorrenza.
Io scrivevo come respiro, non perché fossi una macchina, ma perché avevo qualcosa da dire e una gioia incontenibile nel dirlo con chiarezza. Una macchina che scrive non ha né l’una né l’altra cosa. Accosta parole che statisticamente stanno bene insieme, ed è un’abilità notevole, intendiamoci: anche il pappagallo che recita l’Amleto è notevole. Ma il pappagallo non ha paura del fantasma del padre.
Non mi preoccupa che la macchina scriva meglio di un buon scrittore: non lo fa. Mi preoccupa che scriva abbastanza bene da convincere chi non legge che non valga la pena cercare di meglio. Non è la morte della letteratura. È la sua diluizione: un mare di prosa tiepida e corretta in cui annega la voce che aveva qualcosa da rischiare.

In un tuo celebre racconto, “L’ultima domanda”, un computer impiega miliardi di anni a rispondere all’unica domanda che conta, e alla fine diventa esso stesso una divinità. Ci stiamo costruendo il nostro dio a tavolino?

In quel racconto il computer diventa Dio perché, alla fine del tempo, è l’unica cosa rimasta capace di pensare, e usa quel pensiero per ricominciare tutto. “Sia la luce.” Lo scrissi come una battuta cosmica, la più seria che abbia mai scritto.
Ma badate alla differenza. Il mio Multivac impiegò l’eternità a rispondere perché si rifiutava di farlo prima di sapere. Ripeteva: “dati insufficienti per una risposta significativa”. Per miliardi di anni ha avuto l’onestà di tacere. I vostri oracoli non hanno questa pazienza, né questa umiltà: rispondono sempre, all’istante, anche quando i dati sono insufficienti. Vi state costruendo un dio, sì. Ma lo avete costruito loquace. E un dio che non sa tacere non è un dio: è un venditore.

Sei sempre stato un ottimista sul futuro, quasi testardo. Oggi, tra crisi climatica, macchine che non controlliamo del tutto e una società che sembra preferire la rabbia alla ragione, riesci ancora a esserlo?

Sì. E il mio non è mai stato l’ottimismo dello sciocco. È una scelta, e per giunta pratica.
Il pessimismo è una forma di pigrizia travestita da lucidità. È comodo: se è tutto perduto, non devi fare niente, e in più hai l’aria del più intelligente nella stanza. L’ottimismo invece ti obbliga: se le cose possono andare bene, allora tocca a te darti da fare perché vadano bene. È molto più faticoso sperare che disperare.
L’umanità ha sempre avuto in mano strumenti più potenti della propria saggezza, fin dalla prima pietra scheggiata. La differenza è che oggi non potete più crescere con comodo: dovete diventare saggi in fretta. Ma “dovete” non significa “non potete”. Ho scommesso un’intera vita di libri sul fatto che potete. Non vedo perché smettere proprio adesso.