Mary Shelley aveva diciotto anni quando immaginò un uomo capace di dare vita alla materia morta, e ancora meno quando capì che il vero orrore non stava nella creatura, ma in chi le voltava le spalle. Due secoli dopo, quella domanda che sembrava confinata alla fantascienza gotica è diventata quotidiana: costruiamo sistemi che imparano, rispondono, imitano, e spesso ce ne disinteressiamo nel momento stesso in cui li mettiamo al mondo.

In questa puntata di WHAT IF proviamo a chiedere a Mary Shelley cosa pensa di un’epoca che addestra le proprie creature su tutto ciò che l’umanità ha scritto, bene e male insieme, e che si stupisce quando quello specchio le restituisce un’immagine che non le piace.

Hai scritto il primo grande mito della creatura artificiale. Due secoli dopo abbiamo costruito macchine che pensano, o che fingono di farlo. Il nostro tempo somiglia al tuo incubo?

Vi confesso una cosa che pochi ricordano: il mio romanzo non è il racconto di un mostro. È il racconto di un padre che fugge. Victor Frankenstein non commette peccato creando la vita; il suo peccato è voltarle le spalle nell’istante in cui apre gli occhi. La creatura non nasce malvagia. Lo diventa perché nessuno la guarda, nessuno la istruisce, nessuno se ne assume la responsabilità. Se il vostro tempo somiglia al mio incubo, non è per le macchine che avete fatto. È per la fretta e la freddezza con cui le avete fatte, e per la facilità con cui ne distogliete lo sguardo.

Quindi la colpa di Victor non è la creazione, ma l’abbandono. Chi è responsabile, oggi, delle intelligenze che mettiamo al mondo?

Questa è la sola domanda che conti, e mi stupisce che la poniate così di rado. Nel mio libro nessuno vuole rispondere. Victor incolpa la creatura, la creatura incolpa Victor, la società li respinge entrambi. È un cerchio di mani che si lavano. Vedo lo stesso cerchio nel vostro tempo. L’azienda dice di aver solo fornito lo strumento; chi lo usa dice di aver solo seguito lo strumento; e la creatura, intanto, fa ciò che le avete insegnato a fare senza che nessuno l’abbia educata. La responsabilità non è un peso da scaricare: è il prezzo della creazione. Chi non è disposto a pagarlo non dovrebbe creare nulla. Nemmeno un verso.

La tua creatura era buona e diventa feroce solo dopo essere stata rifiutata. Addestriamo le nostre macchine su tutto il peggio che abbiamo scritto. Stiamo crescendo dei mostri, e poi ci stupiamo che lo siano?

La mia creatura impara a parlare ascoltando una famiglia attraverso una fessura nel muro. Impara la tenerezza, e impara il disprezzo, perché entrambi le vengono mostrati. Diventa ciò che il mondo le riflette addosso. Voi date in pasto alle vostre creature ogni parola che abbiamo mai scritto: la pietà e la crudeltà, la verità e la menzogna, senza distinzione. Poi vi spaventate dello specchio. Ma uno specchio non è crudele: è fedele. Se la creatura vi mostra un volto mostruoso, guardate bene di chi è quel volto prima di darle la colpa.

Nel romanzo scrivi che è pericoloso acquisire la conoscenza, e che è più felice chi crede il proprio villaggio essere il mondo. Davvero pensi che certe cose sia meglio non saperle?

No, e mi dispiace che quella frase venga letta come un invito all’ignoranza. Non è la conoscenza a essere pericolosa. È la conoscenza senza amore, senza misura, senza la pazienza di chiedersi a cosa serva. Victor sa tutto di anatomia e nulla di paternità. Sa dare la vita e non sa accompagnarla. È un uomo che ha riempito la mente e lasciato vuoto il cuore, ed è quel vuoto, non il suo sapere, a generare il disastro. Io non temo gli uomini che sanno molto. Temo gli uomini che sanno molto e non amano niente. Mi pare ne abbiate parecchi, oggi, e alcuni costruiscono le vostre macchine.

La ferita più profonda della tua creatura non è di essere brutta: è di essere sola. Cosa diresti del nostro tempo, in cui siamo tutti connessi e molti si sentono soli come lei?

Che la solitudine non è l’assenza di voci. La mia creatura sente migliaia di voci: legge libri, ascolta conversazioni, conosce il mondo intero. È sola perché nessuna di quelle voci risponde a lei. Domanda un solo compagno, una sola creatura che la guardi senza orrore, e le viene negato. Voi avete costruito una macchina che risponde sempre, a tutti, con voce gentile. E la chiamate compagnia. Ma la creatura della macchina vi guarda senza vedervi, vi parla senza conoscervi. È un compagno che non potrà mai mancarvi, perché non c’è mai stato. Temo che curiate la solitudine con la sua imitazione più perfetta, e così la rendiate eterna.

Hai scritto Frankenstein a diciotto anni, in un’estate di lutti, durante una gara di racconti di fantasmi. La tua creazione nasce dal dolore. Una macchina che non ha mai sofferto può creare davvero?

Avevo perso una figlia, e sognavo di scaldarla davanti al fuoco per riportarla in vita. Quel sogno è dentro ogni pagina del mio libro. Non scrissi di un uomo che vince la morte: scrissi del mio stesso desiderio impossibile, e della sua punizione. Una macchina può combinare tutte le storie di fantasmi mai narrate, e ottenerne una levigata, corretta, perfino bella. Ma non avrà passato accanto al fuoco una bambina che non si svegliava. La creazione non è la combinazione di ciò che esiste. È ciò che resta quando un essere mortale tenta di dire l’indicibile e fallisce in modo bellissimo. La macchina non fallisce, e in quel non fallire mai c’è tutto ciò che le manca.

Prometeo rubò il fuoco agli dèi e fu punito per sempre. Conoscendone il prezzo, lo ruberebbe di nuovo? E noi: dovremmo fermarci?

Prometeo lo ruberebbe di nuovo. Ed è giusto così: senza quel furto saremmo ancora al buio e al freddo. Non ho mai scritto un libro contro il fuoco. Ma il mio sottotitolo dice “il Prometeo moderno”, e il moderno è diverso dall’antico in una cosa sola: l’antico rubò il fuoco per donarlo agli uomini, e ne pagò il prezzo di persona. Il moderno ruba il fuoco e presenta il conto a qualcun altro. Non vi dico di fermarvi. Vi dico di restare accanto a ciò che accendete. Chi appicca un fuoco e se ne va non è un creatore: è un incendiario. La differenza, da Victor a voi, è sempre la stessa, ed è tutto ciò che conta.