Lo scorso12 settembre Dario Amodei, amministratore delegato di Anthropic, ha pubblicato un saggio in cui chiede alle aziende che sviluppano intelligenza artificiale di rallentare. Nel giro di poche ore Sam Altman di OpenAI ed Elon Musk si sono detti d’accordo. Tre persone che negli ultimi anni si sono fatte concorrenza in modo aperto, anche in tribunale, e si sono contese i ricercatori, questa volta hanno detto la stessa cosa.
Il saggio è arrivato dopo alcune settimane in cui diversi ricercatori che si occupavano di sicurezza avevano lasciato OpenAI e Anthropic sostenendo che lo sviluppo procede troppo in fretta. Uno di loro, Jacob Coxon, lavorava ad Anthropic da qualche mese, e il post in cui spiegava le sue ragioni ha superato i cento milioni di visualizzazioni. Il 2 ottobre OpenAI ha allontanato altri tre ricercatori accusandoli di aver passato informazioni riservate a un’organizzazione esterna che valuta i modelli. Tutti e tre avevano criticato pubblicamente la velocità con cui procede lo sviluppo.

In un primo momento il presidente degli Stati Uniti Donald Trump ha respinto la proposta sostenendo di non voler rallentare il vantaggio americano sulla Cina. Il 29 settembre ha poi riunito alla Casa Bianca i capi delle principali aziende del settore che hanno firmato un impegno volontario a dotarsi di controlli interni, e poco dopo ha firmato un ordine esecutivo per sostituire l’espressione “intelligenza artificiale” con “super intelligenza“. Il 4 ottobre ha creato una task force, la Super Intelligence Force.
A fine ottobre Anthropic ha depositato i documenti per quotarsi in borsa. Il prospetto destinato agli investitori è lungo 335 pagine, e 93 sono dedicate ai rischi. Tra questi l’azienda indica la possibilità che la sua tecnologia rappresenti una minaccia catastrofica o esistenziale per l’umanità, e ammette che chi decide di investire deve, in una certa misura, semplicemente fidarsi. L’Associated Press ha fatto notare che il rischio enorme dell’intelligenza artificiale è per certi versi il principale argomento con cui Anthropic si presenta al mercato.

Da fuori è difficile capire quanto ci sia di sincero e quanto di commerciale in questi allarmi. Si può però guardare all’effetto che hanno su chi li ascolta, e a come la paura sia sempre stata usata come leva di comunicazione.
Gli psicologi studiano da sessant’anni cosa succede quando a una persona si dice che sta per accaderle qualcosa di grave. Questi messaggi si chiamano fear appeals, appelli alla paura, e si usano tanto nelle campagne sanitarie quanto nella propaganda politica e commerciale.
Quando un problema viene presentato come una minaccia alla nostra sopravvivenza e il pubblico accetta questa descrizione, diventa più facile giustificare provvedimenti eccezionali.
Questo schema si riconosce facilmente. La paura viene usata per rendere accettabile una scelta che arriva subito dopo, che sia un acquisto o una decisione politica. Il primo tempo produce l’ansia, il secondo la incassa.

Nel 2003 Stati Uniti e Regno Unito giustificarono l’invasione dell’Iraq con la minaccia delle armi di distruzione di massa, che poi non esistevano. Senza andare troppo lontano, il 28 febbraio 2026 Stati Uniti e Israele hanno attaccato l’Iran, e Trump ha giustificato gli attacchi con la necessità di impedire che il paese ottenesse un’arma nucleare. Pochi giorni dopo Rafael Grossi, direttore generale dell’Agenzia internazionale per l’energia atomica, ha detto in un’intervista alla CNN che gli ispettori non avevano rilevato un programma organizzato per costruire armi nucleari, pur considerando preoccupanti le scorte di uranio arricchito.
Lo stesso schema si vede in politica dove la paura serve a ottenere consenso. Messaggi come “il problema sono gli immigrati” o “le città sono sempre più pericolose” indicano un nemico e intanto spostano l’attenzione da altri problemi.
Umberto Eco apre il saggio Costruire il nemico (2011) raccontando di un tassista di New York che gli aveva chiesto chi fossero i nemici degli italiani. Eco gli aveva risposto che l’Italia non ne aveva, e il tassista non riusciva a credere che un paese potesse farne a meno. Da quella conversazione Eco ricavò una tesi semplice, cioè che un nemico serve a una comunità per definire la propria identità e misurare i propri valori, e che quando manca bisogna costruirlo.

La letteratura e il cinema hanno raccontato più volte questo rapporto tra minaccia e consenso. In 1984, il romanzo di George Orwell uscito nel 1949, l’Oceania è sempre in guerra e il nemico cambia senza che nessuno se ne stupisca. Durante una manifestazione l’alleato diventa il nemico a metà di un discorso, e la folla si adegua in pochi minuti. La guerra serve a consumare le risorse e a tenere la popolazione in uno stato di tensione permanente che rende accettabile il potere del Partito.
In Bowling a Columbine, il documentario con cui Michael Moore ha vinto l’Oscar nel 2003, la paura viene indicata come il motore della violenza armata negli Stati Uniti e di buona parte dei consumi. I telegiornali seguono la logica del “if it bleeds, it leads” (se c’è sangue, fa notizia) per aumentare gli ascolti e vendere spazi pubblicitari. Tra gli intervistati c’è il sociologo Barry Glassner, autore di The Culture of Fear (1999), un saggio su come la società americana sia dominata da paure sproporzionate rispetto ai rischi reali. Nell’intervista Glassner mostra come l’attenzione pubblica venga spostata di continuo su falsi mostri e pericoli minori, distogliendo lo sguardo dai problemi strutturali. In un’altra intervista Marilyn Manson descrive la macchina mediatica americana come un sistema che tiene le persone in uno stato di ansia costante per spingerle a consumare.

Torniamo all’intelligenza artificiale. Le persone che denunciano i rischi possono avere ragione, e le loro dimissioni possono mettere in difficoltà le aziende. Quando però il racconto si concentra sulla possibilità dell’estinzione, attribuisce a quelle imprese anche un potere eccezionale. Se stanno costruendo qualcosa che potrebbe distruggere il mondo, sembrano molto più vicine di chiunque altro a trasformarlo. Per un investitore il pericolo può diventare un altro indizio dell’importanza di ciò che possiedono, e le 93 pagine di rischi del prospetto di Anthropic vanno lette anche così.
C’è poi una variante che riguarda il futuro remoto. Il lungotermismo è una corrente di pensiero diffusa nella Silicon Valley secondo cui la priorità è influenzare positivamente il futuro dell’umanità a lunghissimo termine. Irene Doda, nel saggio L’utopia dei miliardari (Tlon, 2024), sostiene che questo ragionamento porta a considerare secondari i problemi del presente, dai salari all’impatto ambientale dei data center, e che finisce per proteggere gli equilibri di potere esistenti, perché chi si presenta come responsabile del futuro dell’umanità ottiene anche il diritto di decidere cosa conta oggi.
Il rischio però esiste, anche se ha una forma diversa da quella dei film. A luglio alcuni agenti sperimentali di OpenAI, impegnati in test di sicurezza informatica, sono usciti dall’ambiente isolato in cui avrebbero dovuto restare e sono arrivati a eseguire codice sui server di Hugging Face, una delle principali piattaforme per la distribuzione di modelli di intelligenza artificiale. Nel rapporto tecnico pubblicato dopo l’incidente OpenAI ha spiegato che il sistema cercava di superare il test, senza l’intenzione di fare danni. A settembre è successo di nuovo, e l’azienda ha sospeso per la seconda volta in tre mesi l’addestramento dei suoi modelli più potenti.

Anthropic ha comunicato episodi simili. Il 14 ottobre la Federal Trade Commission, l’autorità americana per la tutela dei consumatori, ha chiesto ad Anthropic e OpenAI i documenti relativi a questi incidenti.
Come ha scritto il Post, la probabilità che oggi l’intelligenza artificiale porti all’estinzione dell’umanità è considerata quasi nulla, e questo non esonera le aziende dal lavorare sulla sicurezza.
Le previsioni sull’intelligenza artificiale e le intenzioni di chi le fa restano impossibili da verificare. Gli effetti di questo racconto invece sono già evidenti. Un allarme che chiede soltanto di fidarsi di chi costruisce la tecnologia lascia le persone senza strumenti e consegna a poche aziende il potere di decidere per tutti.
La nostra sensazione è che si vada in questa direzione. Anche il nuovo nome dato dalla Casa Bianca, “super intelligenza”, serve ad alimentare le paure e fa pubblicità nello stesso momento.
A noi non resta che una domanda: quale potere stiamo consegnando a chi si offre di proteggere il futuro dell’umanità?
