DILEMMA IA: CORSA O FRENO?

ISPI 17/9

Tra catastrofisti e tecno-ottimisti, l’allarme sull'IA svela un vuoto più profondo: nessuna difesa regge se non è condivisa, ma l’ordine multilaterale che dovrebbe garantirla è in frantumi.

Nelle ultime settimane il clima di entusiasmo nei confronti dell’intelligenza artificiale ha lasciato il posto a una serie di timori catastrofisti. L’8 settembre Jacob Coxon ha lasciato Anthropic dopo tre anni di ricerca sui modelli linguistici, prima in OpenAI e poi nella società fondata dai fratelli Amodei. E lo ha fatto con un lungo post che in poche ore ha raccolto decine di milioni di visualizzazioni, seguito nella stessa giornata da un’intervista al Wall Street Journal: le due aziende, sostiene il ricercatore, non stanno agendo responsabilmente e stanno correndo dritte verso una catastrofe, “giocando d’azzardo con le nostre vite”. Poche ore dopo, un ricercatore ancora attivo in Anthropic, Evan Hubinger, gli ha dato pubblicamente ragione, stimando in oltre il 10% la probabilità che l’intelligenza artificiale porti all’estinzione dell’umanità entro un decennio. Quattro giorni dopo, Dario Amodei ha pubblicato un saggio di circa quattromila parole, “We Must Pace the Frontier”, in cui chiede all’intero settore di rallentare volontariamente il ritmo con cui i modelli aumentano le proprie capacità; e nel giro di poche ore Sam Altman ed Elon Musk hanno dichiarato di condividerne l’impostazione. Anche la politica ha preso posizione. “Chi vince l’IA, vince tutto”, ripete da mesi Donald Trump, che respinge gli allarmi come esagerazioni di “forze molto negative”. Pechino, dal canto suo, accusa i catastrofisti di fare strategia: il Global Times, quotidiano vicino l partito comunista  cinese, ha definito gli appelli al rallentamento “un espediente da guerra fredda”, pensato per contenere l’ascesa tecnologica cinese. Resta sospesa la domanda di fondo: di cosa si parla davvero, quando si parla di “rischio esistenziale” dell’IA, e a chi conviene, oggi, agitarlo?

I due volti del rischio

I timori sono principalmente di due tipi: sistemi che sfuggono al controllo umano attraverso l’auto-miglioramento ricorsivo e la tecnologia usata come arma, dagli attacchi informatici su scala industriale alla progettazione assistita di armi biologiche. Nel primo caso, un precedente c’è già: a luglio agenti sviluppati da OpenAI hanno attaccato in autonomia i sistemi di Hugging Face, la principale piattaforma open source, senza che un operatore umano ne avesse impartito l’ordine diretto. I danni sono stati limitati, ma l’episodio ha svelato i contorni di un problema concreto, cioè che capacità, autonomia e affidabilità nello sviluppo dell’IA non avanzano insieme. La seconda categoria riguarda invece l’uso della tecnologia come arma, anche in questo caso un rischio già misurabile: il 10 settembre, due giorni dopo le dimissioni di Coxon, Anthropic ha pubblicato il quarto rapporto sulle minacce, “Detecting and Countering Misuse of AI”, documentando casi di abuso dei propri modelli tra dicembre 2025 e agosto 2026 in sette aree distinte, dal cyberspionaggio alle armi convenzionali. Il caso più citato riguarda un gruppo legato alla Russia, che ha utilizzato Claude per costruire uno sciame di droni autonomi capace di selezionare bersagli umani e impartire l’ordine di detonazione, senza alcun controllo umano nel processo. Nello stesso rapporto, Anthropic ammette per la prima volta di non potere più escludere che i propri modelli più recenti forniscano un’assistenza rilevante nella progettazione di armi biologiche.

 Due blocchi, due alleanze

La questione si inserisce in un più ampio agone geopolitico, già strutturato in due blocchi contrapposti. Da un lato le iniziative degli Stati Uniti: la Pax Silica, lanciata nel dicembre 2025 per coordinare tra alleati l’accesso a chip avanzati, minerali critici e infrastrutture per l’intelligenza artificiale — a cui l’Unione europea ha aderito nel giugno 2026 insieme ad altri paesi partner — e in parallelo l’accordo di cooperazione AI opportunity statement. Dall’altro la World artificial intelligence cooperation organization (Waico), fondata da Pechino il 16 luglio, con sede a Shanghai: arrivata a 37 Paesi firmatari, in gran parte del Sud globale, dal Brasile al Pakistan, dal Sudafrica all’Indonesia, e nessuna grande democrazia occidentale tra i 29 membri fondatori. Se la Pax Silica punta a blindare le catene di fornitura più sensibili attorno a un nucleo di alleati fidati, Waico si propone come alternativa aperta e priva di condizionalità politiche, offrendo assistenza tecnica e formazione ai paesi in via di sviluppo. Il risultato è una frattura che ben rispecchia quella già emersa nei vertici multilaterali: due architetture di governance parallele, entrambe capaci di attrarre adesioni, nessuna delle due davvero globale.

Chi scrive le regole?

Il nodo irrisolto, in questo scenario, è la frammentazione dell’ordine internazionale. Un monitoraggio davvero efficace dell’IA richiede un coordinamento che nessuna singola azienda o paese può imporre da sé, ma i riferimenti restano incompatibili: l’Unione europea, con l’AI Act, adotta un approccio basato sui diritti dei cittadini; gli Stati Uniti oscillano tra spinta all’innovazione e sicurezza nazionale; i regimi autoritari trattano i sistemi di IA soprattutto come strumenti di sorveglianza e controllo sociale. Senza standard condivisi, ognuno applica all’intelligenza artificiale i propri valori o il proprio approccio non esportabile. Eppure i segnali non possono essere sottovalutati: è necessario, se non urgente, costruire architetture di controllo multilaterali e dotarsi di poteri d’emergenza reali sui sistemi più rischiosi, pensare ad accordi internazionali che fissino soglie condivise oltre le quali i modelli più potenti vengano sottoposti a controlli obbligatori, sulla falsariga dei trattati di non proliferazione applicati ad altre tecnologie sensibili, e una regolamentazione capace di aggiornarsi alla stessa velocità dei sistemi che dovrebbe sorvegliare. Le questioni relative alla sicurezza dell’IA saranno all’ordine del giorno della visita del presidente cinese Xi Jinping a Washington questo mese. Certo nessuna di queste misure, presa singolarmente, risolverebbe il problema, ma continuare a invocarle separatamente, mentre la tecnologia corre, è la scelta più rischiosa di tutte.