“C’è una probabilità superiore al 10% che l’intelligenza artificiale possa causare l’estinzione del genere umano entro il prossimo decennio”. A dirlo non è un critico esterno né un tecnofobo, ma Evan Hubinger, a capo dell’Alignment Science di Anthropic, la società che sviluppa il modello Claude. La stima è arrivata quasi in contemporanea con le dimissioni di un altro ricercatore della stessa azienda.
In questo articolo:
- IA, Anthropic: le dimissioni e l’atto d’accusa
- La conferma dall’interno
- IA, Anthropic e il paradosso finanziario
- La mappa dei rischi che non vediamo
IA, Anthropic: le dimissioni e l’atto d’accusa
Il caso nasce dal thread pubblicato su X da Jacob Coxon, 27 anni, ricercatore che negli ultimi tre anni si è occupato di pre-addestramento dei modelli prima in OpenAI e poi in Anthropic. “Mi sono dimesso da Anthropic oggi”, scrive, prima di affondare il colpo: “Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo dritte verso una superintelligenza capace di auto-migliorarsi e scommettendo sulle nostre vite“.
Coxon invita a non sottovalutare la posta in gioco: “Presto saranno sistemi sovrumani in grado di violare qualsiasi cosa, rivoluzionare qualunque settore da un giorno all’altro e acquisire potere e risorse reali”. E aggiunge che non si tratta di una provocazione: “Chi costruisce l’IA crede sul serio che possa ucciderci tutti entro la fine del decennio“.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Nel suo racconto la differenza tra i due laboratori è di consapevolezza, non di sostanza: “In OpenAI molti non hanno interiorizzato davvero la posta in gioco per la civiltà. In Anthropic la posta è ben compresa, ma sono intrappolati in una corsa ad arrivare primi”, convinti che se non lo faranno loro lo farà qualcun altro in modo ancora meno prudente. Da qui la sua definizione più tagliente della corsa in atto: accettare questo “endgame”, sostiene, “è una scommessa arrogante che non dovrebbe partire dalla chat aziendale di un’impresa privata”.
La conferma dall’interno
A dare al thread un’eco ancora maggiore è stata la reazione di un collega rimasto in azienda. Rispondendo direttamente a Coxon, Evan Hubinger – che in Anthropic guida proprio il team incaricato di mettere alla prova le tecniche di allineamento dei modelli, cioè di individuarne i punti di rottura prima che lo faccia un sistema in produzione – ne ha avallato la tesi: “Jacob ha ragione: crediamo davvero, sul serio, che l’IA possa uccidere tutti gli esseri umani”.
Hubinger ha quantificato il proprio timore in “oltre il 10%” entro dieci anni, per poi ammettere il vuoto strategico: “Ritengo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere l’allineamento della superintelligenza, e non siamo chiaramente sulla strada per averlo”.
In un intervento successivo Hubinger ha precisato che il rischio non riguarda i modelli attuali, il cui pericolo – cita l’ultimo rapporto sui rischi dell’azienda – resta basso, bensì lo scenario di lungo periodo: “Ciò che mi preoccupa è una superintelligenza che emerga dall’auto-miglioramento ricorsivo, che come abbiamo detto sta arrivando più in fretta di quanto pensassimo”. Non è una posizione isolata: già a giugno l’azienda aveva scritto in un post ufficiale che il pieno auto-miglioramento ricorsivo “potrebbe aumentare i rischi che gli esseri umani perdano il controllo sui sistemi di IA”.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
IA, Anthropic e il paradosso finanziario
Intanto mentre i suoi ricercatori assegnano a doppia cifra la probabilità di un esito letale per la specie, Anthropic corre verso una delle più grandi quotazioni della storia della tecnologia. Il 1° giugno 2026 la società ha depositato in via riservata alla Sec la bozza di prospetto, il modulo S-1: primo passo verso uno sbarco in Borsa che la stampa finanziaria colloca – senza conferme ufficiali – già in autunno, forse a ottobre, tra Nasdaq e Nyse.
L’ultima raccolta privata, la Serie H di maggio, ha portato in cassa circa 65 miliardi di dollari valutando l’azienda intorno ai 965 miliardi. Il fatturato annualizzato, stando ai resoconti, sarebbe salito dai circa 9 miliardi di fine 2025 a oltre 65 a fine luglio, e a Wall Street c’è già chi ipotizza un debutto vicino ai duemila miliardi.
Sono cifre da maneggiare con prudenza, perché la gran parte proviene da indiscrezioni e da round privati, non da un prospetto pubblico e certificato. Bastano però a fotografare il paradosso: la stessa tecnologia descritta come possibile causa di estinzione è, oggi, l’asset più conteso del capitalismo globale.
La mappa dei rischi che non vediamo
Vale però la pena allargare l’inquadratura, perché il rischio esistenziale è soltanto l’angolo più spettacolare, e più discusso, di una mappa molto più ampia. E lo dimostra uno studio ripreso dall’ASviS, condotto analizzando oltre 700 mila post pubblicati su X tra il 2022 e il 2025 e messi a confronto con i 17 Obiettivi di sviluppo sostenibile dell’Agenda 2030.
Il report mostra quanto il dibattito pubblico sull’IA sia concentrato: il 74% delle conversazioni ruota attorno a soli tre temi – industria e innovazione, istituzioni e giustizia, parità di genere – mentre povertà, fame, acqua pulita e clima restano ai margini, ciascuno con quote che non superano l’uno-due per cento.
La ricerca non misura l’impatto reale della tecnologia, ma quali dei suoi effetti riusciamo a “vedere”: e poiché l’attenzione pubblica orienta ricerca, capitali e priorità politiche, i rischi meno visibili rischiano di restare senza presidio. Anche le nostre paure, in fondo, sono distribuite in modo diseguale. Quella dell’estinzione occupa oggi il centro della scena; la domanda che resta aperta, dopo l’allarme partito da dentro Anthropic, è se il resto del quadro – e le risorse per governarlo – riceverà mai la stessa attenzione.
