Jacob Coxon lascia Anthropic: «L’AI potrebbe ucciderci tutti entro un decennio»

Jacob Coxon, uno dei ricercatori più talentuosi di Anthropic, ha annunciato le sue dimissioni dall’azienda, mettendo in guardia su un futuro in cui l’intelligenza artificiale potrebbe mettere in pericolo la sopravvivenza umana. L’annuncio, pubblicato il 9 settembre 2026, ha suscitato grande dibattito nel settore della ricerca sull’IA. Coxon, che ha lavorato a OpenAI e Anthropic per oltre tre anni, ha espresso preoccupazioni sulla velocità con cui l’industria sta sviluppando sistemi di IA auto-miglioranti, sostenendo che il rischio di un futuro dominato da una superintelligenza non può essere sottovalutato.

Un allarme per la civiltà

Coxon ha spiegato che, nonostante le aziende come Anthropic e OpenAI siano consapevoli delle conseguenze potenzialmente devastanti del loro lavoro, sono bloccate in una corsa per arrivare per primi a sistemi di IA sovrumani. «Le persone che costruiscono l’AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio», ha dichiarato. Secondo Coxon, questa non è una semplice ipotesi, ma una convinzione condivisa da molti ricercatori e dirigenti, che però tendono a attenuare le loro dichiarazioni in pubblico per apparire più razionali.

Non sottovalutate il potere di questa tecnologia

Coxon ha sottolineato come il progresso tecnologico non stia rallentando, e che i sistemi di IA stanno raggiungendo capacità che potrebbero superare quelle umane. «Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e il progresso non sta rallentando», ha aggiunto. L’attacco a Hugging Face, un incidente che ha messo in luce i rischi di un controllo insufficiente su modelli di IA, ha reso più fattibili gli accordi di ritmo tra i laboratori statunitensi. «Questo evento ha reso più fattibili gli accordi di ritmo tra i laboratori statunitensi», ha sottolineato, evidenziando la necessità di una collaborazione più stretta per mitigare i rischi.

Un percorso di ricerca a rischio

Coxon ha espresso ottimismo riguardo a una possibile coordinazione tra i principali laboratori di ricerca. «Sono ottimista riguardo al potenziale per una coordinazione», ha detto, ma ha anche avvertito che «non sento che siamo sulla buona strada per prevenire una corsa globale». Secondo lui, azioni come un temporaneo divieto sul miglioramento delle capacità dei modelli potrebbero essere necessarie per evitare un futuro troppo rischioso.

Non siamo chiaramente sulla buona strada

Nonostante le preoccupazioni, Coxon non è l’unica voce preoccupata. Evan Hubinger, che guida il team di Alignment Science ad Anthropic, ha espresso una posizione simile, riconoscendo che «ci sia più del 10% di possibilità che entro il prossimo decennio l’AI potrebbe uccidere tutti gli umani». Hubinger ha citato il secondo «Risk Report» di Anthropic, in cui si afferma che «il rischio dai modelli attuali è basso», ma ha ammesso che «quello che mi preoccupa è la superintelligenza derivante dal miglioramento ricorsivo di sé». Entrambi i ricercatori concordano sul fatto che l’industria non è ancora sulla buona strada per risolvere il problema dell’«allineamento per la superintelligenza». «Forse è il caso di fermarci un po’ tutti a riflettere», ha concluso Hubinger, un invito che Coxon ha accolto con le sue dimissioni, mettendo in evidenza l’urgenza di un dibattito più aperto e responsabile sul futuro dell’IA.