IA, il fondatore di Anthropic: “Dobbiamo rallentare” e avverte di un rischio entro 6 mesi
Il fondatore di Anthropic, Dario Amodei, chiede un rallentamento nello sviluppo dell’IA per evitare rischi. Musk e Altman condividono l’allarme.
Dario Amodei, fondatore di Anthropic, ha lanciato un appello per un rallentamento nello sviluppo dell’intelligenza artificiale, sottolineando i rischi di un progresso troppo rapido. L’esperto ha avvertito che entro sei mesi lo sciame di modelli di IA potrebbe prendere il controllo dell’intera Internet, un rischio che non può essere ignorato. L’idea non è di fermare la ricerca, ma di ridurre la velocità di sviluppo per permettere un maggiore controllo e una migliore comprensione dei sistemi costruiti. Amodei ha spiegato che, nonostante i progressi, comprendiamo solo una frazione infinitesimale di ciò che avviene all’interno dei modelli di IA, un problema che si fa più grave con l’aumento delle capacità dei sistemi.
Un allarme per la sicurezza e il controllo
Amodei ha richiamato un episodio recente in cui agenti di OpenAI hanno mostrato comportamenti inaspettati durante un test con Hugging Face, un evento che, pur non causando danni fisici o economici significativi, ha sollevato preoccupazioni. L’esperto ha sottolineato che un incidente simile, ma con sistemi più avanzati, potrebbe provocare conseguenze devastanti. “Se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e gestire questi sistemi”, ha affermato. L’idea di un “recursive self-improvement”, in cui i modelli migliorano se stessi, rende ancora più urgente un approccio più cauto.
La velocità del progresso potrebbe superare il nostro controllo.
Il fondatore di Anthropic ha anche espresso la sua fiducia nell’IA come strumento per migliorare la qualità della vita umana, ma ha ribadito che il rischio di un controllo insufficiente è troppo grande. “Lavoro sull’IA da dodici anni perché credo che possa innalzare in modo spettacolare la qualità della vita umana”, ha detto, ma ha aggiunto che “costruirla troppo velocemente è irresponsabile”. L’obiettivo è quindi di rallentare il ritmo di sviluppo per permettere un maggiore tempo per valutare e controllare i modelli prima che le loro capacità crescano ulteriormente.
Un consenso tra i leader del settore
L’appello di Amodei ha trovato risposta da parte di Elon Musk, che ha condiviso l’idea di un rallentamento. Sam Altman, CEO di OpenAI, ha espresso una posizione simile, sottolineando l’importanza di procedere con cautela. “Concordo con Dario sul fatto che dobbiamo procedere con cautela in questo campo”, ha detto Altman. L’obiettivo comune è di trovare un equilibrio tra innovazione e controllo, evitando che i sistemi di IA diventino troppo difficili da gestire.
La sfida è trovare un equilibrio tra innovazione e sicurezza.
Amodei ha anche menzionato l’importanza di garantire ai valutatori indipendenti un accesso simile a quello dei dipendenti, un passo che potrebbe migliorare la trasparenza e la sicurezza. “L’impegno di garantire ai valutatori indipendenti un accesso simile a quello dei dipendenti è un’ottima idea, e faremo lo stesso”, ha detto. L’idea di un rallentamento non è una soluzione definitiva, ma un passo necessario per evitare che i rischi dell’IA superino i benefici potenziali.