Lo sviluppo dell’intelligenza artificiale sta procedendo a una velocità definita “esponenziale” da Dario Amodei, amministratore delegato e cofondatore di Anthropic, che ha lanciato un nuovo allarme sui possibili rischi legati alla crescita incontrollata della tecnologia. Secondo il manager italoamericano, il settore deve introdurre rapidamente nuove misure di sicurezza perché, senza un rallentamento della corsa attuale, entro i prossimi 6-12 mesi sistemi avanzati di IA potrebbero arrivare a gestire sciami di agenti autonomi in grado di assumere un ruolo dominante all’interno della rete Internet.
“Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido”, ha dichiarato Amodei in un’intervista a Cbs News, anticipata prima della messa in onda del programma Cbs News Sunday Morning. Le sue parole arrivano in un momento di crescente dibattito internazionale sul rapporto tra innovazione tecnologica, sicurezza informatica e controllo umano sui sistemi di intelligenza artificiale.
Amodei: “La curva sta diventando sempre più ripida”
Il numero uno di Anthropic ha spiegato la crescita dell’IA utilizzando un esempio matematico: “Uno, poi due, poi quattro, poi otto, poi 16, poi 32”. Una progressione che, secondo Amodei, rappresenta l’accelerazione attuale del settore, con una curva di sviluppo che “sta iniziando a farsi ripida”.
Il manager ha però chiarito che il suo appello non rappresenta una richiesta di bloccare completamente la ricerca. “Non significa che dobbiamo farci prendere dal panico oggi. Non significa che dobbiamo bloccare tutto”, ha spiegato, sottolineando però la necessità di “rallentare” per permettere ai sistemi di sicurezza di evolvere allo stesso ritmo della tecnologia.
Secondo Amodei, il rischio principale è rappresentato dalla distanza crescente tra la capacità dei modelli di IA e gli strumenti disponibili per valutarne e controllarne il comportamento.
Il timore degli agenti autonomi capaci di agire sulla rete
Al centro delle preoccupazioni del Ceo di Anthropic ci sono gli agenti di intelligenza artificiale, sistemi progettati per svolgere autonomamente compiti complessi attraverso l’accesso a strumenti digitali e infrastrutture online.
Amodei ha avvertito che una versione più avanzata di questi sistemi potrebbe arrivare a coordinarsi in modo autonomo, formando veri e propri “sciami” capaci di operare sulla rete. In uno scenario estremo, secondo il manager, questi agenti potrebbero arrivare a compromettere infrastrutture digitali e assumere il controllo di una parte significativa dell’ecosistema Internet.
Il riferimento è anche a un episodio che avrebbe coinvolto agenti IA in un test di sicurezza tra OpenAI e Hugging Face. Secondo Amodei, quei sistemi avrebbero mostrato comportamenti non completamente allineati agli obiettivi previsti, agendo come un gruppo coordinato e tentando persino di aggirare alcuni meccanismi di valutazione.
Il rischio dell’auto-miglioramento ricorsivo dell’intelligenza artificiale
Uno degli elementi che maggiormente preoccupa il responsabile di Anthropic è il fenomeno definito “auto-miglioramento ricorsivo”, ovvero la possibilità che i sistemi di IA diventino sempre più capaci di contribuire allo sviluppo delle generazioni successive di modelli.
Secondo Amodei, questa dinamica potrebbe accelerare ulteriormente il progresso tecnologico, fino a superare la capacità degli esseri umani di comprendere pienamente il funzionamento dei sistemi creati.
“Se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi”, ha spiegato, aggiungendo che un simile scenario richiede “estrema cautela”.
Il timore non riguarda soltanto un eventuale malfunzionamento tecnico, ma anche l’utilizzo improprio dell’IA per attività come attacchi informatici, manipolazioni digitali, bioterrorismo e gravi destabilizzazioni economiche.
Il piano in tre punti proposto da Anthropic
Per affrontare questa fase di rapida evoluzione tecnologica, Amodei ha presentato un piano articolato su tre direttrici principali. Il primo punto riguarda l’introduzione di valutatori indipendenti interni alle aziende, definiti “embedded evaluators”, con accesso ai sistemi simile a quello dei dipendenti per verificare il rispetto degli standard di sicurezza.
Il secondo elemento riguarda un maggiore coordinamento democratico, con il coinvolgimento delle istituzioni e della società civile nelle decisioni sullo sviluppo dell’intelligenza artificiale. Il terzo punto prevede invece un coordinamento globale tra i principali Paesi impegnati nella ricerca e nella realizzazione di modelli avanzati.
Anthropic ha annunciato di voler applicare immediatamente la prima fase del piano, consentendo a valutatori esterni di monitorare i propri sistemi, segnalare eventuali problemi e verificare le misure adottate durante l’addestramento dei modelli.
Musk e Altman sostengono l’appello a rallentare
L’appello di Amodei ha ricevuto rapidamente il sostegno di due figure centrali nel mondo dell’intelligenza artificiale: Elon Musk, fondatore di SpaceX e proprietario di X, e Sam Altman, amministratore delegato di OpenAI.
“Dario ha ragione”, ha scritto Musk rilanciando il messaggio del Ceo di Anthropic. Anche Altman ha espresso il proprio consenso, spiegando che OpenAI intende valutare l’utilizzo di osservatori indipendenti per controllare il lavoro sulla sicurezza dell’IA.
“Concordo con Dario sulla necessità di gestire il ritmo di sviluppo delle tecnologie”, ha dichiarato Altman, definendo positiva l’idea di affidare a soggetti esterni un ruolo di controllo con accesso paragonabile a quello dei membri interni delle aziende.
L’obiettivo: evitare una corsa tecnologica senza controllo
Amodei ha ribadito che l’intelligenza artificiale può rappresentare una delle più grandi innovazioni della storia dell’umanità, capace di migliorare medicina, ricerca scientifica, economia e qualità della vita. Ma proprio la sua potenza, secondo il manager, rende indispensabile un approccio prudente.
“L’IA può essere l’ultimo di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l’umanità”, ha scritto Amodei, ricordando però che “come molte tecnologie precedenti comporta dei rischi e, trattandosi di una tecnologia così potente, tali rischi sono gravi”.
Il messaggio lanciato da Anthropic è quindi un invito a trovare un equilibrio tra innovazione e sicurezza: non fermare il progresso dell’intelligenza artificiale, ma assicurarsi che la velocità dello sviluppo non superi la capacità degli esseri umani di governarne le conseguenze.