La corsa verso sistemi di intelligenza artificiale sempre più potenti sta trasformando una questione tecnologica in uno dei principali dossier politici, economici e di sicurezza internazionale. A rilanciare l’allarme è ora l’Alto Commissario delle Nazioni Unite per i diritti umani, Volker Türk, che ha chiesto agli Stati e alle aziende impegnate nello sviluppo dei modelli più avanzati di intervenire con urgenza affinché le regole riescano a tenere il passo con l’evoluzione tecnologica. Il monito arriva mentre si amplia il fronte di dirigenti, ricercatori e istituzioni che chiedono maggiori garanzie sulla sicurezza dell’IA, mentre Donald Trump respinge l’ipotesi di rallentare la corsa americana e la Cina denuncia quello che considera un eccessivo “allarmismo”. L’Onu ha confermato il 14 settembre l’appello di Türk a un’azione immediata di fronte a rischi definiti senza precedenti.
Türk: “Siamo alla vigilia di un cambiamento irreversibile”
Nella lettera indirizzata agli Stati e agli sviluppatori di intelligenza artificiale, Türk utilizza parole particolarmente nette. “Siamo alla vigilia di un cambiamento irreversibile, che non riguarderà solo noi, ma anche le generazioni future dell’umanità”, afferma l’Alto Commissario. Secondo Türk, l’attuale competizione per realizzare un’intelligenza artificiale sempre più capace non comporta soltanto opportunità economiche e scientifiche, ma determina anche “maggiori rischi esistenziali” destinati potenzialmente a coinvolgere ogni aspetto della società. La questione centrale, nella visione delle Nazioni Unite, riguarda quindi le decisioni prese oggi sulla progettazione, sull’impiego e soprattutto sulla governance dei sistemi più avanzati: scelte che potrebbero determinare per molti anni il rapporto tra esseri umani, istituzioni e tecnologie autonome.
Il rischio per servizi essenziali, infrastrutture e istituzioni democratiche
L’allarme dell’Onu riguarda in particolare le conseguenze che potrebbero derivare da malfunzionamenti, abusi o utilizzi deliberatamente dannosi dei sistemi più potenti. Secondo Türk, eventuali fallimenti potrebbero paralizzare servizi essenziali, interrompere o frammentare le comunicazioni, destabilizzare infrastrutture critiche e colpire direttamente le istituzioni democratiche. Il problema assume una dimensione ancora maggiore con lo sviluppo degli agenti di IA, sistemi capaci di pianificare ed eseguire autonomamente sequenze di operazioni utilizzando software, dati e strumenti digitali. Più aumenta il grado di autonomia, sostiene in sostanza l’Alto Commissario, più diventa necessario costruire meccanismi di controllo capaci di individuare tempestivamente comportamenti inattesi o pericolosi.
Privacy e sorveglianza, l’altra emergenza indicata dalle Nazioni Unite
Al centro dell’intervento di Türk c’è anche la protezione dei diritti fondamentali. La crescente richiesta di enormi quantità di informazioni per addestrare e utilizzare i modelli e la diffusione di nuovi strumenti di sorveglianza potrebbero, secondo l’Alto Commissario, erodere la privacy su una scala mai vista prima. A questo si aggiunge il rischio che l’automazione dei servizi essenziali finisca per penalizzare ulteriormente le persone già in condizioni di marginalità. La trasformazione digitale, quindi, non dovrebbe essere valutata esclusivamente sulla base dell’efficienza raggiunta dai sistemi, ma anche attraverso l’impatto concreto che le decisioni automatizzate possono avere sui cittadini, soprattutto quando riguardano l’accesso ai servizi pubblici, all’assistenza, al lavoro o ad altre prestazioni fondamentali.
Disinformazione e deepfake, l’IA può condizionare il dibattito pubblico
Un altro terreno particolarmente delicato è quello della disinformazione generata dall’intelligenza artificiale. Testi, immagini, audio e video sintetici sempre più realistici possono essere prodotti in quantità enormi e diffusi attraverso le piattaforme digitali. Secondo Türk, campagne basate sull’IA stanno già alterando il dibattito pubblico, minando la coesione sociale e sottoponendo le istituzioni democratiche a nuove pressioni. La possibilità di creare rapidamente contenuti falsi difficili da distinguere da quelli autentici modifica infatti anche il rapporto tra cittadini e informazione, aumentando il rischio di manipolazioni politiche, campagne coordinate e impersonificazioni di personaggi pubblici. Il problema diventa particolarmente sensibile in periodi elettorali o durante crisi internazionali, quando anche una falsa informazione può produrre conseguenze immediate.
L’Onu chiede verifiche indipendenti sui modelli più avanzati
Per affrontare questi rischi Türk chiede agli Stati di non limitarsi agli impegni volontari delle aziende. L’Alto Commissario propone una verifica indipendente e tecnicamente competente delle capacità dei sistemi di IA, con valutatori che possano ottenere accesso ai modelli, alla documentazione e agli ambienti utilizzati durante i test. Le società dovrebbero inoltre effettuare una due diligence costante in materia di diritti umani, valutando non soltanto i benefici dei propri sistemi ma anche gli effetti negativi prevedibili. Gli Stati che ospitano le principali società tecnologiche, secondo Türk, hanno una responsabilità particolare: devono imporre comportamenti responsabili e prevedere strumenti per chiamare le imprese a rispondere delle eventuali violazioni.
La richiesta di una governance internazionale fondata sui diritti umani
La prospettiva delle Nazioni Unite non coincide necessariamente con una sospensione generalizzata dello sviluppo dell’intelligenza artificiale. L’obiettivo indicato da Türk è piuttosto quello di costruire rapidamente regole internazionali per i modelli avanzati e di frontiera, utilizzando i forum multilaterali e ponendo il diritto internazionale dei diritti umani alla base della futura governance. L’accelerazione tecnologica sta infatti rendendo sempre più evidente uno dei principali problemi del settore: i modelli possono essere sviluppati e distribuiti globalmente in tempi molto più rapidi rispetto a quelli necessari ai governi per elaborare norme, istituire autorità di controllo e raggiungere accordi internazionali.
La Cina respinge gli appelli alla frenata: “Allarmismo che ostacola la governance”
La posizione cinese è differente. Il portavoce del ministero degli Esteri Guo Jiakun ha sostenuto che lo sviluppo dell’intelligenza artificiale riguarda il benessere dell’intera umanità e deve essere portato avanti in maniera aperta, inclusiva e orientata al bene comune. Pechino ha contestato gli appelli provenienti da alcuni protagonisti dell’industria tecnologica americana per rallentare lo sviluppo dei modelli più potenti. Secondo Guo, “allarmismo, confronto e competizione” rischiano di ostacolare la costruzione di una governance globale dell’IA. La posizione cinese, tuttavia, non equivale al rifiuto dei controlli: le autorità di Pechino stanno contemporaneamente chiedendo un rafforzamento delle misure di sicurezza e della prevenzione dei rischi.
Pechino teme anche l’uso dell’IA contro la sicurezza nazionale
Il ministro cinese della Sicurezza di Stato Chen Yixin ha descritto l’intelligenza artificiale come uno dei principali terreni della competizione tecnologica internazionale e una nuova arena della rivalità strategica tra grandi potenze. La Cina teme, in particolare, che sistemi di IA generativa possano essere utilizzati da attori stranieri per creare contenuti politici falsi, diffondere informazioni dannose o condurre quelle che Pechino definisce “guerre cognitive”. Anche il controllo dei dati, dei chip avanzati e della capacità di calcolo assume così una rilevanza strategica. Per la leadership cinese la sicurezza dell’IA deve quindi procedere parallelamente allo sviluppo tecnologico, senza trasformarsi però in uno strumento che rallenti la crescita o consolidi il vantaggio dei concorrenti occidentali.
Trump respinge la frenata: “Chi vince nell’IA vince tutto”
Sul fronte opposto, Donald Trump ha trasformato il dibattito sulla sicurezza dell’IA in una questione di competizione strategica con la Cina. Il presidente statunitense ha affermato che sarebbe in corso una “cospirazione malata contro l’IA e i data center” e che Pechino sarebbe il principale beneficiario di un eventuale rallentamento americano. “Chi vince la sfida dell’IA, vince tutto”, ha sostenuto Trump, rivendicando il vantaggio degli Stati Uniti e promettendo di mantenerlo. Il presidente ha anche attaccato direttamente Dario Amodei, numero uno di Anthropic, tra i principali sostenitori della necessità di ridurre il ritmo di sviluppo dei modelli più avanzati per consentire ai sistemi di sicurezza di recuperare terreno. Reuters e Associated Press hanno confermato il duro intervento di Trump del 14 settembre contro nuove restrizioni.
Il presidente Usa: “Non uccidiamo la gallina dalle uova d’oro”
Per Trump, il boom americano dell’intelligenza artificiale e dei data center è possibile proprio perché gli Stati Uniti hanno accumulato un vantaggio significativo rispetto agli altri Paesi. La sua linea è quindi quella di evitare norme che possano rallentare investimenti e innovazione. “Non uccidete la gallina dalle uova d’oro”, è il messaggio lanciato dal presidente, secondo il quale Washington possiede già strumenti normativi e sanzionatori sufficienti per intervenire contro eventuali comportamenti pericolosi delle aziende. La posizione della Casa Bianca si inserisce in una visione dell’intelligenza artificiale sempre più legata alla sicurezza nazionale, alla capacità di calcolo, alla produzione di semiconduttori e al controllo delle infrastrutture digitali.
Amodei, Altman e Musk chiedono più prudenza nello sviluppo
La linea di Trump si scontra con gli allarmi arrivati nelle ultime settimane proprio dall’industria americana. Il ceo di Anthropic Dario Amodei ha chiesto di regolare il ritmo di avanzamento dei modelli più potenti, sostenendo che le capacità dell’intelligenza artificiale stanno crescendo più velocemente degli strumenti utilizzati per garantirne la sicurezza. La sua posizione ha ottenuto il sostegno di Elon Musk, mentre Sam Altman, alla guida di OpenAI, ha espresso apprezzamento per l’idea di utilizzare valutatori indipendenti dotati di un livello di accesso ai sistemi paragonabile a quello dei dipendenti delle aziende. Reuters ha ricostruito il dibattito tra i principali protagonisti del settore, evidenziando come il confronto sulla velocità dello sviluppo sia diventato uno dei nodi centrali dell’industria tecnologica.
Microsoft introduce limiti per i modelli MAI
Anche Microsoft sta cercando di fissare principi più espliciti per lo sviluppo dei propri sistemi MAI. L’azienda ha impostato il progetto sulla concezione di una “IA umanistica”, cioè tecnologie progettate per restare al servizio delle persone, rafforzarne le capacità e non sostituirne l’autonomia. Mustafa Suleyman, alla guida di Microsoft AI, ha più volte indicato come obiettivo quello di sviluppare sistemi avanzati che rimangano sotto il controllo umano. La filosofia ufficiale di Microsoft AI definisce infatti la propria “Humanist Superintelligence” come una tecnologia destinata a servire persone e organizzazioni, mantenendo supervisione e controllo umani.
Armi, deepfake e contenuti sui minori tra i limiti indicati da Microsoft
Nella bozza del codice dedicato ai modelli MAI vengono indicati anche confini particolarmente sensibili. I sistemi non dovrebbero avviare o assistere lo sviluppo e l’impiego di armi chimiche, biologiche, radiologiche, nucleari o esplosive e non dovrebbero mettere in atto comportamenti adattivi o ingannevoli con l’obiettivo di sottrarsi alla supervisione umana. Sono previsti inoltre limiti riguardanti immagini intime o violente non consensuali, impersonificazioni ingannevoli, deepfake malevoli e qualsiasi materiale che sessualizzi i minori. Microsoft intende raccogliere osservazioni sulla versione provvisoria del documento per utilizzarle nella definizione delle successive regole di sviluppo dei propri modelli.
Lagarde: l’Europa rischia una nuova dipendenza tecnologica
Nel dibattito entra anche la presidente della Banca centrale europea Christine Lagarde, che pone il problema da un punto di vista diverso: la sovranità tecnologica dell’Europa. Secondo Lagarde, l’Unione europea rischia di trovarsi davanti a una scelta difficile. Se rallenta l’adozione dell’intelligenza artificiale per proteggere i propri dati, potrebbe perdere opportunità di crescita; se invece utilizza rapidamente tecnologie sviluppate e controllate altrove, potrebbe creare una dipendenza strategica capace di limitarne la libertà economica. Il punto cruciale riguarda i dati: un servizio cloud può conservarli, mentre un modello di IA può leggerli, interpretarli e apprendere da ciò che un’impresa o un intero settore conoscono.
Dai treni alle banche, l’IA potrebbe diventare un’infrastruttura essenziale
La preoccupazione europea aumenta considerando quanto rapidamente l’intelligenza artificiale potrebbe diventare parte delle infrastrutture quotidiane. Secondo lo scenario delineato da Lagarde, sistemi automatizzati potranno controllare merci alle frontiere, selezionare dichiarazioni fiscali da verificare, coordinare treni, monitorare pazienti negli ospedali e gestire processi nel settore bancario. Un’interruzione dell’accesso a queste tecnologie o una modifica unilaterale delle condizioni di utilizzo avrebbe quindi effetti simultanei su diversi comparti dell’economia. Anche la Bce sta ampliando l’utilizzo dell’IA nei propri processi, ma sottolinea che questi strumenti devono affiancare e non sostituire il giudizio degli esperti, mantenendo affidabilità, tracciabilità e responsabilità.
La vera sfida diventa chi stabilirà le regole dell’intelligenza artificiale
Il confronto in corso mostra come la partita dell’IA non riguardi ormai soltanto quale azienda riuscirà a costruire il modello più potente. In gioco ci sono il controllo dei dati, la disponibilità dei chip, l’energia necessaria ai data center, la sicurezza militare e informatica, la tutela dei diritti fondamentali e soprattutto la capacità di stabilire gli standard che saranno adottati a livello globale. Stati Uniti e Cina considerano il primato tecnologico una componente della propria potenza strategica, mentre l’Europa cerca di evitare che la dipendenza dai sistemi stranieri riduca la propria autonomia. Le grandi aziende, contemporaneamente, devono confrontarsi con un paradosso sempre più evidente: continuare a migliorare rapidamente sistemi dai quali dipende il loro vantaggio competitivo e, nello stesso tempo, dimostrare di essere in grado di controllarne i rischi.
Tra accelerazione e prudenza si decide il futuro della governance globale
L’appello di Volker Türk inserisce infine il tema dei diritti umani al centro di una discussione fino a pochi anni fa dominata quasi esclusivamente dall’innovazione tecnologica. La domanda non è più soltanto quanto velocemente riusciranno a progredire i modelli, ma quale grado di autonomia sarà considerato accettabile, chi potrà verificare realmente il loro funzionamento e quali responsabilità ricadranno sulle imprese in caso di danni. Tra gli appelli alla prudenza dell’industria, la strategia competitiva di Trump, la posizione cinese contro l’allarmismo, le regole interne di Microsoft e le preoccupazioni europee sulla dipendenza tecnologica, la governance dell’intelligenza artificiale sta diventando uno dei grandi terreni di confronto internazionale. E, come avverte l’Onu, molte delle decisioni prese oggi potrebbero essere difficili, se non impossibili, da invertire in futuro.