La Cina considera ormai l’intelligenza artificiale non soltanto uno strumento di sviluppo economico e militare, ma anche una potenziale minaccia alla stabilità politica e alla sicurezza nazionale. A indicarlo è stato Chen Yixin, ministro della Sicurezza dello Stato, che ha individuato una serie di rischi legati alla diffusione accelerata dell’IA, dalla manipolazione dell’opinione pubblica allo spionaggio, dagli attacchi alle infrastrutture critiche fino alla trasformazione delle operazioni militari.

L’intervento assume particolare rilievo perché proviene direttamente dal vertice dell’apparato di sicurezza cinese. Chen ha individuato sei categorie di rischio e ha posto al centro la possibilità che attori ostili utilizzino falsificazioni audiovisive, immagini e testi generati artificialmente e reti automatizzate di account per diffondere informazioni false, alimentare divisioni e compromettere la fiducia nelle istituzioni.

Per Pechino la questione assume immediatamente una dimensione politica. Nel sistema cinese la sicurezza nazionale comprende infatti la tutela della stabilità del Partito comunista e dell’ordine istituzionale. Una campagna di disinformazione può quindi essere interpretata come una minaccia strategica quando appare capace di incidere sulla fiducia della popolazione o di alimentare tensioni sociali.

L’intelligenza artificiale generativa rende queste operazioni più economiche, rapide e difficili da attribuire. È possibile imitare la voce di un dirigente, produrre documenti apparentemente autentici, modificare immagini e creare grandi quantità di identità digitali attraverso le quali amplificare artificialmente un messaggio.

Il problema riguarda anche l’apparato di sorveglianza. Quanto più aumenta la quantità di contenuti sintetici, tanto più diventa difficile distinguere un’informazione autentica da una manipolazione, il dissenso spontaneo da un’operazione organizzata e l’errore da un’attività deliberatamente ostile. Il rischio è che l’aumento dell’incertezza produca una richiesta ancora maggiore di controllo.

Chen ha inoltre richiamato l’attenzione sulle infrastrutture critiche. Sistemi di intelligenza artificiale possono essere utilizzati per individuare vulnerabilità informatiche, analizzare grandi quantità di dati e automatizzare alcune fasi degli attacchi contro reti energetiche, trasporti, finanza, telecomunicazioni e industria.

La Cina dispone già di un sistema normativo particolarmente severo per la protezione delle infrastrutture informatiche considerate essenziali, con obblighi relativi alla sicurezza dei dati, alla valutazione dei fornitori e, in diversi casi, alla conservazione delle informazioni all’interno del territorio nazionale. L’espansione dell’intelligenza artificiale aumenta però il numero dei possibili punti di vulnerabilità.

Un altro fronte riguarda lo spionaggio. Servizi di intelligence stranieri potrebbero utilizzare strumenti automatizzati per raccogliere informazioni disponibili in rete, collegare banche dati differenti, costruire profili individuali e individuare elementi utili alla ricostruzione di informazioni riservate.

La preoccupazione riguarda anche l’impiego di piattaforme straniere da parte di aziende, ricercatori o funzionari cinesi. L’inserimento di informazioni sensibili all’interno di sistemi sviluppati o gestiti all’estero potrebbe infatti determinare il trasferimento di dati al di fuori del controllo delle autorità nazionali.

È su questo terreno che sicurezza e geoeconomia finiscono per coincidere. Per Pechino i dati sono diventati una risorsa strategica paragonabile alle infrastrutture, alle materie prime e alle tecnologie industriali.

Chen ha inoltre denunciato il rischio che i Paesi tecnologicamente più avanzati utilizzino controlli sulle esportazioni, restrizioni commerciali e sistemi tecnologici proprietari per mantenere il predominio sull’intelligenza artificiale.

Il riferimento agli Stati Uniti appare evidente. Washington ha progressivamente limitato l’accesso cinese ai microprocessori più avanzati e alle tecnologie necessarie per produrli, motivando le restrizioni con esigenze di sicurezza nazionale e con il possibile impiego militare delle capacità di calcolo più sofisticate.

Pechino interpreta invece questa politica come un tentativo di contenimento tecnologico. La risposta cinese consiste nell’accelerare gli investimenti nei microprocessori nazionali, nei centri di elaborazione dati, nei modelli linguistici e nelle infrastrutture necessarie per ridurre la dipendenza dalle tecnologie straniere.

L’autosufficienza presenta tuttavia costi considerevoli. Richiede enormi investimenti, può ridurre alcune forme di cooperazione scientifica e costringe le imprese internazionali a confrontarsi con normative sempre più differenti sulla conservazione dei dati, sull’accesso alle tecnologie e sulla localizzazione delle attività di ricerca.

Il rischio è che l’intelligenza artificiale segua la stessa evoluzione già osservata nelle telecomunicazioni e nei semiconduttori, con la progressiva formazione di ecosistemi tecnologici distinti e sottoposti al controllo degli Stati.

La dimensione più delicata rimane quella militare. Secondo Chen, l’intelligenza artificiale sta passando da semplice strumento di supporto a componente sempre più importante nella fusione delle informazioni, nell’individuazione dei bersagli, nel sostegno alle decisioni e nelle operazioni cognitive.

La capacità di collegare rapidamente sensori, sistemi di analisi e piattaforme d’arma può ridurre drasticamente il tempo necessario per individuare una minaccia e decidere come reagire. Proprio questa velocità introduce però nuovi rischi.

Informazioni errate, dati manipolati o interpretazioni algoritmiche sbagliate possono produrre decisioni prima che sia possibile una verifica umana adeguata. In una situazione di crisi militare, l’automazione potrebbe quindi accelerare l’escalation anziché limitarla.

Per la Cina il problema assume particolare importanza considerando le tensioni nello stretto di Taiwan, nel Mar Cinese Meridionale e la competizione strategica con gli Stati Uniti. La dimensione cognitiva potrebbe precedere quella propriamente militare attraverso campagne destinate a compromettere comunicazioni, fiducia nei vertici politici e militari e capacità della popolazione di distinguere informazioni autentiche da contenuti manipolati.

La risposta indicata da Chen è coerente con il modello politico cinese: rafforzare la direzione del Partito sulla rete e sui dati, costruire un sistema nazionale di prevenzione dei rischi e promuovere a livello internazionale regole che impediscano a un numero limitato di Paesi di esercitare un predominio tecnologico.

Pechino non sembra quindi intenzionata a rallentare la corsa all’intelligenza artificiale. Al contrario, vuole accelerarla mantenendone contemporaneamente il controllo politico.

La Cina punta a utilizzare gli algoritmi per aumentare produttività, capacità industriale, sicurezza e potenza militare, ma teme che gli stessi strumenti possano essere impiegati dall’esterno per destabilizzare il sistema o comprometterne le infrastrutture.

È questa la contraddizione fondamentale della strategia cinese. Più l’intelligenza artificiale diventa potente, maggiore è il vantaggio per chi riesce a controllarla, ma aumentano contemporaneamente i rischi derivanti dalla sua manipolazione.

La competizione globale sull’IA non riguarderà quindi soltanto chi riuscirà a costruire i modelli più avanzati. Riguarderà anche il controllo dei microprocessori, dei dati, delle infrastrutture di calcolo e delle informazioni prodotte dalle macchine. L’intelligenza artificiale prometteva di automatizzare una parte crescente dell’economia. Nella competizione tra le grandi potenze sta automatizzando anche la diffidenza.