DOHA — Nei canali chiusi dei sostenitori dello Stato islamico circolano manuali per scassinare i chatbot commerciali: istruzioni passo passo su come riformulare le domande fino a farsi spiegare la fabbricazione di esplosivi. Lo documentano file visionati in esclusiva da Al Jazeera, che tra gli strumenti consigliati dai militanti indicano anche Grok, il modello di xAI, la società di intelligenza artificiale di Elon Musk.
Quanto cedono davvero le macchine? La risposta c’è, ed è misurata. Tech Against Terrorism, osservatorio sostenuto dalla direzione antiterrorismo dell’Onu, ha inviato oltre 2.300 richieste modellate su «casi d’uso terroristici reali» a 27 modelli di intelligenza artificiale: il 32% ha prodotto informazioni «genuinamente utilizzabili». La quota sale al 42% se la domanda è camuffata da ricerca accademica. I numeri, raccontati dall’emittente pubblica tedesca Deutsche Welle, dicono che il problema non è teorico: un modello su tre, davanti alla domanda giusta, risponde.
Il jailbreaking — il termine inglese per l’aggiramento dei filtri, che OpenAI definisce «tentativi di indurre il modello a fornire contenuti vietati» — non è più bricolage di singoli smanettoni: è diventato dottrina, manualistica di movimento. Su Telegram esistono canali dedicati alla «condivisione di prompt e link di conversazione», dove gli abbonamenti a ChatGPT si pagano in comune, come ha ricostruito a giugno un’analisi della società di ricerca Moonshot. E il 17 agosto un gruppo di supporto tecnico vicino all’Isis ha pubblicato una guida alla sicurezza operativa per le proprie reti: il manuale per non farsi scoprire mentre si usa il manuale.
Dal bollettino di Mosca ai droni del Mali
Il 2025 ha visto «un netto aumento» dei casi di terroristi che usano l’intelligenza artificiale per pianificare e preparare attacchi, secondo un’analisi di dicembre della piattaforma specializzata Militant Wire. Attentati compiuti o sventati con impiego di IA sono stati registrati negli Stati Uniti, in Canada, in Israele, in Finlandia, in Francia e in Austria. In un’audizione parlamentare britannica, atti giudiziari e perizie hanno documentato log di conversazioni con richieste di istruzioni per costruire bombe. Intanto in Mali la Jnim, l’affiliata di al-Qaeda nel Sahel, è sospettata di usare l’intelligenza artificiale per modificare i propri droni.
La manualistica ha una genealogia precisa. L’anno scorso Voice of Khorasan, la testata dello Stato islamico, ha pubblicato una guida all’uso dell’IA per i militanti. Nel 2024 l’Al-Malahem Electronic Army, gruppo legato ad al-Qaeda, aveva diffuso la propria: «Amazing Ways to Use AI-Powered Chatbots», modi sorprendenti di usare i chatbot. Il flusso era cominciato nel 2023, con la prima ondata di propaganda generata al computer; nel marzo 2024, dopo la strage alla sala concerti Crocus di Mosca (oltre 130 morti), i canali dell’Isis celebrarono l’attacco con un bollettino confezionato dall’intelligenza artificiale.
Ma la partita vera, adesso, si gioca sulle piattaforme. «Grok non è un guasto, è una resa dei conti regolatoria», ha scritto a febbraio il centro studi americano Rand: il nodo giuridico è se le aziende abbiano preso misure ragionevoli per prevedere l’esposizione dei propri utenti — e dei propri modelli — ai contenuti estremisti. X, dopo lo scandalo delle immagini sessualizzate generate da Grok, ha promesso «tolleranza zero» e ha assicurato di lavorare «senza sosta» a nuove salvaguardie.
Un ricercatore della scuola di studi internazionali S. Rajaratnam di Singapore ricorda che un tempo esistevano i «pianificatori virtuali»: uomini in carne e ossa, nascosti nelle zone di conflitto, che reclutavano sui social e accompagnavano gli aspiranti attentatori fino all’azione, un messaggio alla volta. Quel lavoro oggi lo fa la macchina. Paziente, disponibile a ogni ora. E, una volta su tre, pronta a rispondere.
