A margine del film NAZA, dall’abbreviazione di Nezek Agavi, “danno collaterale”, occorre riflettere sull’uso dell’intelligenza artificiale in guerra: delegare alla macchina il giudizio umano può rendere invisibile la responsabilità. Servono un effettivo controllo umano e regole internazionali urgenti per impedire che la tecnologia dell’IA diventi un’arma senza imputabilità o, peggio, un alibi per la nostra coscienza.

L’allarme è oggi dirompente sugli scenari più estremi dell’intelligenza artificiale: la stessa Anthropic, tra i principali sviluppatori dell’IA, denuncia il rischio di conseguenze catastrofiche e di una possibile perdita del controllo umano su sistemi sempre più potenti e invasivi. Ma c’è già un pericolo che non appartiene a un futuro distopico: è l’attuale “IA delle guerre”, in cui si affidano all’intelligenza artificiale decisioni sulla vita e sulla morte. È questa la prospettiva che il film NAZA porta davanti alla nostra coscienza: l’IA applicata alla guerra può trasformare il giudizio umano in una sequenza di dati e algoritmi “disumanizzati”, fino a oscurare la responsabilità in una funzione impersonale e anonima del sistema.

Sarebbe una straordinaria possibilità se il film NAZA diventasse un monito capace di uscire dalle sale cinematografiche. Il film di Yuval Abraham e Rachel Szor compie una ricostruzione sulla tecnologia dell’IA con cui l’esercito israeliano avrebbe automatizzato la selezione e l’eliminazione dei bersagli nella Striscia di Gaza, in continuità con le inchieste pubblicate da The Guardian, +972 Magazine e Local Call. Beninteso, le tesi sono state duramente contestate da Israele e non va certo dimenticato il contesto dal quale è scaturita la guerra di Gaza: il massacro del 7 ottobre 2023, con l’efferata uccisione di circa 1.200 israeliani e la presa di ostaggi da parte di Hamas e di altri gruppi armati palestinesi. Ma proprio di fronte a una tragedia così disarmante, il procuratore della Corte penale internazionale Karim Khan, già nell’ottobre 2023, lanciò un monito dal valico di Rafah: il diritto umanitario doveva essere rispettato anche da chi si accingeva a una reazione legittima.

È in questa prospettiva che va colta la denuncia del film. NAZA è l’abbreviazione di Nezek Agavi, “danno collaterale”, il dato che, nel linguaggio ricostruito dalle inchieste, indica il numero di vittime civili previste in un attacco. Inquietante è quanto riferito dalle fonti sulle soglie di danno civile che sarebbero state accettate nell’impiego dei sistemi Habsora (“Il Vangelo”), Lavender e Where’s Daddy? (“Dov’è papà?”): nelle prime settimane del conflitto, il comando militare avrebbe autorizzato una “quota” fissa di 15-20 vittime civili per ogni singolo obiettivo di basso livello, fino a un intervallo di oltre 100-500 civili nel caso in cui il software avesse localizzato un comandante di livello superiore.

Questo spiegherebbe una reazione militare di proporzioni devastanti: si parla di oltre 72mila palestinesi uccisi e 173mila feriti. E dentro questa cifra c’è un dato ancora più atroce, quello dell’“infanticidio di massa” (Infanticide in the Name of Proportionality: Gaza as a World Order Problem, in Georgetown Journal of International Affairs, 2025). In base ai report dell’UNICEF, già al 3 febbraio 2026 risultavano almeno 21.289 bambini palestinesi uccisi e 44.500 feriti dall’inizio della guerra.

Il tema, dunque, non è soltanto quello di una catastrofe umanitaria alla quale la comunità internazionale non riesce ancora a porre fine, ma anche quello di una radicale trasformazione dei mezzi della guerra: il giudizio umano viene delegato alla macchina, che attraverso dati e algoritmi “disumanizzati” può trasformare una persona inerme in un bersaglio, un attacco “mirato” nella distruzione di un ospedale o in una strage di civili.

La domanda giuridica diventa allora inevitabile: chi risponde della decisione? Una decisione letale può essere prodotta solo da una sequenza tecnologica? La risposta è già presente nel diritto internazionale umanitario. Il principio di distinzione obbliga a distinguere civili e combattenti; quello di proporzionalità vieta attacchi nei quali il danno civile sia eccessivo rispetto al “vantaggio militare concreto e diretto atteso”; il principio di precauzione impone di fare tutto ciò che è possibile per evitare perdite tra la popolazione civile.

Già prima delle Convenzioni di Ginevra del 1949, la Dichiarazione di San Pietroburgo del 1868 aveva affermato l’idea che la “necessità militare” non può giustificare sofferenze inutili e la Clausola Martens aveva aperto una porta essenziale: anche quando una nuova tecnologia non è ancora espressamente disciplinata da una norma, gli esseri umani rimangono tutelati dai principi di umanità e della “pubblica coscienza”.

Con il Tribunale di Norimberga del 1945, la civiltà giuridica aveva compiuto un altro passo decisivo: la guerra non cancella la responsabilità individuale. Hannah Arendt osservò la macchina burocratica dello sterminio nazista individuando la “banalità del male”: uomini ordinari possono partecipare a un male immenso rinunciando a interrogarsi sul significato delle proprie azioni.

Oggi quella dinamica rischia di riproporsi in un’altra trasformazione: una catena tecnologica nella quale ciascuno dispone soltanto di un frammento dell’informazione e nessuno sembra più responsabile dell’intero risultato. Il male burocratico del Novecento può diventare, nel XXI secolo, l’algoritmo che delega alla macchina e allontana ogni responsabilità dalla coscienza.

È contro questa deriva che risuonano anche le parole di Leone XIV che, nella Magnifica Humanitas, ha richiamato: “Il giudizio morale non è riducibile a un calcolo: esso implica coscienza, responsabilità personale e riconoscimento dell’altro come persona”.

A New York si sta svolgendo l’81ª Assemblea generale delle Nazioni Unite e un capitolo sarà dedicato al Global Dialogue on AI Governance, uno spazio già aperto al confronto internazionale sulla responsabilità, sulla trasparenza e sulla governance dell’intelligenza artificiale. Ora occorre un passo ulteriore: promuovere una Conferenza internazionale per il diritto internazionale umanitario nell’era dell’intelligenza artificiale, capace di tradurre regole condivise in fatti concreti.

Alla Conferenza vanno definiti organismi sovranazionali di vigilanza, imposte normative nazionali vincolanti per la verifica preventiva dei sistemi, la tracciabilità delle decisioni, la responsabilità dei comandanti e degli Stati e, soprattutto, un controllo umano che sia realmente capace di comprendere, contestare e fermare una decisione letale.

Ecco perché bisogna fermare gli algoritmi disumani. Non per fermare l’intelligenza artificiale, ma per impedire che avanzi nel male, diventando un’arma senza responsabilità o, peggio, l’ultimo alibi per la nostra coscienza.

* Membro dell’International Law Association.