L’allarme è ormai netto sugli scenari più estremi dell’intelligenza artificiale: la stessa Anthropic, tra i principali sviluppatori di IA, riconosce pubblicamente il rischio di conseguenze catastrofiche e di una possibile perdita del controllo umano su sistemi sempre più potenti. E c’è già un pericolo che non appartiene a un futuro distopico: è l’ “IA delle guerre”, in cui si affidano all’intelligenza artificiale decisioni sulla vita e sulla morte. È questa la prospettiva che il film NAZA porta davanti alla nostra coscienza: l’IA applicata alla guerra può trasformare il giudizio umano in una sequenza di dati e algoritmi, fino a oscurarne la responsabilità in una funzione apparentemente impersonale del sistema.
Sarebbe una straordinaria possibilità se il film ‘NAZA’ diventasse un monito capace di uscire dalle sale cinematografiche: il film di Yuval Abraham e Rachel Szor compie una ricostruzione sulla spaventosa tecnologia dell’IA con cui l’esercito israeliano ha automatizzato la selezione e l’eliminazione dei bersagli nella Striscia di Gaza, in continuità con le inchieste pubblicate da The Guardian, +972 Magazine e Local Call. Beninteso, le tesi sono state duramente contestate da Israele e non va certo dimenticato il contesto dal quale è scaturita la guerra di Gaza: il massacro del 7 ottobre 2023, con l’efferata uccisione di circa 1.200 israeliani e lo stillicidio della presa di ostaggi da parte di Hamas e di altri gruppi armati palestinesi. Ma proprio di fronte a una tragedia così disarmante, il procuratore della Corte penale internazionale Karim Khan già nell’ottobre 2023 lanciò un monito dal valico di Rafah: il diritto umanitario doveva ora essere rispettato anche da chi si accingeva ad una reazione legittima. È in questa prospettiva che va colta la denuncia del film. NAZA è l’abbreviazione di Nezek Agavi, “danno collaterale”, il dato che nel linguaggio ricostruito dalle inchieste indica il numero di vittime civili che si prevedeva in un attacco.
Inquietante è quanto riferito dalle fonti sulle soglie di danno civile accettato dai sistemi Habsora, (Il Vangelo), Lavender, e Where’s Daddy? (Dov’è papà?): nelle prime settimane del conflitto, il comando militare avrebbe autorizzato una ‘quota’ fissa di 15-20 vittime civili per ogni singolo obiettivo di basso livello, sino a un range di oltre 100-500 civili sacrificabili nel caso in cui il software avesse localizzato un comandante di livello superiore. Questo spiegherebbe la reazione militare di proporzioni devastanti: si parla di oltre 72.000 palestinesi uccisi e 173.000 feriti. E dentro questa cifra c’è un dato ancora più atroce: quello dell’ ‘infanticidio di massa’ (Infanticide in the Name of Proportionality: Gaza as a World Order Problem, in Georgetown Journal of International Affairs, 2025.) In base ai report dell’UNICEF, già al 3 febbraio 2026 risultano almeno 21.289 i bambini palestinesi uccisi e 44.500 feriti dall’inizio della guerra.
Il tema, dunque, non è soltanto quello di una catastrofe umanitaria alla quale la comunità internazionale non riesce ancora a porre fine, ma anche quello di una radicale trasformazione dei mezzi della guerra: il giudizio umano viene delegato alla macchina, che attraverso dati e algoritmi ‘disumanizzati’ può trasformare una persona inerme in un bersaglio, un attacco ‘mirato’ nella distruzione di un ospedale o in una strage di civili. La domanda giuridica diventa allora inevitabile: chi risponde della decisione? una decisione letale può essere prodotta solo da una sequenza tecnologica? La risposta è già presente nel diritto internazionale umanitario. Il principio di distinzione obbliga a distinguere civili e combattenti; quello di proporzionalità vieta attacchi nei quali il danno civile sia eccessivo rispetto al “vantaggio militare concreto e diretto atteso”; il principio di precauzione impone di fare tutto ciò che è possibile per evitare perdite tra la popolazione civile. Già prima delle Convenzioni di Ginevra del 1949, la Dichiarazione di San Pietroburgo del 1868 aveva affermato l’idea che la ‘necessità militare’ non può giustificare sofferenze inutili e la Clausola Martens aveva aperto una porta essenziale: anche quando una nuova tecnologia non è ancora espressamente disciplinata da una norma, gli esseri umani rimangono tutelati dai principi di umanità e della ‘pubblica coscienza’.
Con il Tribunale di Norimberga del 1945, la civiltà giuridica aveva compiuto un altro passo decisivo: la guerra non cancella la responsabilità individuale. Hannah Arendt osservò la macchina burocratica dello sterminio nazista individuando la «banalità del male»: uomini ordinari possono partecipare a un male immenso rinunciando a interrogarsi sul significato delle proprie azioni. Oggi si ripete quella storia, in un’altra trasformazione: una catena tecnologica nella quale ciascuno dispone soltanto di un frammento dell’informazione e nessuno sembra più responsabile dell’intero risultato. Il male burocratico del Novecento può diventare, nel XXI secolo, l’algoritmo che delega alla macchina, e allontana ogni responsabilità dalla coscienza. È contro questa deriva che risuonano anche le parole di Leone XIV che nella Magnifica Humanitas ha richiamato: «Il giudizio morale non è riducibile a un calcolo: esso implica coscienza, responsabilità personale e riconoscimento dell’altro come persona».
A New York in questi giorni si sta svolgendo l’81ª Assemblea generale delle Nazioni Unite e un capitolo sarà dedicato al Global Dialogue on AI Governance, uno spazio già aperto al confronto internazionale sulla responsabilità, sulla trasparenza e sulla governance dell’intelligenza artificiale. Ora occorre un passo ulteriore: promuovere una Conferenza internazionale per il diritto internazionale umanitario nell’era dell’intelligenza artificiale, capace di tradurre regole condivise in fatti concreti. Alla Conferenza vanno definiti organismi sovranazionali di vigilanza, imposte normative nazionali vincolanti per la verifica preventiva dei sistemi, la tracciabilità delle decisioni, la responsabilità dei comandanti e degli Stati, e, soprattutto, un controllo umano che sia realmente capace di comprendere, contestare e fermare una decisione letale. Ecco perché bisogna fermare gli algoritmi disumani. Non per fermare l’intelligenza artificiale, ma per impedire che avanzi nel male, diventando un’arma senza responsabilità, o peggio, anche l’ultimo alibi per la nostra coscienza.
*Maurizio Delli Santi è Membro dell’International Law Association
