Etica e regole dell'AI: chi risponde? · base

Esistono armi in cui l'AI decide chi uccidere?

L'AI nelle guerre di oggi: cosa si sa di Gaza, Ucraina, Libia e Iran, quanto è solida ogni notizia, chi risponde e a che punto sono i colloqui ONU sulle regole.

Il Palais des Nations di Ginevra in fondo a due file di bandiere nazionali, con la scritta Nations Unies sull'ingresso

Foto: Groov3 / Wikimedia Commons

Dopo aver letto questo articolo saprai:

  • Distinguere l'AI che suggerisce bersagli, le armi che una persona può fermare e le armi che attaccano da sole
  • Valutare quanto sono solide le notizie da Gaza, Ucraina, Libia e Iran, e che cosa risponde ogni parte accusata
  • Spiegare chi è responsabile secondo le leggi di guerra e a che punto sono i colloqui ONU su nuove regole

Scritto con AI dalle fonti primarie · verificato da un agente AI separato · controllato a campione dalla redazione · Come verifichiamo

In questa pagina
  1. Che cosa ha fatto l’AI nelle guerre di oggi?
  2. Perché è un problema etico?
  3. Chi risponde secondo la legge?
  4. A che punto sono le regole?
  5. Cosa dicono l’ONU, la Croce Rossa, il Papa e le aziende dell’AI?
  6. Come leggere la prossima notizia su un’arma con l’AI?
  7. Dove si ferma questa risposta?
  8. Per continuare
  9. Domande frequenti

Al 21 novembre 2026 non è documentato nessun caso in cui un’arma abbia scelto una persona e l’abbia attaccata senza alcuna decisione umana. Alcune notizie, dalla Libia e sui droni russi in Ucraina, ci vanno vicino, ma nessuna è confermata. Nelle guerre di oggi l’AI propone già i bersagli, alcuni droni completano l’attacco da soli dopo che una persona li ha lanciati, e il controllo umano può ridursi a una formalità. Il 25 agosto 2026 Laurent Gisel, del Comitato internazionale della Croce Rossa (CICR), con sede a Ginevra, ha detto che “non c’erano prove confermate che armi completamente autonome fossero state usate per prendere di mira esseri umani, ma quella era la traiettoria osservata” (resoconto dell’ONU, traduzione nostra). In altre parole, le cose vanno in quella direzione.

Per capire i singoli casi servono tre espressioni molto usate, definite in Losing Humanity, un rapporto del 2012 dell’organizzazione per i diritti umani Human Rights Watch e della facoltà di legge dell’università di Harvard, che chiedeva di vietare queste armi. Il “loop” (il ciclo) è la catena di passaggi che va dall’individuare un bersaglio al colpirlo.

  • Human in the loop (una persona dentro il ciclo). La macchina può individuare un bersaglio ma attacca solo quando una persona glielo ordina: l’AI propone, una persona approva.
  • Human on the loop (una persona sopra il ciclo). La macchina seleziona e attacca da sola, mentre una persona osserva e può fermarla.
  • Human out of the loop (una persona fuori dal ciclo). Una volta avviata, la macchina seleziona e attacca senza che nessuna persona intervenga.

Per il CICR le armi autonome “selezionano i bersagli e usano la forza contro di essi senza intervento umano” (posizione). Nei casi descritti più sotto che riguardano armi vere e proprie (Ucraina, Russia, Libia), una persona lancia comunque l’arma e fissa una zona, un percorso o un tipo di bersaglio; quello che può mancare è una decisione umana sul bersaglio esatto e sul momento. A Gaza e in Iran un software propone i bersagli e sono persone a eseguire gli attacchi.

Ogni caso ha un’etichetta: confermato (un documento ufficiale, oppure due inchieste indipendenti con fonti diverse), riportato (una sola inchiesta o fonti anonime) o contestato (le fonti si contraddicono). Quando si è trovata una risposta della parte accusata, la pagina la riporta; per ogni bilancio dei morti si dice chi li ha contati, e la pagina non giudica chi ha ragione in nessuna guerra. Le citazioni da testi in inglese sono tradotte da noi e i link portano agli originali; dove esiste una versione italiana ufficiale (l’enciclica e il discorso del Papa, l’AI Act e, per il Protocollo I, la traduzione pubblicata dalla Confederazione svizzera, dove l’italiano è lingua ufficiale, con le stesse parole del testo allegato alla legge italiana di ratifica) la citazione viene da lì.

Questo sito è scritto con strumenti di intelligenza artificiale, tra cui Claude di Anthropic, e Claude fa parte di questa storia: due giornali hanno riportato che è stato usato con un software militare statunitense per la scelta dei bersagli negli attacchi del 2026 contro l’Iran, e Anthropic è in causa con il Pentagono (il Dipartimento della Difesa degli Stati Uniti) sull’uso militare della sua AI. Questa pagina applica ad Anthropic, Google e OpenAI lo stesso metro e usa solo fonti pubblicate, con i link nel testo.

Che cosa ha fatto l’AI nelle guerre di oggi?

CasoChe cosa ha fatto la macchina, secondo le fontiChi ha decisoQuanto è solido
Gaza, dal 2023Suggerisce bersagli agli analistiApprovano le persone, dice l’esercito; quanto controllino davvero è contestatoUso confermato; dettagli contestati
Ucraina, dal 2024Guida i droni nell’ultimo trattoUna persona, dice il governoConfermato come posizione ufficiale; eccezioni riportate
Zaporizhzhia, luglio 2026Un drone russo doveva scegliere il bersaglio finale; si è schiantato e ha ucciso tre persone (New York Times)Nessuno nell’ultima fase, dicono gli investigatori ucrainiRiportato
Libia, 2020Droni che un gruppo di esperti ONU ha definito “autonomi”Non è chiaro; il produttore dice una personaContestato
Iran, 2026Un software proponeva i bersagliPersone, dice il PentagonoUso confermato; ruolo nell’attacco a una scuola contestato

Gaza

I casi di questa parte vengono dalla guerra a Gaza seguita all’attacco contro Israele compiuto il 7 ottobre 2023 da Hamas e da altri gruppi armati palestinesi (UN News, il servizio di notizie dell’ONU).

Confermato: l’esercito israeliano usa strumenti di AI che suggeriscono bersagli. Il 2 novembre 2023 ha detto che la sua direzione dell’intelligence usava l’intelligenza artificiale e strumenti automatici per “produrre bersagli affidabili in modo rapido e preciso” (Times of Israel). A giugno 2024 ha detto che un sistema, Habsora (“Il Vangelo”), è in uso dal 2021 e “suggerisce all’analista dell’intelligence” che cosa approfondire (dichiarazione dell’esercito israeliano, copia d’archivio).

Riportato: ad aprile 2024 sei ufficiali dell’intelligence israeliana, rimasti anonimi, hanno parlato con +972 Magazine e Local Call, una rivista israelo-palestinese e la sua testata gemella in lingua ebraica; attraverso le due testate, le loro testimonianze sono arrivate anche al quotidiano britannico The Guardian. Quattro di loro hanno detto che un sistema chiamato Lavender aveva segnalato “fino a 37.000” palestinesi come sospetti miliziani; +972 riporta errori “in circa il 10 per cento dei casi”. Le fonti hanno raccontato che uno strumento chiamato “Where’s Daddy?” (“Dov’è papà?”) avvisava gli ufficiali quando una persona segnalata era in casa, perché la casa potesse essere colpita. Un ufficiale ha detto di aver dedicato circa 20 secondi a ogni bersaglio. Human Rights Watch ha confermato che l’esercito usa uno strumento che segue le persone in questo modo, ma non ha potuto confermare altri dettagli tecnici.

La risposta dell’esercito: le Forze di difesa israeliane (IDF), cioè l’esercito israeliano, hanno detto al Guardian di “non usare un sistema di intelligenza artificiale che identifica membri di organizzazioni terroristiche o cerca di prevedere se una persona è un terrorista”. Hanno definito il sistema un database, “non un elenco di combattenti confermati che si possono attaccare”. La dichiarazione di giugno 2024 definisce Lavender “un database di uso generale” e dice che gli attacchi li approvano i comandanti, “non gli analisti dell’intelligence, e di certo non strumenti tecnologici”. A +972 l’esercito ha detto che “ogni bersaglio viene esaminato singolarmente”, e nel 2025 ha detto all’agenzia di stampa statunitense AP che gli analisti, insieme ad alti ufficiali, esaminano in modo indipendente i bersagli che l’AI aiuta a individuare.

Contestato: che cosa fa Lavender, e quanto fosse reale il controllo umano. Nessuna fonte dice che a Gaza una macchina abbia sparato da sola.

Ucraina e Russia

Confermato, come posizione ufficiale: l’AI guida i droni, soprattutto nell’ultimo tratto. Nei sistemi ucraini descritti dall’agenzia di stampa Reuters, un pilota sceglie un bersaglio nell’immagine della telecamera e il software completa l’avvicinamento. Il 18 agosto 2026 il ministero della Difesa ucraino ha detto che più di 70 sistemi basati sull’AI e sulla visione artificiale (computer vision), cioè software che riconoscono le cose nelle immagini delle telecamere, svolgono compiti che arrivano fino all‘“ingaggio autonomo del bersaglio”, cioè a colpire senza che una persona guidi. Ha aggiunto però che “la decisione finale sulla scelta del bersaglio e sull’ingaggio viene presa da un operatore umano”.

Riportato: le eccezioni. Mykhailo Fedorov, che era stato ministro della Difesa fino a poco prima, ha detto al New York Times a fine luglio 2026 che l’Ucraina stava provando in Crimea sistemi di AI che scelgono da soli i bersagli; Meduza, un sito di notizie indipendente in lingua russa, riassumendo il New York Times aggiunge che non sono stati riportati morti causati da quegli attacchi (Meduza). Sul fronte russo, l’intelligence militare ucraina dice che il drone V2U può “cercare e selezionare bersagli in modo autonomo”, e un rapporto del CSIS, un centro studi di Washington, basato su analisi ucraine, conclude che la Russia “ha probabilmente schierato in combattimento un sistema senza equipaggio completamente autonomo”.

Riportato: il drone di Zaporizhzhia. Secondo il New York Times del 24 agosto 2026 (ripubblicato), il 6 luglio un drone russo Molniya ha colpito Zaporizhzhia. A bordo aveva un Nvidia Jetson Orin, un piccolo computer che fa girare l’AI direttamente sul drone. I suoi operatori lo avevano programmato per volare verso una stazione di servizio, dove doveva scegliere da solo il bersaglio esatto, molto probabilmente i serbatoi di propano, secondo esperti e funzionari militari sentiti dal New York Times. “Mentre cercava di dirigersi verso una stazione di servizio, si è schiantato contro un muro ed è esploso.” L’esplosione ha ucciso uno studente di 19 anni e altre due persone. Il racconto del New York Times non dice in nessun punto che il drone abbia scelto quelle tre persone.

Le prove vengono dagli investigatori ucraini: i droni non avevano antenne per comunicare con un operatore e non emettevano segnali radio, e il programma a bordo mostrava che cosa erano stati addestrati ad attaccare. Nvidia dice di non vendere il modulo in Russia e aggiunge che si trova facilmente presso i rivenditori. Al 21 novembre 2026 non è stato trovato nessun commento ufficiale russo su queste affermazioni.

Libia, 2020

Contestato. Un gruppo di esperti dell’ONU sulla Libia scrive che le forze in ritirata furono “braccate e colpite a distanza” da droni o da “sistemi d’arma autonomi letali come l’STM Kargu-2” (un drone d’attacco di fabbricazione turca), “programmati per attaccare bersagli senza bisogno di una connessione dati tra l’operatore e la munizione”, cioè senza un collegamento radio con la persona che li controlla (traduzione nostra). Il rapporto cita una fonte confidenziale, non dice se un determinato attacco sia stato compiuto dai droni o dalle armi autonome, e non dice che qualcuno sia stato ucciso da queste armi. Ismail Demir, che allora guidava l’agenzia del governo turco per l’industria della difesa, ha smentito: “Anche la navigazione verso il bersaglio avviene sotto controllo umano.” La pagina del prodotto del produttore dice che l’attacco “è eseguito interamente dall’operatore”.

Stati Uniti e Iran, 2026

Confermato: a maggio 2026 il responsabile del Pentagono per il digitale e l’AI ha detto che l’operazione Epic Fury, la campagna aerea statunitense contro l’Iran, ha usato il Maven Smart System dell’azienda statunitense Palantir, un software che mette insieme i dati militari e aiuta a scegliere i bersagli, “per condurre missioni di attacco su tutto il campo di battaglia, 13.000 bersagli in 38 giorni”. Ha aggiunto che “c’è sempre una persona che analizza la situazione”.

Riportato da due giornali: Claude è stato usato con Maven. Il 4 marzo 2026 il Washington Post ha scritto, citando due persone, che “Maven, che funziona con Claude, ha suggerito centinaia di bersagli” e li ha messi in ordine di priorità (ripubblicato da Stars and Stripes, il giornale che segue le forze armate statunitensi); Anthropic e Palantir non hanno voluto commentare. L’11 marzo il New York Times ha scritto che Claude “non crea direttamente i bersagli” ma lavora con Maven e con altri software per “individuare punti di interesse” (ripubblicato). Contestato: quanto direttamente Claude abbia inciso sulla scelta dei bersagli. A giugno 2026 l’amministratore delegato di Anthropic, Dario Amodei, interpellato dall’agenzia di informazione economica Bloomberg sull’attacco alla scuola di Minab, di cui si parla più sotto, ha detto che “non sappiamo esattamente come sono stati usati questi modelli” e che quell’uso non violava le regole dell’azienda (Bloomberg).

Contestato: la scuola di Minab. Il 28 febbraio 2026 è stata colpita una scuola elementare a Minab, in Iran. Secondo funzionari iraniani i morti erano “almeno 175 persone, per la maggior parte bambini”, ha riportato il New York Times; in seguito una missione d’inchiesta dell’ONU ha citato “informazioni indipendenti credibili” su 157 morti, 123 dei quali bambini (Stars and Stripes, traduzione nostra). Un’indagine preliminare militare statunitense, riportata dal New York Times a marzo, ha attribuito la responsabilità agli Stati Uniti e ha indicato come cause dati di intelligence non aggiornati e, secondo i funzionari, un probabile errore umano, più che la nuova tecnologia.

A settembre Bloomberg ha citato funzionari coinvolti in una revisione del Pentagono non pubblicata: Maven aveva indicato la scuola, ancora registrata nei database statunitensi come sito militare, come bersaglio consigliato per il primo giorno di attacchi, e alcuni addetti si erano fidati troppo del software. Secondo questi funzionari era una delle tre mancanze, insieme a informazioni di intelligence sbagliate e a immagini satellitari non aggiornate; il servizio di Bloomberg indica anche la pressione dei tempi e i tagli alle squadre che controllano i danni ai civili (tramite Gizmodo). Palantir dice di “non essere responsabile dei dati di partenza né dell’individuazione delle carenze dell’intelligence” e che non ci sono prove di un errore del suo software. Un alto funzionario dell’amministrazione statunitense ha detto a Bloomberg: “Gli Stati Uniti non prendono di mira i civili.” Al 21 novembre 2026 la revisione non era ancora stata pubblicata, e il CENTCOM, il comando militare statunitense per il Medio Oriente, non aveva risposto alle domande sullo stato della revisione (Stars and Stripes, 19 novembre).

Il 17 settembre la missione dell’ONU ha detto di avere “fondati motivi di ritenere” che le forze statunitensi fossero responsabili e che l’attacco fosse un attacco indiscriminato, cioè che colpisce senza distinguere tra obiettivi militari e civili, e un crimine di guerra; ha indicato il mancato aggiornamento delle informazioni sulla scuola nei database statunitensi per la scelta dei bersagli (Reuters, tramite Internazionale, traduzione nostra). Lo stesso rapporto ha concluso che le autorità iraniane hanno commesso crimini contro l’umanità nella repressione delle proteste antigovernative iniziate a fine dicembre 2025, un fatto che non riguarda l’AI; l’Iran ha sempre respinto le accuse di violazioni sistematiche dei diritti umani, ricorda Reuters. Secondo Stars and Stripes, la missione è arrivata alle sue conclusioni senza risposte dal governo statunitense. Il Pentagono non ha commentato il rapporto e si è limitato a dire: “La nostra indagine è ancora in corso”; la Casa Bianca ha detto che l’Iran è l’unica parte del conflitto ad aver commesso crimini di guerra. Ad aprile, prima del rapporto, un gruppo di ex alti consulenti legali delle forze armate statunitensi aveva scritto che era “prematuro e speculativo” definire l’attacco una violazione delle leggi di guerra o un crimine di guerra, ricorda Stars and Stripes. Nessuna versione dice che l’attacco sia partito senza una decisione umana.

Perché è un problema etico?

La dignità umana. Christof Heyns, esperto indipendente nominato dall’ONU, ha scritto nel 2013 che “le macchine non hanno né moralità né mortalità, e per questo non dovrebbero avere potere di vita e di morte sugli esseri umani” (rapporto, traduzione nostra).

Fidarsi troppo della macchina. La Croce Rossa (CICR) mette in guardia dall’automation bias, la tendenza a fidarsi troppo dell’automazione: “la propensione a fare affidamento sui risultati della macchina anche quando altre informazioni disponibili potrebbero metterli in discussione”. Secondo il CICR, questo può ridurre una persona a “un timbro umano”, cioè a qualcuno che approva senza controllare davvero (documento del 2025). Nel 2003, in Iraq, le difese aeree Patriot statunitensi abbatterono per errore due aerei della coalizione guidata dagli Stati Uniti: morirono tre membri degli equipaggi. Un comitato consultivo del Pentagono indicò diverse carenze, come un sistema di identificazione amico-nemico inadeguato, e concluse che gli operatori erano “addestrati a fidarsi del software del sistema”.

Gli esperimenti con persone comuni mostrano questa tendenza. In uno studio peer-reviewed del 2024, cioè controllato da altri ricercatori prima della pubblicazione, i partecipanti facevano un gioco di memoria che simulava attacchi con droni e dovevano decidere se colpire o no. Quando un robot non era d’accordo con loro, hanno cambiato scelta nel 62% dei casi (135 studenti) e nel 67% (423 adulti statunitensi che partecipavano via internet); in realtà il robot rispondeva a caso. Gli autori scrivono che il compito “non ha alcuna somiglianza con le reali procedure militari di individuazione delle minacce”, e la decisione non aveva limiti di tempo. In un altro studio peer-reviewed, circa 9.000 adulti di nove Paesi avevano 7 o 10 secondi per riconoscere degli aerei: dopo un suggerimento, circa una risposta su quattro è cambiata. I ricercatori decidevano a caso se il suggerimento venisse da un’AI o da un analista umano, e se fosse giusto o sbagliato.

I primi studi con militari vanno nella direzione opposta. Uno studio peer-reviewed pubblicato a luglio 2026, letto qui solo nel riassunto, ha messo 2.015 militari israeliani davanti a una copia simulata di un sistema di AI di supporto alla scelta dei bersagli e ha trovato “forti prove di avversione algoritmica”, cioè di sfiducia verso la macchina, soprattutto quando ci si aspettavano molti danni ai civili. In un preprint, cioè uno studio diffuso prima della revisione e non ancora peer-reviewed, 236 cadetti dell’accademia militare statunitense di West Point si sono fidati dei consigli dell’AI in modo più equilibrato rispetto alle persone comuni. Nessuno di questi studi ha osservato operazioni reali.

La velocità, e guerre più facili da cominciare. Un rapporto del 2025 del SIPRI, un istituto di Stoccolma che studia armi e conflitti, definisce la velocità “un fattore strategico chiave” e “una fonte di rischio chiave”, e avverte che gli operatori rischiano di diventare “approvatori passivi”. Heyns avvertiva che queste armi possono “abbassare per gli Stati la soglia per entrare in guerra o comunque usare la forza letale” (traduzione nostra). Il politologo Michael Horowitz, che fino al 2024 ha lavorato al Pentagono sulla politica statunitense per le armi autonome, osserva, in un saggio del 2016, che “l’artiglieria a tiro indiretto e l’aviazione con equipaggio” (cannoni che sparano a bersagli fuori dalla vista e aerei con piloti a bordo) suscitarono a suo tempo timori simili. Nello stesso saggio giudica improbabile che le armi autonome pongano problemi nuovi sulla decisione di entrare in guerra, salvo il rischio che la rendano troppo facile.

Chi risponde secondo la legge?

Le persone e gli Stati, mai la macchina. Le leggi di guerra, nelle Convenzioni di Ginevra e nel loro Protocollo aggiuntivo I del 1977 (testo italiano), un trattato che le completa, stabiliscono che:

  1. gli attacchi devono distinguere i civili dai combattenti (articolo 48);
  2. un attacco è vietato se i danni attesi per i civili sono eccessivi rispetto al vantaggio militare atteso (articolo 51);
  3. “coloro che preparano o decidono un attacco” devono “fare tutto ciò che è praticamente possibile per accertare” che il bersaglio sia un obiettivo militare (articolo 57);
  4. gli Stati che hanno aderito al Protocollo devono controllare che ogni nuova arma rispetti il diritto internazionale (articolo 36).

Nel 2019 gli Stati della Convenzione su certe armi convenzionali (CCW, dalla sigla inglese), un trattato che limita già armi come le mine terrestri e i laser accecanti, hanno concordato: “La responsabilità umana per le decisioni sull’uso dei sistemi d’arma deve essere mantenuta, poiché l’obbligo di rendere conto non può essere trasferito alle macchine” (principi guida, traduzione nostra). Il rapporto 2026 dei loro esperti lo ripete: “il diritto internazionale umanitario impone obblighi agli Stati, alle parti dei conflitti armati e alle persone, non alle macchine” (traduzione nostra; il diritto internazionale umanitario è l’insieme delle leggi di guerra).

Il disaccordo riguarda i danni che nessuno ha voluto e nessuno poteva prevedere. Heyns avvertiva che “si creerà un vuoto di responsabilità” (traduzione nostra). Human Rights Watch, che si batte per un divieto, scriveva nel 2012 che non c’è “nessun modo giusto ed efficace per attribuire la responsabilità giuridica”. Nel 2013 due giuristi dello US Naval War College, la scuola di guerra della Marina statunitense, hanno definito questa tesi “una premessa falsa”: sono persone a decidere come programmare l’arma e quando lanciarla, e un comandante ne risponde se sapeva, o avrebbe dovuto sapere, che era programmata per commettere crimini di guerra e non ha fatto nulla. Human Rights Watch ha risposto nel 2015 che i comandanti probabilmente sfuggirebbero comunque alla giustizia nel caso più comune, quello in cui non potevano prevedere né fermare un attacco illegale.

A che punto sono le regole?

A Ginevra. Il gruppo di esperti governativi della CCW ha adottato per consenso il suo rapporto finale il 4 settembre 2026, con la partecipazione di oltre 100 Stati; consenso vuol dire che nessuno Stato presente si è opposto. Non è un trattato ma “un insieme di elementi di uno strumento, senza pregiudicarne la natura”: un elenco di punti per regole future, senza decidere ancora se saranno vincolanti. Descrive i sistemi d’arma autonomi letali come capaci di identificare, selezionare e ingaggiare un bersaglio “senza l’intervento di un essere umano che aziona il sistema”, e dice che “sono necessari controllo e giudizio umano riguardo ai sistemi d’arma autonomi letali” (traduzione nostra). Gli attivisti e alcuni Stati chiedono un “meaningful human control”, cioè un controllo umano reale e non di facciata, un’espressione coniata nel 2013 dall’organizzazione britannica Article 36 (lo spiega l’UNIDIR, l’istituto dell’ONU per la ricerca sul disarmo). Il testo finale non vieta in modo esplicito le armi progettate per attaccare persone; il divieto delle armi i cui effetti “non possono essere previsti e limitati”, presente nella bozza del 3 settembre, è stato tolto.

A New York. L’Assemblea generale dell’ONU vota ogni anno dal 2023:

VotoSìNoAstenutiHanno votato no
Risoluzione, dicembre 2023152411Bielorussia, India, Mali, Russia
Risoluzione, dicembre 2024166315Bielorussia, Corea del Nord, Russia
Risoluzione, dicembre 202516467Bielorussia, Burundi, Israele, Corea del Nord, Russia, Stati Uniti
Bozza, commissione per il disarmo, 29 ottobre 202616359Bielorussia, Israele, Corea del Nord, Russia, Stati Uniti

La bozza del 2026 invita gli Stati della CCW “a passare a negoziati su uno strumento” (traduzione nostra), cioè un insieme di regole, vincolanti o no. Il Segretario generale aveva chiesto entro il 2026 un trattato vincolante che vietasse le armi che funzionano senza controllo o supervisione umana e non possono rispettare le leggi di guerra (rapporto). Al 21 novembre 2026 questo trattato non c’è, e a Ginevra, secondo le agenzie di stampa, gli Stati hanno scelto di “elaborare” regole invece di “negoziarle” (vedi più sotto).

Stati Uniti. La direttiva 3000.09, la regola del Pentagono sull’autonomia nelle armi, aggiornata l’ultima volta a gennaio 2023, chiede armi che permettano a comandanti e operatori di “esercitare livelli appropriati di giudizio umano sull’uso della forza”; il Congressional Research Service, il servizio studi del Congresso, osserva che “la politica statunitense non vieta lo sviluppo né l’impiego di armi autonome letali”. Un memorandum presidenziale del 5 giugno 2026 ha ordinato di aggiornarla entro 90 giorni e di rivederla ogni anno. Il termine è scaduto, e al 21 novembre 2026 nessuna nuova versione era stata resa pubblica (DroneXL, 16 novembre).

Unione europea. L’AI Act, la legge europea sull’intelligenza artificiale, non si applica all’AI usata “esclusivamente per scopi militari, di difesa o di sicurezza nazionale” (articolo 2, paragrafo 3).

Italia. Nel 2024 l’Italia ha chiesto un nuovo protocollo della CCW che vieti le armi “che operano completamente al di fuori del controllo umano e di una catena di comando responsabile” (traduzione nostra). Perché un’arma sia regolata invece che vietata, secondo l’Italia una persona deve mantenere almeno “la funzione cruciale finale, cioè la decisione se applicare o no la forza a un bersaglio già identificato e selezionato” (traduzione nostra). A settembre 2026 l’Italia ha accolto con favore il rapporto adottato per consenso, senza dire quale passo successivo preferisce. Alla conferenza di novembre la sua delegazione ha chiesto “un mandato forte per un nuovo protocollo” (traduzione nostra); al 21 novembre 2026 non è stato trovato nessun commento italiano sull’esito.

Che cosa ha deciso la conferenza di Ginevra?

La settima Conferenza di riesame della CCW, la riunione che si tiene ogni cinque anni e in cui i membri del trattato decidono il lavoro futuro, si è chiusa nelle prime ore del 21 novembre 2026. Le proposte sul tavolo andavano in due direzioni. Secondo la prima, gli esperti avrebbero dovuto “negoziare un nuovo Protocollo” (traduzione nostra), cioè un’aggiunta al trattato (proposta). Gli Stati Uniti proponevano invece di scrivere “la versione 1.0 dello strumento non vincolante entro il 2029” (traduzione nostra), cioè regole che i Paesi seguirebbero su base volontaria. Le decisioni richiedono il consenso, quindi un solo Stato può bloccarle.

Secondo le agenzie di stampa AFP e AP, gli Stati hanno deciso di “elaborare” uno strumento su queste armi, cioè di mettere a punto un insieme di regole, e non di “negoziarlo”. Il presidente della conferenza, l’ambasciatore svizzero Julien Thöni, ha detto in seguito, come riporta AFP, che alcuni Paesi si erano opposti alla parola “negoziare” e che il lavoro andrà fatto “nei prossimi due anni” (traduzione nostra); AP indica come traguardo il 2028. Se le regole saranno vincolanti non è deciso: AP scrive che gli Stati “non hanno preso impegni su regole vincolanti” (traduzione nostra). Al 21 novembre 2026 il testo ufficiale non era stato pubblicato: l’ultima bozza ufficiale, del 20 novembre, lascia in bianco la decisione sulle armi autonome.

Cosa dicono l’ONU, la Croce Rossa, il Papa e le aziende dell’AI?

Il Segretario generale dell’ONU definisce le macchine che possono togliere la vita senza controllo umano “politicamente inaccettabili, moralmente ripugnanti” (maggio 2025, traduzione nostra). Ad agosto 2026, insieme alla presidente del CICR, ha avvertito che il mondo è “pericolosamente vicino a oltrepassare una linea rossa morale: la scelta autonoma di esseri umani come bersaglio da parte delle macchine” (traduzione nostra).

Il CICR vuole regole vincolanti che vietino le armi autonome imprevedibili e il loro uso contro le persone, e che fissino limiti per tutte le altre (posizione); prima della conferenza ha chiesto agli Stati di “avviare negoziati su un nuovo Protocollo” (giugno 2026, traduzione nostra). Al 21 novembre 2026 non è stato trovato nessun commento del CICR sull’esito.

Papa Leone XIV, nell’enciclica Magnifica Humanitas (maggio 2026, paragrafo 198), una lettera a tutta la Chiesa, ha scritto che “non è lecito affidare a sistemi artificiali decisioni letali o comunque irreversibili”. Il 30 ottobre 2026, prima della conferenza, ha detto: “incoraggio gli Stati che a novembre si incontreranno a Ginevra a compiere passi concreti verso il bando delle armi letali autonome”.

Attivisti e Stati. La campagna Stop Killer Robots definisce un trattato vincolante “l’unico passo successivo accettabile”; dopo la conferenza ha detto, come riporta AFP, che “gli Stati hanno adottato un mandato annacquato, che non traccia una strada chiara verso uno strumento giuridicamente vincolante” (traduzione nostra). Gli Stati Uniti sostengono che l’autonomia, usata bene, può “ridurre i rischi per i civili” (traduzione nostra). Nelle opinioni inviate all’ONU nel 2024 (rapporto), Israele dice che queste armi “possono rispondere sia alle necessità militari sia alle esigenze umanitarie”, e la Russia non vede “nessun motivo convincente per imporre nuove limitazioni” (traduzione nostra).

Le aziende dell’AI, regole in vigore il 21 novembre 2026:

  • Le regole d’uso (usage policy) di Anthropic, in vigore dal 12 novembre 2026, vietano di usare la sua AI per sviluppare o far funzionare software per le armi, “compresi la scelta dei bersagli, il controllo del tiro o l’ingaggio”, e per montare armi su droni o altre “piattaforme senza equipaggio o autonome” (traduzione nostra); tra gli usi di sorveglianza vietati elencano la “gestione del campo di battaglia”. Ammettono contratti con alcuni clienti governativi che “adattano le restrizioni d’uso” alla loro missione, se Anthropic giudica adeguate le tutele previste. La versione precedente, in vigore dal 15 settembre 2025, vietava già di usare la sua AI per progettare armi.
  • Google ha eliminato a febbraio 2025 l’elenco degli usi dell’AI a cui si impegnava a rinunciare, tra cui le armi (PA Media/dpa, tramite The Star); i suoi principi ora promettono “un’adeguata supervisione umana”. Ad aprile 2026 ha accettato che il Pentagono usi la sua AI Gemini su reti riservate; un funzionario statunitense ha detto a NBC News che l’accordo copre gli usi leciti, e Google ha detto che l’AI “non dovrebbe essere usata per la sorveglianza di massa all’interno del Paese o per armi autonome senza un’adeguata supervisione umana”.
  • Le regole d’uso (usage policies) di OpenAI, in vigore dal 20 novembre 2026, vietano “lo sviluppo, l’acquisto o l’uso di armi” e gli usi di sicurezza nazionale “senza la nostra revisione e approvazione”, che l’azienda può concedere a singoli partner caso per caso, mantenendo sempre “giudizio umano e responsabilità sulle decisioni ad alto rischio, compreso l’uso della forza” (traduzione nostra). I suoi principi per le collaborazioni sulla sicurezza nazionale dicono che gli usi legati alla scelta dei bersagli “non sono esclusi per principio” ma richiedono un “controllo più severo”, e che OpenAI non sostiene sistemi che “identificano, selezionano e ingaggiano bersagli in modo autonomo senza livelli adeguati di autorizzazione umana” (traduzione nostra). A gennaio 2024 aveva tolto il divieto di usi “militari e di guerra” (The Intercept). Il suo accordo del 2026 con il Department of War (Dipartimento della Guerra), un nome che da settembre 2025 il governo statunitense usa anche per il Pentagono (ordine esecutivo), permette l’uso “per tutti gli scopi leciti”, ma dice che la sua AI “non sarà usata per dirigere in modo indipendente armi autonome” quando “la legge, un regolamento o la politica del Dipartimento richiedono il controllo umano”. A febbraio 2025 un’inchiesta di AP ha rilevato che dopo il 7 ottobre 2023 l’esercito israeliano aveva usato molto di più l’AI di Microsoft e di OpenAI; i modelli di OpenAI li comprava tramite il cloud di Microsoft, cioè i servizi informatici che Microsoft offre via internet. OpenAI ha detto di non avere una partnership con l’esercito israeliano, e Microsoft non ha voluto commentare.

Anthropic e il Pentagono. A febbraio 2026 Anthropic ha rifiutato due usi nel suo contratto con il Pentagono: la sorveglianza di massa negli Stati Uniti e le armi completamente autonome, quelle che “tolgono del tutto gli esseri umani dal ciclo”. Ha detto che l’AI di oggi “non è abbastanza affidabile” per le armi completamente autonome, ma ha definito le armi parzialmente autonome “vitali per la difesa della democrazia” e ha aggiunto che quelle completamente autonome “potrebbero rivelarsi cruciali per la nostra difesa nazionale”. Secondo AP, il principale portavoce del Pentagono ha scritto sui social che l’esercito non ha alcun interesse alla sorveglianza di massa degli americani né ad armi autonome “che operano senza coinvolgimento umano”, ma voleva usare l’AI di Anthropic “per tutti gli scopi leciti”. Il Pentagono ha dichiarato Anthropic un rischio per la catena di fornitura (supply chain risk), una qualifica data di solito alle aziende sospettate di lavorare per governi ostili, che gli permette di vietare a personale e fornitori di usare i prodotti dell’azienda nel lavoro per la difesa. Il Pentagono si è basato su due leggi. Ad agosto 2026 un tribunale federale in California ha dato ragione ad Anthropic e ha annullato la designazione fondata su una delle due; il 25 settembre la corte d’appello di Washington l’ha invece confermata in base all’altra, con due voti contro uno (Nextgov; Congressional Research Service). A ottobre Anthropic ha chiesto che la causa sia riesaminata dalla corte d’appello al completo (MLex); il 18 novembre il governo ha chiesto alla corte di respingere la richiesta, ha riportato Law360. A fine ottobre è stato aperto un appello nella causa in California (atti del tribunale). Al 21 novembre 2026 non è stata trovata nessuna decisione sul riesame.

Come leggere la prossima notizia su un’arma con l’AI?

Quando leggi una notizia così, chiediti:

  1. Che cosa ha fatto la macchina: ha suggerito un bersaglio, ha guidato l’ultimo tratto, o ha scelto e attaccato da sola?
  2. Chi lo dice: un documento ufficiale, due inchieste indipendenti, o una sola fonte senza nome?
  3. La parte accusata ha risposto, e che cosa ha detto?
  4. Chi ha contato i morti, e qualcun altro conferma il numero?

Dove si ferma questa risposta?

  • Nessun accesso indipendente. Nessun investigatore indipendente ha esaminato come funzionano Lavender, Maven o i droni russi; molto di quello che si sa viene da fonti anonime o da una sola delle parti in guerra.
  • Articoli per soli abbonati. Gli articoli del New York Times, del Washington Post e di Bloomberg sono stati letti in ripubblicazioni autorizzate, nelle prime righe gratuite o nei resoconti di altre testate, come indicato in ogni link.
  • Documenti non visti. La revisione del Pentagono su Minab non è pubblica; non è stato possibile aprire il rapporto completo della missione ONU sull’Iran; lo studio del 2026 con militari israeliani è stato letto solo nel riassunto.
  • La decisione di Ginevra si conosce solo dai resoconti di AFP e AP: al 21 novembre 2026 il testo ufficiale non era stato pubblicato, e le parole esatte potrebbero essere diverse.
  • Nessun verdetto. Questa pagina non stabilisce se un attacco sia stato legale o no.

Per continuare

Domande frequenti

Esistono i "robot killer"?

Non nel senso di una macchina che decide da sola di cercare e attaccare persone: al 21 novembre 2026 nessun caso del genere è documentato. Armi che attaccano oggetti da sole, entro limiti fissati da persone, esistevano già prima dell'AI di oggi, per esempio le difese aeree contro i missili e il drone israeliano Harpy, che cerca i radar e "opera in completa autonomia", secondo un rapporto del 2017 del SIPRI, un istituto di Stoccolma che studia armi e conflitti. La novità è l'AI che propone bersagli, e le notizie dall'Ucraina di droni che scelgono da soli il bersaglio finale. "Killer robots" (robot killer) è il nome usato dalla campagna Stop Killer Robots.

Le armi autonome sono illegali?

Nessun trattato le vieta in quanto tali. Le leggi di guerra valgono pienamente anche per loro: gli attacchi non devono essere diretti contro i civili né causare loro danni eccessivi, e gli Stati che hanno aderito al Protocollo aggiuntivo I, un trattato del 1977 che completa le Convenzioni di Ginevra, devono controllare che ogni nuova arma rispetti il diritto internazionale. A settembre 2026 gli Stati che partecipano ai colloqui di un trattato ONU sulle armi hanno approvato, senza che nessuno si opponesse, gli elementi di possibili nuove regole. In una conferenza a Ginevra finita nelle prime ore del 21 novembre 2026 hanno deciso, secondo le agenzie di stampa AFP e AP, di "elaborare" in circa due anni regole su queste armi, senza stabilire se saranno vincolanti. Quel giorno il testo ufficiale non era ancora stato pubblicato.

Che cos'è Lavender, il sistema di AI usato a Gaza?

Ad aprile 2024 sei ufficiali dell'intelligence israeliana, rimasti anonimi, hanno descritto Lavender alla rivista +972 Magazine e alla testata Local Call: secondo quattro di loro, questo sistema di AI ha segnalato fino a 37.000 palestinesi come sospetti miliziani, e +972 riporta errori in circa il 10% dei casi. L'esercito israeliano dice che Lavender è un database, cioè un archivio di dati, "non un elenco di combattenti confermati che si possono attaccare", e che gli attacchi li approvano i comandanti, non un software. Le due versioni non sono state verificate in modo indipendente.

È stata l'AI a scegliere la scuola colpita a Minab, in Iran?

È contestato. La scuola è stata colpita il 28 febbraio 2026: secondo funzionari iraniani i morti sono almeno 175, perlopiù bambini, e una missione d'inchiesta dell'ONU ha poi citato informazioni su 157 morti, di cui 123 bambini. Un'indagine preliminare militare statunitense, riportata a marzo dal New York Times, ha dato la colpa agli Stati Uniti, indicando come cause dati di intelligence non aggiornati e, secondo i funzionari, un probabile errore umano. A settembre Bloomberg, citando funzionari coinvolti in una revisione del Pentagono non pubblicata, ha riportato che il software Maven di Palantir aveva indicato la scuola come bersaglio consigliato e che, oltre a informazioni sbagliate e vecchie immagini satellitari, alcuni addetti si erano fidati troppo di Maven; Palantir dice di non essere responsabile dei dati. Nessuna versione dice che l'attacco sia partito senza una decisione umana.

Anthropic, Google e OpenAI lasciano usare la loro AI ai militari?

Sì, con limiti diversi. Anthropic esclude la sua AI dal software per le armi, anche per scegliere bersagli, ma ammette contratti su misura con alcuni governi; per due giornali Claude è stato usato con Maven, software per i bersagli, negli attacchi USA all'Iran del 2026. Ha rifiutato armi del tutto autonome e sorveglianza di massa negli USA; il Pentagono l'ha dichiarata un rischio per la catena di fornitura (causa in corso). Google nel 2025 ha tolto la promessa di non fare AI per armi e nel 2026 l'ha data al Pentagono su reti riservate: alle armi autonome, dice, serve supervisione umana adeguata. OpenAI vieta gli usi per le armi e ammette quelli di sicurezza nazionale solo caso per caso, se li approva; per AP nel 2025 l'esercito di Israele usava i suoi modelli via Microsoft; l'accordo 2026 col Pentagono vieta che l'AI guidi da sola armi autonome se le regole USA chiedono controllo umano.

Argomenti: Chi risponde?, armi autonome, etica dell'AI, diritto internazionale, Nazioni Unite

Diagramma