IA e guerra, van Rooijen (Stop Killer Robots): “È una realtà senza regole. Serve un trattato prima che accada una catastrofe”

“Dieci anni fa la nostra era una misura preventiva, un atto lungimirante da parte della società civile, che aveva capito che un giorno l’intelligenza artificiale sarebbe stata integrata nel settore militare. Adesso quel momento è arrivato, l’IA è già stata integrata nei dispositivi di molte forze armate ma il settore vive una deregulation totale, come nessun’altra forma d’arma”. Prima di diventare direttrice esecutiva della campagna internazionale Stop Killer Robots, l’anno scorso, Nicole van Rooijen ha lavorato per anni per la Croce rossa internazionale Ginevra, occupandosi dell’assistenza ai civili nei teatri di guerra, come l’Afghanistan. Giovedì van Rooijen è sbarcata a Roma, al Senato della Repubblica su iniziativa di Archivio Disarmo in collaborazione con Rete Italiana Pace e Disarmo, per fare il punto sulla campagna internazionale che, da dieci anni, cerca di raggiungere un consenso tra gli Stati per un trattato regolamentazione dell’uso delle armi autonome (o robot killer), ossia tutti quei dispositivi bellici che non richiedono il controllo umano per operare, dai cani robot con la mitragliatrice ai software che usano l’intelligenza artificiale per identificare i bersagli di raid aerei e missilistici. Strumenti che da qualche anno sono passati dalla fantascienza alla realtà più cruda, sui campi di battaglia più caldi come quello di Gaza, dell’Ucraina, del Sudan, passando il controllo dei confini e per tutte le repressioni del dissenso in giro per il mondo. “La nostra proposta si articola su tre punti. Proibire le armi autonome che agiscano in modo non prevedibile e senza un controllo umano significativo in ultima istanza. Proibire i sistemi d’arma autonomi creati per mettere nel mirino specificamente le persone. Imporre che qualunque tipo di arma autonoma preveda un controllo umano di ultima istanza già in fase di produzione. L’obiettivo è che la decisione di premere il grilletto sia sempre in capo alla decisione etica e legale di un essere umano”.

Com’è portare avanti una campagna contro le armi autonome in una fase come questa, in cui i conflitti non fanno che aumentare?
È molto difficile, non lo nascondo. Ma anche per questo la nostra campagna è cruciale. Molti Paesi, soprattutto occidentali, si stanno riarmando in modo massiccio, è diffusa la percezione che il multilateralismo sia sotto minaccia, come anche il diritto internazionale. Sostenere oggi una campagna globale contro le armi autonome è più impegnativo che dieci anni fa, quando abbiamo iniziato. Ma siamo convinti sia necessario, quindi rimaniamo ottimisti: è nei momenti di incertezza che il diritto internazionale è più utile, per tutelarci dalle aggressioni.

Il 2026 è l’anno in cui si capirà se , alla conferenza mondiale delle armi convenzionali (Ccw) fissa a Ginevra a novembre. Qual è lo stato dell’arte delle adesioni della campagna?
Hanno già aderito oltre 125 Paesi del mondo. Siamo felici di aver trovato un ampio ascolto nel Sud globale: abbiamo organizzato conferenze in Costa Rica, in Sierra Leone. Ma la situazione attuale, bisogna dirlo, è che tutti gli sforzi sono minati da una dozzina di attori internazionali che si oppongono a ogni tipo di regolamentazione.

E sono però le principali potenze globali e regionali…
Parliamo di Stati Uniti, Russia, Cina, Israele, India, le due Coree, la Bielorussia e la Polonia. Sono dodici in totale, finora si sono dimostrati indisponibili a parlare di ogni forma di regolamentazione. In questa fase ci stiamo concentrando per convincerli a modificare le loro posizioni. Siamo forti della stragrande maggioranza degli Stati del mondo che, invece, . Ma certo, al Ccw c’è il problema del veto, ma poi potremo anche portare la risoluzione all’Assemblea generale dell’Onu, dove si vota a maggioranza… La fase attuale ci mette davanti a grande sfide, che però si possono trasformare in opportunità. Voglio dire, la postura attuale degli Stati Uniti nel mondo sta creando molta insicurezza nei Paesi europei e della NATO, e questo può aiutare a spingerli a rimodellare e ridefinire il diritto internazionale, insieme ad altri Paesi emergenti. Il trattato sulle armi autonome è una buona occasione. In fondo la questione è molto semplice: possiamo darci un regolamento adesso, oppure possiamo aspettare che si verifichi una catastrofe di proporzioni enormi per correre ai ripari, come è successo con il nucleare o con altri tipi di armamenti in passato. La traiettoria è tracciata, non c’è un altro modo in cui può finire.

Negli ultimi due anni in cui abbiamo visto l’intelligenza artificiale dispiegata attivamente sui terreni bellici, per esempio a Gaza ma anche in Ucraina, gli attori statali e i produttori di armi hanno presentato queste innovazioni come un modo per diminuire gli errori, per massimizzare gli effetti riducendo il costo umano della guerra. Insomma, per renderla più “pulita”. Cosa pensa di questi argomenti?
Che sono gli stessi argomenti usati per tutti i tipi di armi precedenti. Ricordiamo il caso dei droni, il discorso sull’eliminare l’aspetto delle reazioni emotive perché i piloti sono a chilometri di distanza dal campo di battaglia. Avrebbero dovuto rendere i raid più razionali e precisi, mi sembra superfluo dire che non è stato così. Sono stata in Afghanistan, ho visto come sono stati utilizzati gli attacchi con i droni e tutti gli errori che hanno commesso, la grande sofferenza umana che hanno causato. E non si può neanche dire che quella guerra sia stata vinta.
Ora, è chiaro che le armi sono un business molto redditizio, e anche l’IA sta portando molti soldi a un gruppo molto ristretto di persone, e questo spiega il motivo per cui si sta accelerando tanto sulle armi autonome. La risposta alle domande di sicurezza, però, non può essere la tecnologia, ma il diritto internazionale. Il fatto è che il campo di battaglia è un ambiente altamente mutevole, e inserire tecnologie che non si comprendono appieno, che non si possono controllare appieno come l’intelligenza artificiale può portare a commettere molti errori e molti danni, visto che ha la capacità di distruggere esseri umani in massa. Inoltre, quando i governi parlano di riduzione delle vittime civili spesso si riferiscono ai propri soldati e ai propri civili, non considerano mai gli effetti sul nemico.

Che ruolo può avere l’Italia e quale l’Unione europea?
Penso che l’Italia svolga un ruolo importante anche all’interno delle discussioni di Ginevra nell’ambito della Ccw, ma più in generale come attore con un ruolo di primo piano nel garantire che si passi dalla proposta ai negoziati, insieme ad altri Stati europei come Francia, Germania.

L’Italia è anche un produttore di armamenti importante, con aziende come Leonardo…
È proprio ai Paesi produttori che dobbiamo chiedere di svolgere un ruolo di primo piano. Voglio dire, tutti guardano a loro, no? I Paesi senza industrie belliche significative possono aderire a un trattato, ma nessun regolamento sarà efficace se quelli che producono armi autonome sono assenti dal tavolo. Quindi sicuramente l’Italia come il Regno Unito, la Francia e la Germania, e naturalmente gli Stati Uniti, Israele, India e Cina sono quelli che devono darsi da fare più di tutti. Altrimenti sarà l’umanità a pagarne le conseguenze.

L'articolo IA e guerra, van Rooijen (Stop Killer Robots): “È una realtà senza regole. Serve un trattato prima che accada una catastrofe” proviene da Il Fatto Quotidiano.