Killer e autonomi dall'uomo, i nuovi robot da guerra spaventano il mondo: “Vanno fermati”

Uno stormo di uccelli sorvola il deserto della California disegnando formazioni sempre diverse, cambiano direzione all'unisono. Una scena che ognuno di noi avrà visto tante volte. Solo che in questo caso gli uccelli sono dei droni, ognuno dei quali è capace di colpire uno o più bersagli. E di uccidere, se il target è un soldato nemico. Ma non solo: questi droni non sono comandati da un uomo, ma agiscono autonomamente sulla base delle informazioni ricevute. Si chiamano “letal autonomous weapon”, armi letali autonome, e sono l'ultima frontiera della tecnologia militare. L'incontro più avanzato (e forse più inquietante) tra l'intelligenza artificiale e gli eserciti.   

La campagna mondiale

Stati Uniti, Cina, Israele, Corea del Sud, Russia e Regno Unito stanno portando avanti queste nuove armi prive di un controllo umano. Ma dentro gli stessi eserciti, c'è chi ha paura che i robot possano prendere il sopravvento sulle scelte dei soldati. Per questo, ong e attivisti di tutto il mondo hanno lanciato la campagna “Stop Killer Robots” con l'obiettivo di arrivare a un trattato globale per impedire l'uso indiscriminato di queste tecnologie.

“E' necessario un accordo per stabilire i controlli su queste armi prima che gli investimenti, l'impulso tecnologico e la nuova dottrina militare rendano difficile cambiare rotta – si legge nel manifesto della campagna - Dare alle macchine il potere di decidere chi vive e muore sul campo di battaglia è un'applicazione inaccettabile della tecnologia. Il controllo umano di qualsiasi robot da combattimento è essenziale per assicurare sia protezione umanitaria che controllo legale efficace”. E per questo le armi completamente autonome vanno bandite a livello Onu, come successo in passato con le munizioni a grappolo, le mine antiuomo e i laser accecanti.

Le paure dei soldati

Il messaggio di “Stop Killer Robots” è arrivato in questi giorni a Monaco, dove è in corso la Conferenza mondiale sulla sicurezza, dove i leader mondiali stanno discutendo sul futuro delle politiche di difesa (e delle guerre). Contro i robot autonomi non ci sono solo gli attivisti dei diritti umani. Poche settimane fa, il capo dell'esercito australiano ha definito tali armi “una minaccia per qualsiasi Stato-nazione che crede nelle leggi della guerra e nella condotta etica”. 

Sulla stessa linea Florian Kling, presidente di Darmstädter Signal, associazione di soldati e veterani dell'esercito tedesco: “La coscienza del singolo soldato, legata alle leggi e ai valori di base, è persa – ha detto a Politico - I sistemi d'arma completamente automatizzati essenzialmente non hanno lo spirito critico per prendere decisioni”.

Per questo, nel 2012, il Pentagono ha emanato una direttiva per cui tali sitemi devono essere “progettati per consentire a comandanti e operatori di esercitare adeguati livelli di giudizio umano sull'uso della forza” in conformità “con le leggi di guerra, i trattati applicabili, le norme sulla sicurezza dei sistemi d'arma e le regole d'ingaggio applicabili”. Precauzioni che James Miller, ex sottosegretario Usa alla Difesa, non crede sufficienti: “Qualcuno supererà la linea della sensibilità e della moralità”, avverte, riferendosi ai rischi legati alla crescita di questa tecnologia in Russia. 

Tecnologie sempre più economiche

Lo “stormo” di droni-uccello in California è solo una delle prime dimostrazioni delle potenzialità di queste armi. Secondo gli esperti, i costi legati alla costruzione di robot autonomi stanno progressivamente riducendosi, soprattutto con lo sviluppo di droni ultra-economici a 3D che, secondo i ricercatori, potrebbero essere schierati come sciami di milioni di piccoli insetti già nei prossimi cinque o dieci anni. “Ci si aspetta che gli sciami siano molto efficaci in combattimento, sia in azione difensiva che offensiva – scrive Politico - E sono a buon mercato: il programma LOCUST della US Navy, ad esempio, stima il costo di uno sciame di 30 droni a circa mezzo milione di dollari, meno della metà del prezzo del missile Harpoon che potrebbero sostituire”.

Oltre a essere sempre più economici, stando alle parole dei loro sostenitori, i robot autonomi sono veloci, più difficili da individuare per il nemico e potrebbero essere più bravi a distinguere tra combattenti e civili sul campo di battaglia di qualsiasi altro umano, rendendoli un'alternativa “più umanitaria”. 

I problemi etici

Economici o meno, umanitari o meno, resta il problema etico sul controllo di queste armi. La ricerca sull'intelligenza artificiale sta insegnando ai computer ad apprendere e a prendere le proprie decisioni imitando i modelli del cervello umano, ma anche andando oltre. 
“Gli esseri umani non possono guidare uno sciame di droni - ha detto Dickow del SWP su Politico - Possono dargli un compito. Ma lo sciame si coordinerà su come assolverà questo compito. E cosa succede se questo sciame comincia a imparare in un modo che nessuno può prevedere?"

Ma non solo: “sostituire le truppe umane con le macchine potrebbe rendere più facile la decisione di andare in guerra, il che sposterebbe ulteriormente il peso del conflitto armato sui civili”, dicono i promotori di Stop Killer Robots. “L'uso di armi completamente autonome creerebbe un divario di responsabilità in quanto non c'è chiarezza su chi sarebbe legalmente responsabile delle azioni di un robot: il comandante, il programmatore, il costruttore o il robot stesso?”.