Guerra… mimetismo e perfidIA

le opportunità rese possibili dall’IA proliferano sul campo di battaglia, le regole di guerra esistenti faticano a adattarsi, lasciando aree grigie critiche e vulnerabilità nella regolamentazione legale delle tecnologie militari emergenti. Questa discrepanza tra il ritmo accelerato dell’innovazione dell’IA e il lento progresso della regolamentazione legale presenta rischi significativi. Rischia di minare princìpi consolidati del conflitto armato, come la protezione dei civili, la proporzionalità degli attacchi e la responsabilità dei comandanti militari. (…) I deepfake sono presumibilmente crimini di guerra se prevedibilmente spingono la vittima di inganno a prendere di mira in modo sconsiderato i non combattenti. Almeno in teoria, l’integrazione dell’IA nelle operazioni di combattimento ha il potenziale di aumentare la frequenza del crimine di guerra della perfidia rendendo più facile per i combattenti farsi passare da non combattenti. (…) D’altro canto, sempre in teoria, l’integrazione dell’IA nelle operazioni di combattimento ha il potenziale per diminuire la frequenza del crimine di guerra della perfidia rendendo più difficile per i combattenti travestirsi da non combattenti. Abilità di rilevamento della perfidia migliori e più rapide creerebbero un disincentivo a tentarlo. L’IA può potenzialmente migliorare la capacità delle forze militari di rilevare i combattenti nemici che si travestono da inoffensivi non combattenti elaborando e analizzando rapidamente grandi quantità di dati per costruire sofisticati sistemi di rilevamento dell’inganno. (…) la dipendenza dagli attacchi informatici nella guerra ibrida sta erodendo la fattibilità della distinzione tra combattenti e non combattenti. I nerd informatici che distruggono la rete energetica di un nemico sono obiettivi legittimi per un attacco missilistico? Qualcosa di simile può essere detto della guerra dei droni: che dire dei tecnici civili che mantengono i droni in condizioni di funzionamento? Le aziende che producono droni armati non si limitano a vendere questi gadget killer, ma sono coinvolte sul campo di battaglia fornendo aggiornamenti costanti. Il manager di una tale azienda è un obiettivo legittimo di un attacco letale? (…) Ostentando la loro impunità e sfidando i tentativi di fargli assumere le loro responsabilità, è probabile che i cyber guerrieri creino un potente incentivo nel nemico a rinunciare a un contro-bersaglio preciso e a optare per attacchi generalizzati contro popolazioni civili e infrastrutture civili. In modo perverso, il sistema di IA che potrebbe aiutare a distinguere i combattenti dai non combattenti sarà gestito e mantenuto da individui non facilmente classificabili come combattenti o non combattenti, erodendo così la distinzione che avrebbero potuto teoricamente preservare. (…) Le macchine hanno davvero più probabilità di andare fuori controllo degli esseri umani? È ciò che osserviamo o semplicemente ciò che ci piace raccontarci? L’argomento morale contro il dare ai robot una licenza per uccidere è forte. Ma è più forte del dare a soldati umani minorenni e potenzialmente eccitati dal grilletto la licenza di sparare a vista attraverso la nebbia della guerra? È davvero più accettabile cedere il potere di vita e di morte sugli esseri umani ad altri esseri umani, che non sono sempre sani di mente, piuttosto che cederlo a macchine programmabili? Forse, ma forse non in tutte le circostanze concepibili. (S. HOLMES, “UCCIDERE SENZA SENSI DI COLPA: SE L’IA VA ALLA GUERRA“, Micromega 6/24)