Un test militare condotto in Ucraina avrebbe segnato il primo caso documentato in cui droni autonomi, guidati esclusivamente da intelligenza artificiale, hanno causato la morte di esseri umani senza intervento umano diretto. La testimonianza, raccolta da New Scientist e confermata dall'imprenditore ucraino Alexander Kokhanovskyy, riguarda un esperimento effettuato circa due anni fa lungo la linea del fronte tra Bakhmut e Chasiv Yar. Dieci droni quadricottero, dopo aver raggiunto autonomamente la zona operativa, avrebbero attivato una modalità chiamata 'Terminator mode', delegando all'IA l'identificazione e l'ingaggio di bersagli senza alcun collegamento con gli operatori. Non è stato possibile ricevere video né interrompere le azioni dei droni una volta lanciati.

Dopo la missione, droni ricognitori hanno riferito la distruzione di un camion e la morte di soldati russi, sebbene non esistano prove dirette. L'episodio, descritto come un caso isolato e mai replicato, solleva gravi preoccupazioni sul futuro delle armi autonome letali (Lethal Autonomous Weapons Systems, LAWS). Nonostante l'Ucraina mantenga una politica chiara che richiede sempre un 'human-in-the-loop' per l'ingaggio finale, questo test dimostra quanto sia fragile il confine tra assistenza automatizzata e decisione autonoma.

L'incidente ha riacceso il dibattito internazionale su un eventuale divieto delle armi autonome. Il segretario generale delle Nazioni Uni António Guterres ha più volte chiesto norme vincolanti, sostenendo che non ci debba essere spazio per sistemi che decidono autonomamente sulla vita umana. Anche organizzazioni umanitarie ed esperti temono che l'assenza di giudizio umano possa aumentare il rischio di errori, colpire civili e complicare l'attribuzione di responsabilità legali in caso di crimini di guerra.