guerre
- Lavinia Marchetti
- 29 giu
- Tempo di lettura: 20 min
Aggiornamento: 30 giu
dossier guerra e capitale
Venti secondi
Come l’intelligenza artificiale cancella lo sguardo che trattiene la mano
Venti secondi. Tanto durava, nell’inverno del 2023, il controllo umano su un nome destinato a morire.
Un ufficiale dell’intelligence israeliana, indicato con la lettera B., lo ha raccontato ai giornalisti di +972 Magazine e di Local Call, che per primi hanno svelato l’esistenza del programma (Abraham 2024)1. Il suo compito si riduceva a una verifica sola, che il bersaglio scelto dalla macchina fosse un maschio.
«Investivo venti secondi per ogni bersaglio, e ne facevo decine al giorno. Come essere umano non avevo alcun valore aggiunto, ero solo un timbro di approvazione. Mi faceva risparmiare un sacco di tempo».
Il controllo del sesso era diventato l’unico filtro perché, secondo gli ufficiali, tra le file militari di Hamas non figurano donne, e dunque un bersaglio femminile segnalava soltanto un errore della macchina. «All’inizio facevamo dei controlli per assicurarci che la macchina non si confondesse», spiega B. «A un certo punto ci siamo affidati al sistema automatico, e ci limitavamo a controllare che il bersaglio fosse un uomo. Non ci vuole molto a capire se una voce è maschile o femminile» (Abraham 2024).
Il software si chiama Lavender. Analizza i dati raccolti, attraverso una sorveglianza di massa, sui due milioni e trecentomila abitanti di Gaza, e assegna a quasi ciascuno un punteggio da 1 a 100 che misura la probabilità di appartenere all’ala militare di Hamas. Ha imparato a riconoscere i tratti dei miliziani noti per cercarli nella popolazione, dal trovarsi in un gruppo WhatsApp con un militante al cambiare spesso telefono. Nelle prime settimane di guerra ha schedato circa trentasettemila persone come sospette, insieme alle loro case. La definizione di miliziano restava elastica, e uno degli analisti che addestrarono il sistema se ne dichiarò turbato, perché nei dati di addestramento erano finiti anche addetti alla protezione civile, cioè profili di comunicazione civili che la macchina avrebbe poi cercato, e colpito, nella popolazione.
Gli ufficiali sapevano che la macchina sbaglia in circa il dieci per cento dei casi, e la trattavano lo stesso, sono parole loro, come se fosse una decisione umana. L’errore più frequente, racconta B., nasceva quando un bersaglio cedeva il proprio telefono a un familiare. «Quella persona verrà bombardata in casa con la sua famiglia. È successo spesso» (Abraham 2024)1. Selezionare i nomi era una procedura che gli operatori chiamavano, con una metafora venatoria, Caccia Larga: «Metti centinaia di bersagli nel sistema e aspetti di vedere chi puoi uccidere. Copi e incolli dalle liste che il sistema produce».
La seconda macchina porta un nome che è la domanda di un bambino, Where’s Daddy?, dov’è papà. Seguiva le persone schedate e avvertiva l’esercito quando rientravano a casa, di notte, mentre le famiglie dormivano. Le abitazioni private erano il luogo preferito per colpirle, perché localizzarle là risultava più semplice. L’ufficiale A. lo ha messo a verbale con una franchezza assoluta:
«Non eravamo interessati a uccidere i miliziani solo quando si trovavano in un edificio militare. Al contrario, li bombardavamo nelle loro case senza esitazione, come prima opzione. È molto più facile colpire la casa di una famiglia».
Lo stesso A. tira la conclusione aritmetica di quella scelta.
«Diciamo che calcoli un miliziano di Hamas più dieci civili nella casa. Di solito quei dieci saranno donne e bambini. Così, per assurdo, viene fuori che la maggior parte delle persone che hai ucciso erano donne e bambini».
I numeri delle Nazioni Unite danno corpo all’assurdo. Nel primo mese di guerra più della metà dei morti, 6.120 persone, apparteneva a 1.340 famiglie, molte cancellate per intero dentro le loro case.
Sui bersagli più piccoli si risparmiava, impiegando le bombe non guidate, le cosiddette dumb bombs, capaci di radere al suolo l’edificio con chi vi abita dentro. L’ufficiale C. descrive il funzionamento a catena di montaggio.
«Di solito conducevamo gli attacchi con le bombe stupide, e questo significava distruggere letteralmente l’intera casa sopra i suoi occupanti. Ma anche se un attacco salta, non te ne importa, passi subito al bersaglio successivo. Per via del sistema, i bersagli non finiscono mai. Ne hai altri trentaseimila in attesa».
Per ciascun miliziano di basso rango era ritenuto accettabile uccidere fino a quindici o venti civili, un limite che nelle guerre precedenti non veniva mai autorizzato per i bersagli minori. «In pratica, il principio di proporzionalità non esisteva», ammette A., e alla domanda sulla ragione di sicurezza dietro quei numeri risponde con una parola sola, letalità. Per i comandanti di alto grado si autorizzò l’uccisione di centinaia di civili a testa, e perfino un ufficiale come B. percepì un confine.
«Nel bombardamento del comandante del battaglione di Shuja’iya sapevamo che avremmo ucciso più di cento civili. Per me, psicologicamente, era inusuale. Più di cento civili, supera una certa linea rossa».
La decisione di mettere un nome sotto tracciamento poteva spettare a ufficiali di grado relativamente basso. Uno di loro ha confessato un gesto compiuto di propria iniziativa.
«Un giorno, di mia totale iniziativa, ho aggiunto qualcosa come milleduecento nuovi bersagli al sistema, perché il numero di attacchi era calato. Aveva senso, per me. A ripensarci, sembra una decisione grave. E decisioni simili non venivano prese ai livelli alti».
Conviene partire da questi venti secondi. Ci raccontano qualcosa che la sola tecnica non spiega. Nel 2021 l’attuale comandante dell’unità di intelligence 8200 aveva pubblicato un libro in cui descriveva l’essere umano come un «collo di bottiglia», un freno alla capacità dell’esercito di produrre abbastanza bersagli al giorno. La macchina nasce per sciogliere quel freno, vale a dire per rimuovere l’uomo dalla decisione di uccidere. Il punto sta tutto in quel che è stato tolto di mezzo affinché un uomo potesse premere un pulsante decine di volte al giorno e poi tornare a casa la sera.
La guerra ha sempre lavorato per togliere di mezzo una cosa sola, il volto dell’altro. Emmanuel Lévinas ha fatto del volto l’inizio stesso dell’etica (Lévinas 1961). Il viso altrui, nella sua nudità, prima di qualunque parola, avanza una richiesta e oppone un divieto. La prima parola del volto, scrive, è «non ucciderai». Quel viso resiste al potere che vorrebbe sopprimerlo, e la sua è una resistenza morale prima che fisica. Guardare qualcuno negli occhi rende l’uccisione difficile. Judith Butler ha portato questo pensiero dentro la politica del lutto. Certe vite vengono riconosciute come «degne di lutto», altre no, e la distinzione decide in anticipo chi potrà essere pianto e chi sparirà senza che la sua morte conti (Butler 2004). Il punteggio di Lavender è la forma tecnica di quella selezione.
Togliere il volto è il lavoro antico della guerra, e la distanza ne è lo strumento. Lo psicologo militare Dave Grossman8 ha mostrato che la resistenza a uccidere cala con l’aumentare della lontananza dal bersaglio, e che a tu per tu gran parte dei soldati tende a non sparare affatto (Grossman 1995). Stanley Milgram, nei suoi esperimenti sull’obbedienza, aveva osservato qualcosa di simile, la disobbedienza che cresce quando la vittima è vicina e visibile (Milgram 1974). La divisa e la propaganda che riduce l’avversario a sagoma servono da secoli a interporre uno schermo tra la mano e il viso. Il drone e l’algoritmo portano a termine questa lunga opera, e vi aggiungono qualcosa di inedito.
Grégoire Chamayou, in Teoria del drone, ha descritto il primo passaggio (Chamayou 2014). Quando l’apparecchio telecomandato diventa una macchina da guerra, scrive, il nemico si trasforma in «un mero materiale pericoloso. Lo si elimina da lontano, guardandolo morire sullo schermo dal caldo bozzolo di una safe zone climatizzata». La guerra asimmetrica si radicalizza fino a farsi unilaterale, dove si muore da una parte sola. Chamayou chiama necroetica il discorso che presenta tutto questo come progresso umanitario, l’arma pulita che risparmia il sangue, almeno il proprio. Al posto del duello, fondato un tempo sul rischio reciproco, subentra la caccia, e il diritto di guerra si piega a fare spazio a un «assassinio mirato» che colpisce una preda incapace di colpire a sua volta.
Lo schermo introduce un’asimmetria che riguarda lo sguardo. Antoine Bousquet ha ricostruito la lunga marcia con cui l’occhio militare ha imparato a colpire il bersaglio senza esserne visto, dal cannocchiale fino al sensore del drone (Bousquet 2018). Roger Stahl descrive una visione divenuta essa stessa un’arma, dove si impara a guardare il mondo lungo la linea del mirino (Stahl 2018). Il punto tocca da vicino Lévinas, perché il volto era prima di tutto due occhi capaci di ricambiare lo sguardo e di chiedere conto. Il bersaglio inquadrato dall’alto non vede e viene visto per intero, ridotto a immagine su cui un altro decide. L’occhio che avrebbe potuto fermare la mano viene accecato in partenza.
Tutto questo ha una preistoria, la guerra del Novecento aveva già compiuto buona parte del lavoro. Il bombardamento aereo delle città aveva separato chi premeva un pulsante dal corpo che ne moriva a chilometri di distanza. Il controllo coloniale dal cielo, gli inglesi sulle tribù della Mesopotamia negli anni Venti e i francesi sulle campagne algerine, aveva fatto della popolazione un insieme da sorvegliare e colpire dall’alto. Chamayou stesso accosta la strategia del drone a quelle imprese coloniali (Chamayou 2014). Il puntamento algoritmico eredita quella vecchia abitudine a non guardare chi si uccide, e la porta al limite: adesso il colpo parte da una segnalazione che nessuno ha più davvero esaminato.
La novità dei sistemi impiegati a Gaza sta in un passaggio ulteriore. Il drone allontanava la mano. L’algoritmo allontana il giudizio. Dietro lo schermo spariva il corpo del bersaglio; con il punteggio sparisce anche la decisione di ucciderlo, uscita dalle mani umane e ridotta a calcolo. Il filosofo Peter Asaro3 sostiene che affidare a una macchina l’avvio della forza letale viola in sé la dignità della persona, perché le sottrae il diritto a essere uccisa, se mai deve esserlo, soltanto dopo il giudizio morale e legale di un altro essere umano, valutato caso per caso (Asaro 2012). Lucy Suchman15 ha mostrato come l’apparente precisione di questi sistemi sia una reinvenzione, una falsa oggettività che li fa apparire esatti mentre restano politicamente e giuridicamente privi di responsabilità (Suchman 2020). Elke Schwarz, sulla scia di Hannah Arendt, vi riconosce una tecnologia che si presenta come morale e produce soggetti incapaci di domandarsi, con le parole di Arendt, «che cosa stiamo facendo» (Schwarz 2018).
La sospensione della coscienza davanti alla macchina risponde a un bisogno, prima che a una proprietà della tecnica. Qualcuno ha bisogno che la coscienza taccia, e l’algoritmo offre il pretesto perfetto. Octave Mannoni ha dato una formula al meccanismo del diniego, «lo so bene, ma comunque…», quella per cui un sapere viene riconosciuto e insieme accantonato, così da poter agire come se non lo si possedesse (Mannoni 1969). L’ufficiale sa che la macchina sbaglia una volta su dieci, sa che nella casa segnata dormono dei bambini, e tuttavia il punteggio e l’alibi dell’uomo che resta formalmente al comando gli permettono di proseguire. L’esercito difende il sistema ripetendo che la decisione ultima spetta a «persone in carne e ossa», e che la macchina serve solo ad aiutarle a «superare le proprie barriere» (Abraham 2024). Proprio quelle barriere erano l’ultima difesa del bersaglio, il residuo di esitazione che un volto sa imporre. Uno dei testimoni lo dice con una nitidezza definitiva.
«La macchina lo ha fatto a freddo. E questo ha reso tutto più facile».
Günther Anders aveva visto il fondo di questa faccenda molto prima dei droni. Lo chiamava scarto prometeico, la sproporzione tra quel che le nostre mani sanno produrre e distruggere e quel che il nostro sentire riesce a immaginare (Anders 1956). Possiamo fabbricare una morte che siamo incapaci di provare. Anders lo scrisse al pilota di Hiroshima, Claude Eatherly, l’unico che dopo il bombardamento non riuscì a riprendere una vita normale e che la stampa prese per pazzo, mentre la sua era forse l’ultima reazione sana rimasta. Il punteggio di Lavender allarga quello scarto fino a renderlo abitabile senza turbamento. Venti secondi bastano, perché in venti secondi un numero non ha volto.
Dobbiamo resistere alla tentazione di fare della macchina un destino. Gaza è un laboratorio, come ha documentato Antony Loewenstein, il luogo dove l’industria israeliana della sorveglianza collauda gli strumenti che poi vende al mondo (Loewenstein 2023). Quel che si sperimenta sui palestinesi diventa il modello della guerra che verrà, e già della polizia che sorveglia le nostre città. Zygmunt Bauman4 chiamava adiaforizzazione il procedimento per cui la tecnica e la burocrazia tolgono un atto dal campo del giudizio morale e lo rendono indifferente, una pratica tra le altre (Bauman 1989). Il puntamento algoritmico è la forma più compiuta di questa indifferenza fabbricata, e va nominato come una scelta, con responsabili che hanno un cognome e una firma.
Resterebbe una contromossa, e non nasce dalla tecnica. Comincia dove la macchina aveva messo un numero, restituendo un volto e una voce. Amjad Al-Sheikh, sopravvissuto a uno di quegli attacchi, ha cercato la propria famiglia tra le macerie.
«Sono corso alla casa della mia famiglia, ma non c’erano più edifici. La gente ha cominciato a cercare nel cemento, con le mani, e così ho fatto anch’io, cercando i segni della casa della mia famiglia».
Sotto le macerie trovò undici parenti morti (Abraham 2024)1. Un altro sopravvissuto, Amro Al-Khatib, descrive ciò che resta quando il punteggio si è compiuto.
«Non riuscivamo a distinguere un appartamento dall’altro, si erano mescolati tutti nelle macerie, e trovavamo parti di corpi umani dappertutto».
Simone Weil leggendo l’Iliade come poema della forza, aveva scritto la frase che andrebbe posta accanto a ciascun punteggio di Lavender.
«La forza rende chiunque le è sottomesso pari a una cosa. Esercitata fino in fondo fa dell’uomo una cosa nel senso più letterale del termine, poiché lo rende cadavere. C’era qualcuno e, un istante dopo, non c’è più nessuno».
Trasformare una persona in una cosa è il lavoro della forza da Troia a Gaza, l’intelligenza artificiale ne è soltanto l’esecutrice più rapida. Disfare quel lavoro vuol dire restituire un volto e un nome a chi ha cancellato il punteggio e quindi contare i morti uno per uno e scrivere le loro storie, rimettendo lo sguardo dove la macchina ha messo una cifra. Alla domanda del software, «dov’è papà», l’unica risposta che disarma è un’altra domanda, rivolta a chi quella macchina l’ha costruita e venduta. Di chi era il volto, in quei venti secondi?
Bibliografia
Abraham, Yuval (2024), ‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza, +972 Magazine e Local Call, 3 aprile.
Anders, Günther (1956), L’uomo è antiquato, Bollati Boringhieri; con Claude Eatherly, Burning Conscience, 1961.
Asaro, Peter (2012), On banning autonomous weapon systems: human rights, automation, and the dehumanization of lethal decision-making, International Review of the Red Cross, 94 (886).
Bauman, Zygmunt (1989), Modernità e Olocausto, il Mulino.
Bousquet, Antoine (2018), The Eye of War. Military Perception from the Telescope to the Drone, University of Minnesota Press.
Butler, Judith (2004), Vite precarie. Contro l’uso della violenza in risposta al lutto collettivo, Meltemi.
Chamayou, Grégoire (2014), Teoria del drone. Principi filosofici del diritto di uccidere, DeriveApprodi.
Grossman, Dave (1995), On Killing Remotely: The Psychology of Killing with Drones, Brown and Company.
Lévinas, Emmanuel (1961), Totalità e infinito. Saggio sull’esteriorità, Jaca Book.
Loewenstein, Antony (2023), The Palestine Laboratory, Verso.
Mannoni, Octave (1969), Je sais bien, mais quand même…, in Clefs pour l’imaginaire, Seuil.
Milgram, Stanley (1974), Obbedienza all’autorità, Einaudi.
Schwarz, Elke (2018), Death Machines. The Ethics of Violent Technologies, Manchester University Press.
Stahl, Roger (2018), Through the Crosshairs. War, Visual Culture, and the Weaponized Gaze, Rutgers University Press.
Suchman, Lucy (2020), Algorithmic warfare and the reinvention of accuracy, Critical Studies on Security.
Weil, Simone (1940), L’Iliade o il poema della forza.
Lavinia Marchetti è biologa, appassionata di poesia, letteratura e bellezza nell’arte. Lavora in una galleria d’arte Milano.
Twenty Seconds
How Artificial Intelligence Erases the Gaze That Restrains the Hand
Twenty seconds. In the winter of 2023, that was the duration of human oversight permitted for a name destined to die.
An Israeli intelligence officer, identified only as B., recounted this to journalists from +972 Magazine and Local Call, who first exposed the existence of the program (Abraham 2024). His task was reduced to a single verification: ensuring that the target selected by the machine was male.
«I would invest 20 seconds for each target, and I would do dozens of them every day. As a human being, I had zero added value, except as a stamp of approval. It saved a lot of time».
Checking the gender had become the sole filter because, according to officers, women do not figure within the military ranks of Hamas; therefore, a female target merely signaled a machine error. «In the beginning, we used to do checks to make sure the machine didn't get confused», B. explains. «But at some point, we relied on the automatic system, and we only checked that [the target] was a man. It doesn't take long to understand if a voice is male or female» (Abraham 2024).
The software is called Lavender. It analyzes mass surveillance data collected on the 2.3 million inhabitants of Gaza, assigning almost every individual a score from 1 to 100 that measures the probability of their belonging to the military wing of Hamas. It learned to recognize the traits of known militants in order to search for them within the broader population—ranging from being in a WhatsApp group with a militant to frequently changing phones. In the opening weeks of the war, it logged approximately 37,000 people as suspects, along with their homes. The definition of a militant remained elastic, troubling one of the analysts who trained the system, because civil defense personnel—civilians working in communications—had been included in the training data. Consequently, the machine would subsequently search for and target them among the population.
The officers knew that the machine erred in roughly ten percent of cases, yet they treated its outputs—in their own words—as if they were human decisions. The most frequent error, B. recounts, occurred when a target passed their phone to a family member. «That person will be bombed in their house with their family. It happened often» (Abraham 2024). Selecting names was a procedure operators referred to with a hunting metaphor: Where's Daddy? (or broad hunting): «You put hundreds of targets into the system and wait to see who you can kill. You copy and paste from the lists the system produces».
The second machine bears a name that echoes a child's question: Where’s Daddy? It tracked the flagged individuals and alerted the military when they returned home at night, while their families slept. Private residences were the preferred location to strike them, as locating them there proved simpler. Officer A. stated this on the record with absolute candor:
«We were not interested in killing [Hamas] operatives only when they were in a military building... On the contrary, we bombed them in homes without hesitation, as a first option. It’s much easier to bomb a family’s home».
Officer A. himself draws the arithmetic conclusion of that choice:
«Let’s say you calculate one Hamas operative plus ten civilians in the house. Usually, those ten will be women and children. So, absurdly, it turns out that most of the people you killed were women and children».
United Nations figures give substance to this absurdity. In the first month of the war, more than half of the dead—6,120 people—belonged to 1,340 families, many of which were entirely wiped out inside their homes.
When dealing with lower-ranking targets, expenses were spared by deploying unguided bombs—so-called dumb bombs—capable of flattening an entire building along with those inside it. Officer C. describes this assembly-line operation:
«We usually carried out the attacks with dumb bombs, and that meant literally destroying the whole house on top of its occupants... But even if an attack falls through, you don't care—you immediately move on to the next target. Because of the system, the targets never end. You have another 36,000 waiting».
For each low-ranking militant, it was deemed acceptable to kill up to 15 or 20 civilians—a threshold never authorized for minor targets in previous wars. «In practice, the principle of proportionality did not exist», A. admits. When asked about the security rationale behind those numbers, he answers with a single word: lethality. For high-ranking commanders, the killing of hundreds of civilians per target was authorized, and even an officer like B. perceived a boundary:
«In the bombing of the Shuja’iya battalion commander, we knew we would kill more than a hundred civilians... For me, psychologically, it was unusual. More than a hundred civilians—it crosses a certain red line».
The decision to place a name under tracking could fall to relatively low-ranking officers. One of them confessed to an action taken on his own initiative:
«One day, entirely on my own initiative, I added something like 1,200 new targets to the system, because the number of attacks had dropped. It made sense to me. Looking back, it seems like a grave decision. And such decisions were not made at high levels».
It is worth starting from these twenty seconds. They reveal something that technology alone cannot explain. In 2021, the current commander of the 8200 Intelligence Unit published a book in which he described the human being as a «bottleneck»—a brake on the army's capacity to produce enough targets per day. The machine was born to loosen that brake; that is to say, to remove humans from the decision to kill. The core issue lies entirely in what has been cleared out of the way so that a man could press a button dozens of times a day and then return home in the evening.
War has always worked to displace one single thing: the face of the other. Emmanuel Lévinas made the face the very beginning of ethics (Lévinas 1961). The face of the other, in its nakedness, prior to any word, advances a demand and poses a prohibition. The first word of the face, he writes, is «thou shalt not kill». That face resists the power that seeks to suppress it, and its resistance is moral before it is physical. Looking someone in the eyes makes killing difficult. Judith Butler brought this line of thought into the politics of mourning (Butler 2004). Certain lives are recognized as «grievable», while others are not, and this distinction decides in advance who can be mourned and who will vanish without their death registering. The Lavender score is the technical incarnation of that selection.
Stripping away the face is the ancient work of war, and distance is its instrument. Military psychologist Dave Grossman demonstrated that the resistance to killing drops as the distance from the target increases, and that when face-to-face, the vast majority of soldiers tend not to fire at all (Grossman 1995). Stanley Milgram, in his experiments on obedience, observed something similar: disobedience grows when the victim is close and visible (Milgram 1974). For centuries, uniforms and propaganda that reduce the adversary to a silhouette have served to interpose a screen between the hand and the face. The drone and the algorithm bring this long endeavor to fruition, while adding something unprecedented.
Grégoire Chamayou, in A Theory of the Drone, described the first transition (Chamayou 2014). When the remote-controlled aircraft becomes a machine of war, he writes, the enemy is transformed into «mere dangerous material. They are eliminated from afar, watched as they die on a screen from the warm cocoon of an air-conditioned safe zone». Asymmetric warfare radicalizes to the point of becoming unilateral—where dying occurs on one side only. Chamayou terms necroethics the discourse that presents this as humanitarian progress: a clean weapon that spares blood, or at least one's own. In place of the duel, once grounded in mutual risk, enters the hunt, and the law of war bends to accommodate "targeted killing"—striking a prey incapable of striking back.
The screen introduces an asymmetry concerning the gaze. Antoine Bousquet reconstructed the long march by which the military eye learned to strike the target without being seen, from the telescope to the drone sensor (Bousquet 2018). Roger Stahl describes a vision that has itself become a weapon, where one learns to view the world along the line of the crosshairs (Stahl 2018). This point closely touches Lévinas, because the face was, first and foremost, a pair of eyes capable of returning the gaze and demanding accountability. The target framed from above does not see, yet is entirely seen, reduced to an image upon which another decides. The eye that might have stayed the hand is blinded from the outset.
All of this has a prehistory; twentieth-century warfare had already accomplished much of the work. The aerial bombardment of cities had separated the person pressing a button from the body dying miles away. Colonial control from the sky—the British over the tribes of Mesopotamia in the 1920s, the French over the Algerian countryside—had turned populations into a collective to be monitored and struck from above. Chamayou himself aligns drone strategy with those colonial enterprises (Chamayou 2014). Algorithmic targeting inherits that old habit of not looking at those one kills, pushing it to the absolute limit: now, the strike originates from a flag that no one has truly examined anymore.
The novelty of the systems deployed in Gaza lies in a further transition. The drone distanced the hand. The algorithm distances judgment. Behind the screen, the body of the target vanished; with the algorithmic score, the very decision to kill vanishes too, removed from human hands and reduced to computation. Philosopher Peter Asaro argues that delegating the initiation of lethal force to a machine inherently violates human dignity, because it deprives a person of the right to be killed—if they must be killed at all—only following the moral and legal judgment of another human being, evaluated on a case-by-case basis (Asaro 2012). Lucy Suchman has shown how the apparent precision of these systems is a reinvention, a false objectivity that makes them appear exact while remaining politically and legally devoid of accountability (Suchman 2020). Elke Schwarz, following Hannah Arendt, recognizes them as a technology that presents itself as moral while producing subjects incapable of asking themselves, in Arendt’s words, «what is it we are doing» (Schwarz 2018).
The suspension of conscience before the machine answers a need, rather than being an intrinsic property of technology. Someone needs conscience to fall silent, and the algorithm provides the perfect pretext. Octave Mannoni formulated the mechanism of denial as «Je sais bien, mais quand même...» («I know well, but all the same...»), whereby a piece of knowledge is acknowledged yet simultaneously set aside, allowing one to act as if they did not possess it (Mannoni 1969). The officer knows the machine errs one time out of ten, knows that children are sleeping in the marked house, and yet the score and the alibi of the human who formally remains in command allow him to proceed. The military defends the system by repeating that the ultimate decision rests with «flesh-and-blood people», and that the machine merely serves to help them «overcome their bottlenecks» (Abraham 2024). Yet those very bottlenecks were the target's final defense—the residual hesitation that a face knows how to impose. One of the witnesses states this with definitive clarity:
«The machine did it coldly. And that made it easier».
Günther Anders had seen the bottom of this matter long before drones. He called it the Promethean gap (Primitivismus / Promethean discrepancy): the disproportion between what our hands can produce and destroy, and what our feelings can manage to imagine (Anders 1956). We can manufacture a death that we are incapable of feeling. Anders wrote this to the Hiroshima pilot, Claude Eatherly—the only one who, after the bombing, failed to resume a normal life and whom the press dismissed as mad, though his was perhaps the last sane reaction remaining. The Lavender score widens that gap until it becomes habitable without disturbance. Twenty seconds are enough because, in twenty seconds, a number has no face.
We must resist the temptation to turn the machine into destiny. Gaza is a laboratory, as Antony Loewenstein has documented—the place where the Israeli surveillance industry tests the tools it subsequently sells to the world (Loewenstein 2023). What is experimented upon Palestinians becomes the model for the warfare to come, and already for the policing that monitors our cities. Zygmunt Bauman called adiaphorization the process by which technique and bureaucracy remove an action from the realm of moral judgment, rendering it indifferent—a practice among others (Bauman 1989). Algorithmic targeting is the most consummated form of this manufactured indifference, and it must be named as a choice, with individuals responsible who possess a surname and a signature.
There remains a countermove, and it does not spring from technology. It begins where the machine had placed a number, by restoring a face and a voice. Amjad Al-Sheikh, a survivor of one of those attacks, searched for his family among the rubble:
«I ran to my family’s house, but there were no buildings left. People started digging through the concrete with their hands, and I did too, looking for signs of my family’s home».
Beneath the rubble, he found eleven dead relatives (Abraham 2024). Another survivor, Amro Al-Khatib, describes what remains when the score has been fulfilled:
«We couldn’t tell one apartment from another, they all mixed up in the rubble, and we were finding parts of human bodies everywhere».
Simone Weil, reading the Iliad as the poem of force, wrote the sentence that should be placed alongside every Lavender score:
«Force is that x that turns anybody who is subjected to it into a thing. Exercised to the limit, it turns man into a thing in the most literal sense, for it makes him a corpse. There was someone there, and, the next moment, there is nobody there» (Weil 1940).
Transforming a person into a thing is the work of force from Troy to Gaza; artificial intelligence is merely its swiftest executor. Undoing that work means restoring a face and a name to those whom the score erased, counting the dead one by one, and writing their stories—returning the gaze to where the machine placed a cipher. To the software's question, «Where's Daddy?», the only disarming answer is another question, directed at those who built and sold that machine: Whose face was it, in those twenty seconds?
Bibliography
Abraham, Yuval (2024), Lavender: The AI machine directing Israel’s bombing spree in Gaza, +972 Magazine and Local Call, 3 April. Anders, Günther (1956), The Obsolescence of Man [Orig. Die Antiquiertheit des Menschen], Munich: C.H. Beck; with Claude Eatherly, Burning Conscience (1961), New York: Monthly Review Press. Asaro, Peter (2012), On banning autonomous weapon systems: human rights, automation, and the dehumanization of lethal decision-making, International Review of the Red Cross, 94 (886). Bauman, Zygmunt (1989), Modernity and the Holocaust, Ithaca, NY: Cornell University Press. Bousquet, Antoine (2018), The Eye of War: Military Perception from the Telescope to the Drone, University of Minnesota Press. Butler, Judith (2004), Precarious Life: The Powers of Mourning and Violence, London: Verso. Chamayou, Grégoire (2014), A Theory of the Drone, New York: The New Press [Orig. Théorie du drone, Paris: La Fabrique]. Grossman, Dave (1995), On Killing: The Psychological Cost of Learning to Kill in War and Society, Boston: Little, Brown and Company. Lévinas, Emmanuel (1961), Totality and Infinity: An Essay on Exteriority, Pittsburgh, PA: Duquesne University Press [Orig. Totalité et infini: essai sur l'extériorité, The Hague: Martinus Nijhoff]. Loewenstein, Antony (2023), The Palestine Laboratory: How Israel Exports the Technology of Occupation Around the World, London: Verso. Mannoni, Octave (1969), «I know well, but all the same...», in Clefs pour l’imaginaire [Keys to the Imaginary], Paris: Seuil. Milgram, Stanley (1974), Obedience to Authority: An Experimental View, New York: Harper & Row. Schwarz, Elke (2018), Death Machines: The Ethics of Violent Technologies, Manchester University Press. Stahl, Roger (2018), Through the Crosshairs: War, Visual Culture, and the Weaponized Gaze, Rutgers University Press. Suchman, Lucy (2020), Algorithmic warfare and the reinvention of accuracy, Critical Studies on Security, 8 (2). Weil, Simone (1940), The Iliad, or the Poem of Force [Orig. L'Iliade ou le poème de la force, Cahiers du Sud].
Lavinia Marchetti is a biologist with a passion for poetry, literature, and the beauty of art. She works in an art gallery in Milan.