selfie da zemrude

Franco Oriolo
5 giorni fa
Tempo di lettura: 10 min

Rubrica Risonanze sonore

Algoritmi, sicurezza e dominio

La costruzione preventiva dell’ordine sociale

Un articolo del «New York Times» del 1° giugno 2026 dedicato al progetto cinese Geedge ha sottolineato il tema del cosiddetto predictive policing: sistemi che non si limitano a sorvegliare i cittadini, ma cercano di prevederne i comportamenti futuri attraverso l’analisi di enormi quantità di dati. Il problema non è più soltanto chi controlla, ma chi decide quali probabilità possano trasformarsi in sospetto.

Nella rappresentazione dominante, questa capacità predittiva viene spesso presentata come una caratteristica specifica dei sistemi autoritari. La Cina diventa così il simbolo di una società nella quale l’intelligenza artificiale non osserva semplicemente il presente, ma costruisce scenari sul futuro comportamento delle persone, attribuendo livelli di rischio, affidabilità o potenziale devianza prima ancora che un fatto si verifichi.

Eppure il quadro è molto più complesso. Negli Stati Uniti, da oltre un decennio, diversi dipartimenti di polizia hanno sperimentato strumenti di predictive policing sviluppati da aziende come Palantir e PredPol, successivamente rinominata Geolitica. Questi sistemi utilizzano dati storici, statistiche criminali, informazioni territoriali e modelli algoritmici per individuare quartieri, persone o situazioni considerate a rischio. Non si tratta formalmente di identificare oppositori politici, ma la logica di fondo resta la stessa: spostare l'attenzione dall'atto compiuto alla probabilità statistica che un comportamento possa verificarsi in futuro.

Il punto decisivo è proprio questo passaggio. Quando la prevenzione si trasforma in previsione, il cittadino rischia di essere valutato non per ciò che ha fatto, ma per ciò che un algoritmo ritiene possa fare. La presunzione di innocenza lascia progressivamente spazio alla gestione probabilistica della popolazione. L'individuo viene trasformato in un insieme di dati, correlazioni e punteggi di rischio.Numerosi studi hanno mostrato come questi sistemi non siano affatto neutrali. Gli algoritmi vengono addestrati utilizzando dati prodotti da pratiche di polizia precedenti. Se per anni la sorveglianza si è concentrata in determinate aree urbane o su specifiche comunità sociali ed etniche, il sistema apprenderà proprio da quei dati, riproducendo e rafforzando le stesse distorsioni. In questo modo il controllo genera nuovi dati che giustificano ulteriore controllo, creando un circolo vizioso che finisce per naturalizzare la discriminazione.

Il caso di Los Angeles è diventato uno degli esempi più discussi e controversi di predictive policing. Il Dipartimento di Polizia di Los Angeles (LAPD) è stato infatti uno dei primi negli Stati Uniti ad adottare sistemi come PredPol e Operation LASER, presentandoli inizialmente come strumenti innovativi in grado di prevedere aree e individui considerati ad alto rischio criminale.

PredPol utilizzava dati storici relativi ai reati per generare mappe quotidiane che indicavano agli agenti quali quartieri dovessero essere maggiormente pattugliati. Operation LASER, invece, combinava dati provenienti da arresti, controlli di polizia, presunte affiliazioni a gang e altri archivi per attribuire punteggi di rischio a singoli individui, inserendo alcuni di essi in elenchi di cosiddetti chronic offenders, cioè soggetti considerati potenzialmente pericolosi.

Con il tempo, però, numerose inchieste, audit interni e mobilitazioni di organizzazioni per i diritti civili hanno mostrato come questi sistemi tendessero a concentrare la sorveglianza sempre sugli stessi quartieri popolari e sulle stesse comunità nere e latino-americane. In pratica, gli algoritmi finivano per apprendere dai dati prodotti da precedenti pratiche di polizia e li utilizzavano per giustificare ulteriore presenza delle forze dell’ordine nelle medesime aree, alimentando un meccanismo circolare di sovra-sorveglianza.

Uno dei dati più discussi riguardò proprio il programma LASER: un rapporto rivelò che l’84% delle persone inserite nelle liste dei presunti chronic offenders era composto da cittadini neri e latino-americani. Questa sproporzione alimentò accuse di profilazione razziale e discriminazione sistemica. Parallelamente emersero forti dubbi anche sull’efficacia reale dei sistemi. Un audit dell’ispettore generale del LAPD concluse che non esistevano prove sufficienti per dimostrare che PredPol avesse effettivamente ridotto la criminalità. Diversi studi e successive analisi hanno evidenziato risultati molto limitati, mettendo in discussione le promesse iniziali di queste tecnologie.

Di fronte alle crescenti contestazioni pubbliche, alle accuse di discriminazione e alla mancanza di evidenze convincenti sulla loro efficacia, il LAPD ha progressivamente abbandonato questi programmi. PredPol è stato sospeso nel 2020 e altri sistemi collegati sono stati smantellati o ridimensionati. Il caso di Los Angeles è diventato emblematico perché ha mostrato in modo concreto uno dei principali problemi della governance algoritmica: quando un sistema viene addestrato su dati prodotti da pratiche storicamente discriminatorie, finisce spesso per automatizzare quelle stesse discriminazioni, rivestendole di un'apparente neutralità scientifica. L’algoritmo non elimina il pregiudizio; lo trasforma in statistica e lo restituisce come decisione tecnica.

Anche nel Regno Unito il problema si sta ponendo con crescente intensità. Progetti basati sull'integrazione massiva di dati provenienti da diverse agenzie pubbliche puntano a costruire profili di rischio sempre più dettagliati. Organizzazioni per i diritti civili e Amnesty International hanno denunciato questi sistemi sostenendo che finiscono per colpire soprattutto le comunità più vulnerabili e marginalizzate, chiedendone in alcuni casi il divieto.

La vera novità non consiste soltanto nella capacità di sorvegliare milioni di persone, ma nella pretesa di anticiparne i comportamenti futuri. È la stessa logica che ritroviamo tanto nei sistemi di predictive policing quanto nelle più recenti applicazioni militari dell'intelligenza artificiale. In entrambi i casi, l'obiettivo non è accertare un fatto, ma attribuire una probabilità: la probabilità che qualcuno commetta un reato, rappresenti una minaccia o possa diventare un bersaglio.

Da questo punto di vista, il sistema israeliano Lavender rappresenta un passaggio ulteriore e inquietante. Secondo le inchieste pubblicate da +972 Magazine e Local Call, il sistema ha analizzato enormi quantità di dati provenienti da reti di sorveglianza, comunicazioni e relazioni sociali per attribuire punteggi di probabilità a decine di migliaia di palestinesi, identificandoli come potenziali membri di organizzazioni armate. La decisione umana, secondo le testimonianze raccolte, è stata spesso ridotta a una rapida validazione delle indicazioni prodotte dalla macchina.

Il punto centrale è che la stessa razionalità che oggi viene denunciata nel progetto cinese Geedge era già presente, sotto altre forme, nei sistemi occidentali di predictive policing e raggiunge nella guerra il suo esito estremo. Se negli Stati Uniti un algoritmo individua quartieri o individui considerati a rischio, a Gaza sistemi come Lavender hanno contribuito a trasformare correlazioni statistiche e modelli probabilistici in liste di bersagli. La distanza tra previsione e azione si riduce fino quasi a scomparire. È qui che emerge una trasformazione ancora più profonda. Non siamo più soltanto di fronte a Stati che governano attraverso leggi, tribunali o apparati di polizia. Stiamo assistendo all'affermazione di infrastrutture algoritmiche che classificano gli esseri umani sulla base di profili, dati e probabilità. Il sospetto non deriva più da un comportamento osservato, ma da una previsione calcolata. La colpevolezza tende a essere sostituita dal rischio.

In questo scenario, il potere tende progressivamente a spostarsi verso chi possiede e controlla tali infrastrutture tecnologiche. Le grandi piattaforme, le imprese che sviluppano sistemi di intelligenza artificiale, i proprietari delle reti di dati e dei modelli predittivi diventano soggetti capaci non solo di assistere i governi, ma di definire concretamente le categorie attraverso cui le popolazioni vengono classificate, monitorate e amministrate. La sovranità rischia così di migrare dagli Stati agli architetti degli algoritmi.

Lavender mostra fino a che punto possa arrivare questa tendenza. Quando un sistema è in grado di attribuire punteggi, selezionare individui, suggerire obiettivi e accelerare decisioni che riguardano la vita e la morte, la questione non è più soltanto tecnologica o militare. Diventa una questione politica fondamentale: chi governa realmente una società quando il potere di classificare, prevedere e decidere è incorporato in sistemi opachi controllati da ristrette élite tecnologiche? Gaza non rappresenta soltanto un laboratorio di guerra algoritmica. Rappresenta anche un'anticipazione di ciò che potrebbe accadere quando la gestione predittiva delle popolazioni diventa il principio ordinario di governo.

In questo scenario il rischio non è soltanto la perdita della privacy. È l'affermazione di una logica nella quale il comportamento umano viene ridotto a calcolo statistico e la gestione della società si fonda sempre più sulla classificazione preventiva delle persone. Non si puniscono più soltanto le azioni; si amministrano le probabilità. E quando il potere inizia a trattare gli esseri umani come previsioni, il confine tra sicurezza e controllo tende inevitabilmente a dissolversi.

Algorithms, Security and Domination

The Preventive Construction of Social Orderhe

by Franco Oriolo

A New York Times article published on June 1, 2026, devoted to the Chinese Geedge project, highlighted the issue of so-called predictive policing: systems that do not merely monitor citizens but seek to predict their future behavior through the analysis of enormous quantities of data. The problem is no longer simply who controls, but who decides which probabilities can be transformed into suspicion.

In dominant narratives, this predictive capacity is often presented as a specific feature of authoritarian systems. China thus becomes the symbol of a society in which artificial intelligence does not merely observe the present but constructs scenarios about people's future behavior, assigning levels of risk, reliability, or potential deviance before any act has even occurred.

Yet the picture is far more complex. In the United States, for more than a decade, various police departments have experimented with predictive policing tools developed by companies such as Palantir and PredPol, later renamed Geolitica. These systems use historical data, crime statistics, geographic information, and algorithmic models to identify neighborhoods, individuals, and situations considered to be at risk. Formally, they are not designed to identify political dissidents, but the underlying logic remains the same: shifting attention from an act that has already occurred to the statistical probability that a behavior may occur in the future.

This shift is precisely the decisive point. When prevention turns into prediction, citizens risk being evaluated not for what they have done but for what an algorithm believes they might do. The presumption of innocence gradually gives way to the probabilistic management of populations. Individuals are transformed into collections of data, correlations, and risk scores.

Numerous studies have shown that these systems are far from neutral. Algorithms are trained on data generated by previous policing practices. If surveillance has been concentrated for years in particular urban areas or among specific social and ethnic communities, the system learns from precisely those data, reproducing and reinforcing the same distortions. In this way, control generates new data that justify further control, creating a vicious cycle that ultimately naturalizes discrimination.

The Los Angeles case has become one of the most discussed and controversial examples of predictive policing. The Los Angeles Police Department (LAPD) was among the first in the United States to adopt systems such as PredPol and Operation LASER, initially presenting them as innovative tools capable of predicting high-risk areas and individuals.

PredPol used historical crime data to generate daily maps indicating which neighborhoods should receive increased police patrols. Operation LASER, meanwhile, combined data from arrests, police stops, alleged gang affiliations, and other databases to assign risk scores to individuals, placing some of them on lists of so-called chronic offenders—people considered potentially dangerous.

Over time, however, numerous investigations, internal audits, and campaigns by civil rights organizations showed that these systems tended to concentrate surveillance on the same working-class neighborhoods and the same Black and Latino communities. In practice, the algorithms learned from data generated by previous policing practices and used them to justify an even greater police presence in those same areas, fueling a self-reinforcing mechanism of over-surveillance.

One of the most controversial findings concerned the LASER program itself: a report revealed that 84 percent of the individuals included in the lists of alleged chronic offenders were Black or Latino. This disproportion fueled accusations of racial profiling and systemic discrimination.

At the same time, serious doubts emerged regarding the actual effectiveness of these systems. An audit conducted by the LAPD Inspector General concluded that there was insufficient evidence to demonstrate that PredPol had genuinely reduced crime. Various studies and subsequent analyses revealed very limited results, casting doubt on the promises that had accompanied these technologies.

Faced with growing public criticism, accusations of discrimination, and the lack of convincing evidence of effectiveness, the LAPD gradually abandoned these programs. PredPol was suspended in 2020, while other related systems were dismantled or scaled back.

The Los Angeles case became emblematic because it concretely demonstrated one of the central problems of algorithmic governance: when a system is trained on data generated by historically discriminatory practices, it often ends up automating those same discriminations while cloaking them in an appearance of scientific neutrality. The algorithm does not eliminate bias; it transforms it into statistics and returns it as a technical decision.

In the United Kingdom, similar concerns are emerging with increasing intensity. Projects based on the massive integration of data from multiple public agencies aim to construct ever more detailed risk profiles. Civil rights organizations and Amnesty International have denounced these systems, arguing that they disproportionately affect the most vulnerable and marginalized communities and, in some cases, calling for their outright prohibition.

The real novelty lies not merely in the capacity to surveil millions of people but in the ambition to anticipate their future behavior. This is the same logic found both in predictive policing systems and in the most recent military applications of artificial intelligence. In both cases, the objective is not to establish a fact but to assign a probability: the probability that someone may commit a crime, represent a threat, or become a target.

From this perspective, the Israeli Lavender system represents a further and deeply troubling step. According to investigations published by +972 Magazine and Local Call, the system analyzed enormous quantities of data derived from surveillance networks, communications, and social relationships in order to assign probability scores to tens of thousands of Palestinians, identifying them as potential members of armed organizations. According to testimonies collected by journalists, human decision-making was often reduced to a rapid validation of the machine's recommendations.

The crucial point is that the same rationale currently denounced in relation to China's Geedge project was already present, in different forms, within Western predictive policing systems and reaches its most extreme expression in warfare. If, in the United States, an algorithm identifies neighborhoods or individuals deemed at risk, in Gaza systems such as Lavender have contributed to transforming statistical correlations and probabilistic models into target lists. The distance between prediction and action shrinks until it almost disappears.

Here a deeper transformation emerges. We are no longer dealing merely with states governing through laws, courts, and police institutions. We are witnessing the rise of algorithmic infrastructures that classify human beings according to profiles, data, and probabilities. Suspicion no longer arises from observed behavior but from calculated prediction. Guilt increasingly gives way to risk.

In this scenario, power progressively shifts toward those who own and control these technological infrastructures. Large platforms, artificial intelligence companies, and the owners of data networks and predictive models become actors capable not only of assisting governments but also of defining the very categories through which populations are classified, monitored, and administered. Sovereignty itself risks migrating from states to the architects of algorithms.

Lavender demonstrates how far this tendency can go. When a system can assign scores, select individuals, suggest targets, and accelerate decisions involving life and death, the issue is no longer merely technological or military. It becomes a fundamental political question: who truly governs society when the power to classify, predict, and decide is embedded within opaque systems controlled by small technological elites?

Gaza does not merely represent a laboratory of algorithmic warfare. It also anticipates what may occur when the predictive management of populations becomes the ordinary principle of government.

In this scenario, the risk is not simply the loss of privacy. It is the emergence of a logic in which human behavior is reduced to statistical calculation and the management of society increasingly rests upon the preventive classification of people. It is no longer only actions that are administered; probabilities themselves become the object of governance. And when power begins to treat human beings as predictions, the boundary between security and control inevitably begins to dissolve.