selfie da zemrude

Paolo Punx
1 giorno fa
Tempo di lettura: 13 min

L’Intelligenza Artificiale, la sua funzione sociale e il suo rapporto con la sfera delle emozioni

Con l’avvento dell’Intelligenza artificiale, è facile chiedersi se questa sia un bene o un male.

In realtà, però, più che demonizzare o esaltare l’IA, sarebbe opportuno domandarsi quale sia il suo uso nel contesto sociale, perché è questo con cui noi dobbiamo fare i conti.

Se l’IA è in grado di imparare dalle esperienze e di prendere decisioni in autonomia, allora è lecito chiedersi qual è il suo grado di autonomia.

Qual è il rapporto di questa macchina linguistica con la sfera delle umane emozioni?

La rivoluzione informatica sembra procedere a passi da gigante con continue innovazioni tecnologiche che stanno trasformando anche le nostre stesse esistenze.Molti processi quotidiani sono ormai governati da algoritmi.Gli algoritmi classici, però, sono strumenti piuttosto rigidi, programmati per rispondere in forma automatica al verificarsi di una sequenza di condizioni, per cui l’imprevisto, non contemplato dalla loro programmazione, rischia di metterli profondamente in crisi.Anche per ovviare a tale limite nasce ciò che noi definiamo «Intelligenza Artificiale».L’IA è uno strumento decisamente più flessibile e dinamico, capace di compiere scelte autonome e soprattutto di apprendere dalle esperienze (Machine Learning, ossia Apprendimento Automatico), imparando, perciò, anche a gestire in autonomia gli imprevisti.Già, ma qual è il grado di autonomia dell’intelligenza artificiale?Quali scelte può compiere?Qual è il suo rapporto con la sfera emozionale?Difficile fornire delle risposte univoche, poiché il comportamento dell’IA è strettamente legato al suo scopo primario (imprinting), ossia alla sua funzione d’uso.Pertanto, vale la pena di provare ad analizzarne la funzione dell’IA in alcuni contesti specifici.

L’Intelligenza Artificiale in tuta mimetica Sempre più assistiamo impotenti all’uso dell’intelligenza artificiale nelle guerre e nei genocidi.Per esempio, nella distruzione di Gaza, Israele ha fatto largo uso dell’intelligenza artificiale per individuare e distruggere i target da colpire. In tal caso, lo scopo primario dell’IA era quello di individuare, colpire e distruggere tutto ciò che veniva identificato come bersaglio.Per entrare nel merito, vale la pena di provare a descrivere la funzione delle tre principali IA tuttora utilizzate da Israele.

Lavender (Lavanda): viene usata per individuare potenziali bersagli incrociando dati provenienti dai social, dal web, dalle intercettazioni telefoniche e dai rapporti dei servizi.Lo scopo primario dell’IA è chiaro ed il suo grado di autonomia decisionale non contempla né la presunzione di innocenza del soggetto individuato (anche un semplice post critico nei confronti di Israele potrebbe essere considerato sufficiente), né qualunque tipo di empatia con lo stesso, anzi nell’individuazione del bersaglio l’errore non costituisce un problema, ma è considerato accettabile.

Habsora (Il Vangelo): consente di individuare e colpire con precisione i bersagli. L’eliminazione dei bersagli a seconda dell’importanza attribuita al target, contempla anche la possibilità di causare decine di vittime innocenti, non legate al soggetto che si intende eliminare.Habsora può imparare a gestire nel migliore dei modi il drone o il missile al fine di superare qualunque ostacolo e raggiungere con precisione il bersaglio, può calcolare il numero di vittime collaterali in funzione dell’importanza del target, ma nessuna supplica delle vittime sacrificali, bambini compresi, ha la possibilità di influenzare la scelta dell’IA nel colpire ed eliminare il bersaglio.

Where’s Daddy (Dov'è papà): ha lo scopo di tracciare la posizione dei soggetti che si intende eliminare, mentre, per esempio, rientrano nelle loro abitazioni.Anche in questo caso valgono le stesse considerazioni riferite a Lavender e Habsora.Oltre ad Israele, anche nel conflitto Russia vs Ucraina-Nato si è fatto un gran uso di droni, alcuni dei quali probabilmente guidati dall’IA.Si può anche piangere a dirotto di fronte a un drone governato dall’IA, ma se tu sei il suo bersaglio non si può pensare di suscitare compassione. Il drone potrà pure imparare come superare gli ostacoli che incontra lungo percorso, ma il suo fine rimane quello dell’eliminazione del bersaglio, per cui l’empatia con gli umani e la sfera emozionale rappresenterebbero solo un ostacolo all’esercizio della funzione primaria.E’ del tutto evidente che un simile utilizzo dell’IA in guerra si muove di pari passo con il progressivo smantellamento di qualunque regola internazionale, di qualunque tutela dei diritti umani, in una prospettiva in cui il dominio non riconosce più alcun limite.L’Intelligenza Artificiale in divisa In questo contesto, lo scopo primario dell’IA è quello di operare un controllo ferreo del territorio, con interventi mirati ai soggetti che lo attraversano.Di nuovo, è impossibile non citare Israele come esempio. Per controllare i territori occupati, Cisgiordania in primis, Israele si avvale anche dell’IA connessa a telecamere ad alta risoluzione ed interfacciata con diverse banche dati.L’IA viene usata sia per il riconoscimento facciale di chiunque debba attraversare un checkpoint o una determinata area delle città, sia per definirne un profilo attribuendo ad ognuno un grado di presunta pericolosità. Il passante, pertanto, può essere ritenuto: innocuo (se non è un palestinese); da controllare (anche se abita nell’area, ma i suoi spostamenti nel corso della giornata o il suo comportamento sono ritenuti sospetti); pericoloso (se dalle banche dati risulta: estraneo alla zona, già respinto altre volte; precedentemente fermato; con precedenti penali; ricercato, ecc.).Successivamente alla classificazione operata dall’IA, la persona può essere controllata, fermata per più o meno tempo, respinta con divieto di ingresso nella zona o arrestata.L’unica differenza con l’uso dell’IA in guerra riguarda l’analisi del comportamento umano necessario all’Intelligenza Artificiale per classificare il soggetto. In tal caso, l’apprendimento dell’IA cresce con l’aumentare delle persone controllate ed a tal fine le manifestazioni fisiche delle emozioni vengono interpretate dall’IA per segnalare i comportamenti ritenuti nervosi, aggressivi, minacciosi, ecc.Anche in questo caso è evidente che l’utilizzo dell’IA nel controllo del territorio si muove di pari passo con il progressivo smantellamento del cosiddetto “stato di diritto” sostituito da un crescente autoritarismo senza limiti.Non a caso, i recenti decreti sicurezza approvati dal Governo Meloni istituiscono aree delle città, definite zone rosse, da inibire ad alcuni soggetti.Anche se oggi il controllo di tali zone avviene con l’utilizzo del personale delle cosiddette forze dell’ordine, con lo sviluppo dei progetti di smart city probabilmente entro breve verrà utilizzata l’IA per controllare gli accessi a tali aree ed in un futuro nemmeno troppo lontano anche l’allontanamento delle persone non gradite potrebbe essere effettuato da droni attivati direttamente dall’IA.D’altronde, già durante il lockdown del 2020, in Cina sono stati utilizzati dei droni per “convincere” chi girovagava per le strade a rientrare a casa. L’Intelligenza Artificiale in versione Top Manager

Sono sempre più le aziende che ricorrono all’IA per organizzare il lavoro.Le recenti inchieste sul brutale sistema di sfruttamento dei rider operato con l’ausilio di algoritmi, rende l’idea di come funziona l’organizzazione del lavoro in alcune di queste aziende (Glovo, Deliveroo; Amazon).Gli algoritmi scandiscono i tempi di lavoro dei rider, incuranti anche dei più essenziali bisogni fisiologici e distribuiscono le commesse in una sorta di virtuale utilizzo del bastone e della carota.Per esempio, chi si rifiuta di consegnare la merce in località difficili da raggiungere (ricevendo il medesimo compenso), poi viene escluso dalle successive consegne .In ambito lavorativo, l’IA usa la sua capacità di apprendere al fine di incrementare i profitti dell’azienda.Con l’IA non si può trattare, i suoi ordini sono insindacabili. All’IA non importa se sei stanco, se un rider o un corriere deve pisciare prima di consegnare un pacco, l’empatia con chi lavora in questi contesti non è contemplata.D’altronde, tale utilizzo dell’IA si muove di pari passo con la progressiva scomparsa di qualunque mediazione, in cui il comando appare sempre più come un muro invalicabile che riduce il rapporto di lavoro ad un impari confronto con i singoli.Con l’avvento dell’IA, la figura apicale del capo cela le sue sembianze dietro un inarrestabile e indiscutibile automatismo.L’unico modo di attirare l’attenzione dell’IA è il sabotaggio collettivo della struttura organizzativa, poiché tale azione incide sul suo scopo primario, ossia l’incremento del profitto e costringe l’IA ad affrontare e gestire una situazione imprevista.Spesso, però, il lavoro e la cooperazione sociale che ne costituisce le maglie, producono anche un sapere collettivo che il capitale tende a sussumere, inglobare, fare proprio.Pertanto, la capacità dell’IA di leggere e interpretare i comportamenti umani potrebbe anche essere utilizzata per migliorare le forme organizzative e produttive, acquisendo tale sapere al fine di incrementare il profitto.D’altronde l’IA, a differenza degli algoritmi classici, ha la capacità di apprendere e cambiare sfruttando le interazioni con gli umani.Certo si tratta di un’interazione finalizzata al mero profitto, ma è pur sempre qualcosa di diverso da una semplice azione automatica, dato che coinvolge i comportamenti umani in cui anche le emozioni contano.Nulla vieta all’IA, nell’impostare l’organizzazione aziendale, di considerare anche l’aspetto motivazionale e il benessere di chi lavora, affinché la produzione di quel sapere da sussumere possa svilupparsi, ma c’è da chiedersi se e in quali forme oggi tale processo sia auspicato dal capitale. Il limite, in questo contesto, non è dettato dall’IA, ma dal suo attuale utilizzo, ossia dalla sua funzione nell’organizzazione del lavoro attualmente incentrata soprattutto sul comando. L’Intelligenza Artificiale alle prese con la vita messa in produzione Siamo nell’era digitale, dove un click, un like, una faccina possono arricchire a dismisura società o persone.Collezionare follower è la professione preferita dei cosiddetti influencer e rende assai più delle surclassate collezioni di monete o francobolli.Catturare visitatori per le proprie pagine web o utilizzatori del proprio motore di ricerca significa assicurarsi una valanga di commesse pubblicitarie ed enormi ricchezze.Nel mondo dei click, il rapporto tra l’IA e la sfera delle umane emozioni che in altri campi era d’impiccio, qui invece diventa fondamentale.Un esempio? META quando ha introdotto la propria IA, candidamente rivelava all’utente che il suo uso serviva per allenarla.Già, ma allenarla a cosa?A profilare gli utenti, a catalogarne i comportamenti, per catturarli nella propria redditizia rete di relazioni.Per catturare gli utenti, però, bisogna coglierne i desideri, le emozioni, i gusti, i comportamenti e l’IA, un click, un like, un post e una faccina dopo l’altra, traccia un profilo e cerca di predire il tuo comportamento, vendendo, poi, tali dati al miglior offerente.Più tempo passa, più profili vengono tracciati, più l’IA affina la sua capacità di predizione del comportamento.Ecco di quale allenamento blatera META, che gestisce WhatsApp, Facebook, Instagram e Messenger.Spesso, poi, c’è chi usa l’IA per chiedere cosa fare, come comportarsi in una determinata situazione, ecc.Un processo che necessita di una costante interazione tra umano e IA, poiché le risposte non potranno essere generiche ed uguali per tutti, ma dovranno essere calibrate sul richiedente, che ha gusti, desideri ed emozioni proprie.Nonostante ciò, il rischio tutt’altro che residuo è che complessivamente lo scopo nascosto di tale interazione sia quello di lisciare nel tempo i comportamenti, indirizzandoli, seppur nella diversità di approccio che caratterizza la moltitudine, verso la medesima direzione (consumistica, subalterna, ecc.).In un mondo sempre più caratterizzato dalla virtualità, l’IA gioca un ruolo fondamentale, sia per la capacità di realizzare immagini, video, musiche artefatte, sia per la costruzione di luoghi dove la virtualità sostituisce interamente la realtà, fino all’apoteosi del metaverso.Mentre la linea di demarcazione tra virtuale e reale diventa sempre più sottile, l’informazione si confonde sempre più con la propaganda. La possibilità di alterare immagini o video con l’ausilio dell’IA mina fortemente la credibilità delle informazioni, con la conseguenza che ognuno rischia di credere solo alla realtà che preferisce o che più lo convince ed in un simile contesto prevalgono la propaganda di regime o il complottismo funzionale (tipo QAnon) e non la controinformazione.Quando, poi, la virtualità creata dall’IA cattura entro i propri confini i desideri e la vita delle persone, le conseguenze possono divenire devastanti.Recentemente, negli USA, diverse famiglie hanno intentato alcune cause, concluse con un accordo transattivo, in cui sostenevano che le relazioni emotive sviluppate con chatbot di intelligenza artificiale avevano contribuito al suicidio o a gravi forme di autolesionismo dei loro figli adolescenti.Pertanto, prima di attraversare le porte del metaverso, forse sarebbe saggio chiedersi come in Matrix: pillola rossa o pillola blu?

A Milano tutt3 mi conoscono come Paolo Punx. Ho iniziato a partecipare al movimento appena arrivato alle superiori, nell'ottobre del 1977, da studente medio di un Istituto Tecnico. Dal movimento all’autonomia il passo è breve! Nei primi anni ’80 uno dei pochi esemplari di punx autonomo. Dalle lotte contro il carcere e l’articolo 90, a quelle contro i missili a Comiso prima e poi il nucleare. Nel 1984 mi trasferisco dalla provincia di Varese a Milano, partecipando attivamente al ciclo di lotte per le occupazioni dei centri sociali, al movimento della pantera, contro le guerre, per il reddito di cittadinanza universale e incondizionato. Pur essendo tornato a vivere in provincia, da allora, in un susseguirsi di iniziative, continuo ostinatamente a volere tutto e subito! Se dovessi scegliere una colonna sonora userei la musica di L’ultimo dei Mohicani... giusto perché ho iniziato proprio mentre il movimento del 77 finiva.

Artificial Intelligence, Its Social Function, and Its Relationship with the Sphere of Emotions

by Paolo Punx

With the advent of artificial intelligence, it is easy to ask whether it constitutes a benefit or a danger. In reality, however, rather than demonising or glorifying AI, the more productive question is what its role is within the social context, because that is the arena in which we must ultimately reckon. If AI can learn from experience and make decisions autonomously, it is legitimate to inquire about the extent of its autonomy. What, then, is the relationship between this linguistic machine and the realm of human emotions?

From Rigid Algorithms to Flexible Intelligence

The current wave of computerisation proceeds at a breathtaking pace, driven by constant technological innovations that reshape even our own ways of living. Many everyday processes are now governed by algorithms. Classical algorithms, however, are relatively inflexible tools programmed to react automatically to a predefined set of conditions; any unforeseen circumstance that falls outside their programming can throw them into deep crisis.

To overcome this limitation we have created what we call artificial intelligence. AI is a markedly more flexible and dynamic instrument, capable of making autonomous choices and, crucially, of learning from experience (machine learning). In this way it can also cope autonomously with the unexpected. Yet the question remains: what is the degree of AI’s autonomy? Which choices can it actually enact? What is its relationship to the emotional sphere?

Answers cannot be monolithic, because AI behaviour is tightly bound to its primary purpose (its imprinting), that is, to the function for which it is deployed. Consequently, it is useful to examine AI’s function in a series of concrete contexts.

AI in Camouflage

We increasingly witness, helplessly, the use of AI in wars and genocides. In the destruction of Gaza, for example, Israel has made extensive use of AI to identify and strike targets. In that case the primary purpose of the AI was to locate, hit and destroy anything designated as a target.

Three AI systems currently employed by Israel illustrate this function.

Lavande: cross references social media data, web content, phone intercepts and intelligence reports to locate potential targets. No presumption of innocence is built in; a single critical post can suffice for targeting. Errors are tolerated rather than corrected.

Habsora (Gospel): provides precise targeting for drones or missiles; calculates collateral casualties based on target importance. Even large numbers of innocent victims may be accepted if the target is deemed valuable; pleas from victims—including children—have no impact on the system’s decision making.

Where’s Daddy: tracks the location of individuals slated for elimination, even within their homes. Shares the same lack of empathy and disregard for human suffering as the other two systems.

Similar AI driven drone deployments have been reported in the Russia Ukraine–NATO conflict. Regardless of the platform, the algorithmic capacity to overcome obstacles is directed solely toward the elimination of a target; any form of empathy would be treated as an operational hindrance. This use of AI runs parallel to the progressive erosion of international law and human rights safeguards, reflecting a paradigm in which domination recognises no limits.

In another context, AI’s primary purpose becomes the tight control of territory. Again, Israel provides a vivid example: the occupied West Bank is monitored through high resolution cameras linked to extensive databases. AI performs facial recognition at checkpoints, assigning each passer by a risk profile (innocent, to be monitored, or dangerous) based on factors such as prior arrests, criminal records, or being a non Palestinian.

The classification triggers a range of responses—longer checks, denial of entry, or outright arrest. Unlike the purely lethal logic of warfare, the control oriented use of AI relies on the interpretation of human emotional signals (nervousness, aggression, threat). Nevertheless, it similarly contributes to the dismantling of the rule of law, ushering in an increasingly authoritarian regime.

Recent Italian security decrees under the Meloni government have created “red zones” where access is restricted for certain categories of people. While today these zones are policed by human officers, the development of smart city projects suggests that AI driven monitoring and, eventually, AI controlled drones could enforce entry bans in the near future. A comparable precedent occurred in China during the 2020 lockdown, when drones were used to compel wandering pedestrians to return home.

AI as Top Management Tool

Corporate adoption of AI for organisational planning has grown dramatically. Investigations into the exploitative conditions of gig economy riders (e.g., Glovo, Deliveroo, Amazon) reveal how algorithmic scheduling disregards basic physiological needs, allocating tasks through a virtual carrot and stick system. Workers who refuse deliveries to difficult locations are promptly excluded from future assignments.

In such settings AI’s learning capacity is harnessed primarily to maximise profit. The system’s directives are incontestable: fatigue, the need to relieve oneself, or any form of human empathy are irrelevant to its calculations. This creates a labour relationship that is increasingly asymmetrical, with management reduced to an unchallengeable automated authority.

Collective sabotage—disrupting the organisational structure—remains the only effective way to force the AI to confront an unforeseen situation, thereby threatening its profit maximising objective. Nevertheless, the very data that AI gathers about human behaviour can, in principle, be employed to improve organisational design, taking into account motivation and well being. Whether contemporary capitalists actually pursue such a humane orientation is a separate question. The limitation, therefore, lies not in AI itself but in the way it is currently deployed: as a tool of command rather than of collaborative facilitation.

AI in the Production of Life

In the digital era, a single click, a like, or an emoji can generate immense economic value. Influencers turn follower counts into fortunes; attracting traffic to a website or to a search engine translates into massive advertising revenue. In this ecosystem the interface between AI and human emotion moves from peripheral to central.

Meta’s recent rollout of its own generative AI openly informs users that their interactions serve to train the system. The objective of this training is to profile users, catalogue their behaviours, and ultimately harvest them within a lucrative relational network. Each click, like, post, or reaction contributes to a continuously refined predictive model that can anticipate and steer user behaviour, later selling that data to the highest bidder.

Because AI must tailor its responses to individual emotional states, a constant human AI dialogue emerges. Yet the hidden purpose of this interaction often lies in smoothing behaviour toward a common, consumerist direction, thereby reducing diversity of desire to a homogenised market demand.

The blurring line between virtual and physical reality is further accentuated by AI generated images, videos, music, and immersive environments (the metaverse). As the boundary erodes, information increasingly merges with propaganda. AI enabled manipulation of visual media undermines credibility, fostering environments where people accept only the narratives that confirm their pre existing beliefs—whether those are state driven propaganda or conspiratorial discourses such as QAnon.

A recent wave of lawsuits in the United States illustrates the emotional stakes: several families have reached settlements after alleging that their adolescents’ emotional attachment to AI chatbots contributed to suicide attempts or severe self harm.

Consequently, before stepping through the portal of the metaverse, it may be prudent to ask the Matrix question: red pill or blue pill?

I am known throughout Milan as Paolo Punx. I began participating in the movement as soon as I entered secondary school, in October 1977, while attending a technical institute. The transition from the broader movement to autonomy was swift. In the early 1980s I was one of the few autonomous punx—engaging in struggles against the prison system and Article 90, and later opposing the missile installations at Comiso and, subsequently, nuclear projects. In 1984 I moved from the province of Varese to Milan, taking an active role in the wave of occupations of social centres, in the Panther movement, in anti‑war actions, and in campaigns for a universal, unconditional basic income. Although I later returned to live in the province, I have, ever since, pursued a relentless “all‑or‑nothing” approach through a succession of initiatives. If I had to choose a soundtrack for my life, it would be the music of The Last of the Mohicans, simply because I started my activist trajectory at the very moment the 1977 movement was drawing to a close.