il secondo senso

Arianna Pasquini

6 ore fa

Tempo di lettura: 8 min

C'eravamo tanto armati

Sul gioco serio dell'Intelligenza artificiale / 1

Antefatto: un autunno particolare. L’aggressione di una maestra a Centocelle, la Super Intelligenza, la manovra di Anthropic

Venerdì 18 settembre uno studente di 13 anni si reca a scuola, la media Giovanni Verga di Centocelle a Roma, come quasi ogni mattina. Entra in classe regolarmente alla prima ora, tira fuori uno spray urticante con cui acceca la sua professoressa di italiano e poi la accoltella, senza ucciderla, grazie all’intervento di un altro studente tredicenne originario del Congo che evita il peggio. Lo studente aggressore, mentre è impegnato nell’azione, tenta di filmare le sue imprese in diretta sul canale Telegram internazionale True crime community di cui fa parte, dove spesso, si scoprirà, scambia messaggi in inglese con suprematisti bianchi più grandi di lui che mitizzano le stragi nelle scuole e invitano alla radicalizzazione e all’azione.

Diversamente da come funzionano gli Incel (dall’inglese involuntary celibate) membri della Manosfera, nonostante anche in questi canali Telegram la maggior parte degli iscritti siano uomini eterosessuali bianchi e giovani, l’Intelligenza Artificiale non viene impiegata attivamente come strumento per alimentare l’ideologia misogina (se sono solo è colpa delle donne) e i deepfake, o come surrogato relazionale per far fronte all’isolamento – l’IA in questo caso della True crime community non ha dunque un uso nativo di tipo ideologico, che si alimenta di dinamiche di gruppo – ma viene comunque impiegata da Telegram nella forma di sistemi di moderazione basati sull’IA per cercare di arginare la diffusione di contenuti illeciti, gruppi violenti e apologia di reati, sebbene con risultati spesso, evidentemente, molto limitati. La sicurezza è, come vedremo, nelle sue varie vesti (dalla gestione del rischio delle nuove tecnologie, alla sicurezza finanziaria, al dilemma etico), il tema principale per le politiche sull’Intelligenza Artificiale oggi.

Giovedì 24 settembre XI Jinping e Trump, oscurando tatticamente i riflettori che, nella vicina New York, sono tutti puntati sui lavori per l’81ª sessione dell’Assemblea Generale delle Nazioni Unite (a cui il presidente cinese non partecipa), si incontrano presso la Casa bianca, a Washington DC. La durata dell’incontro a porte chiuse si prolunga più del previsto e, si saprà subito dopo, il nodo da sciogliere che inchioda i due leader al tavolo è proprio quello dell’Intelligenza Artificiale. L’IA lanciata sul mercato internazionale dalla Cina con i modelli DeepSeek, è open weight – cioè rilascia liberamente i «pesi» dei modelli consentendo a sviluppatori e ricercatori di scaricarli, usarli e modificarli – è più efficiente e ha una spesa computazionale minima rispetto ai colossi occidentali finanziati da esorbitanti investimenti, soprattutto americani (OpenAI, Google, Anthropic, ecc). Questo per Trump è un chiaro ostacolo economico e geopolitico nella corsa alla Super Intelligenza, come l’ha di recente ribattezzata per non depotenziarla, in quanto per lui il fatto che fosse definita «Artificiale» la sminuiva e ne svalutava il potenziale di mercato.

I due presidenti si sono dati una prima annusata a riguardo, addirittura vis a vis (perché la faccenda è seria!) per decretare qualora siano possibili accordi comuni di non belligeranza tra la regolamentazione statale dell’IA (posizione di XI) e lo sviluppo dei modelli illimitato senza freni – l’autoregolamentazione delle Big Tech (posizione di Trump), per quello che si profila essere il principale gioco di potere e il principale conflitto del prossimo futuro. La necessità che spinge all’accordo posizioni altrimenti inconciliabili, è quella di cooperare sulla sicurezza globale senza però rinunciare alla corsa alla leadership tecnologica. Lo strumento decretato per fare ciò, per il momento, è una «hotline» diretta tra i due paesi dedicata specificamente alla gestione e al disinnesco di potenziali incidenti gravi legati all’uso dell’Intelligenza Artificiale.

Martedì 29 settembre il presidente cinese è ormai ripartito e Donald Trump convoca alla Casa Bianca i vertici delle principali aziende tecnologiche occidentali tra cui: Dario Amodei (Anthropic), Jensen Huang (Nvidia), Mark Zuckerberg (Meta), Jeff Bezos (Amazon), Sundar Pichai (Google), Greg Brockman (OpenAI) ed Elon Musk (xAI Corp). L’incontro, promosso dal repubblicano Mike Johnson, serve a definire e suggellare la posizione suprematista USA a livello internazionale nel grande salto in avanti della tecnologia promesso dai nuovi modelli di IA. Per il presidente USA serve fare fronte comune per veicolare il messaggio che l’IA non è rischiosa, anzi, va pubblicamente accolta e normalizzata, per non frenarne il progresso. Ma i CEO dei colossi tecnologici sono divisi sull’argomento: c’è chi sta con il presidente e chi freme per aumentare la regolamentazione allo sviluppo e all’utilizzo dei modelli, paventando il rischio etico e reale della perdita del controllo degli strumenti e il possibile scatto di autonomia della macchina, in perfetto stile catastrofico post-apocalittico. In particolare l’italiano Amodei, di Anthropic, cavalca pubblicamente quest’ultima onda, accusato dagli altri di farlo non per dilemmi etici, bensì per strategie finanziarie volte a creare più sicurezza intorno alla narrativa dell’IA per preparare il terreno al proprio lancio, si dice a ottobre, dentro Wall Street e quotarsi in borsa alla cifra record che potrebbe superare i 2000 miliardi di dollari, forte del successo dei suoi modelli Claude.

Ce n’est pas une intelligenza

All’inizio, per scrivere questo articolo, sono ricorsa all’Intelligenza Artificiale (che per comodità chiamerò solo IA, all’italiana, da qui in poi). L’ho fatto per addentrarmi nella materia, pensando che nell’utilizzo dello strumento, nelle sue forme elementari «aperte» a noi non addetti ai lavori (Gemini di Google e ChatGPT di Open AI), potessi catturare più sfumature del dibattito internazionale che tanto confonde. Il dibattito, appunto, spazia vertiginosamente tra politiche pubbliche, matematica, linguistica, cognitive computing, antropologia, psicanalisi, geopolitica e science fiction.

Il risultato della prima bozza di questo testo, così prodotta «aiutandomi» con l’IA, era un disastro, ma non sapevo spiegarmi il perché; nel senso che c’era qualcosa di complessivamente straniante nel testo, cacofonico e che sembrava quasi «scorretto» in italiano anche se, a ben vedere, non c’era nessun errore grammaticale, lessicale o di punteggiatura. Nell’insieme però non scorreva, nonostante i miei continui interventi che richiedevano al bot la modifica dello stile, delle intenzioni, del contesto e della finalità di utilizzo. E non era solo una questione, diciamo, profonda, legata al fatto che il testo prodotto non mi corrispondesse del tutto e non lo sentissi mio, ma anche che proprio non sembrava funzionare la sua sonorità, come se leggendolo ad alta voce non fosse armonioso e risultasse avvitato (non mi viene in mente un aggettivo migliore).

Grazie a questo esperimento elementare però, sono riuscita a dischiudere un primo livello di complessità del fenomeno: ho capito che l’IA è innanzitutto un modello linguistico [1]. Ma non è (ancora) un linguaggio.

Un modello linguistico è un sistema, è un’architettura, può essere quindi programmato e costruito (e governato?) ma non è una proprietà cognitiva. Il linguaggio è, invece, una facoltà cognitiva propria dell’essere umano. Quindi l’odierna dialettica dell’IA, che riguarda cos’è umano e cosa gli può somigliare, se la macchina può sostituirsi completamente all’umano e alle sue facoltà o meno, gira concretamente intorno alla questione: l’IA potrà produrre un linguaggio autonomo, quindi smettere di essere uno strumento e autodeterminarsi con «volontà propria» indipendente dall’umano?

Il punto è che questi sono, innanzitutto, quesiti mistificatori e domande mal poste. Infatti una tale dialettica della sostituzione (che fa da contraltare all’altra narrativa della sostituzione tipicamente fascista, di segno opposto, ovvero quella della sostituzione etnica dei bianchi da parte degli immigrati), è una dialettica depoliticizzante, che non vuole l’impegno nell’analisi etica del fenomeno e men che meno nelle sue implicazioni materiali e di classe.

Similmente a come fu agli inizi per il dibattito sul global warming, che situava le cause del cambiamento climatico in una generica umanità marcia e colpevole, raccolta dentro la formula Antropocene, senza differenziazioni di responsabilità al suo interno tra chi veramente ha accelerato il processo di decadimento della geosfera con l’industrializzazione e chi l’ha solo subito... ecco, proprio così, in questi giorni, si parla di IA: cioè neutralizzando i dilemmi etici e i conflitti sociali che ovviamente potrebbero scaturirne e costruendo il discorso sulla generica inevitabile evoluzione della tecnologia, rendendo invisibili le responsabilità dei soggetti che la vogliono, la finanziano e la usano realmente. Perciò sembra, a oggi, che i problemi siano limitati alla regolamentazione a livello governativo (vedi l’incontro bilaterale tra XI Jinping e Trump) quando, in realtà, questa è un’ulteriore rapida corsa ad accaparrarsi nuovi profitti giganteschi per pochissimissimi. Quindi la giusta domanda ora è, a chi serve l’IA?

Le risorse fossili estratte dalla terra, il carbone in primis, tra guerre e climate change non renderanno più profitti come una volta, tocca perciò trovare nuovi sistemi di accumulazione altrettanto profittevoli. Succede però, amaramente, che il consumo dell’infrastruttura intangibile dell’IA stia riattivando e prolungando, tra le altre cose, proprio la vita delle centrali a carbone, per soddisfare la sua domanda vorace di elettricità. Non solo, tornando a quanto detto sopra, addestrare un modello linguistico (LLM) [2] sfruttando reti elettriche alimentate a combustibili fossili, emette oltre 500 tonnellate metriche di CO₂ per singolo ciclo di training (è un’enormità), che ovviamente non risolve, anzi aggrava, la scarsità delle fonti energetiche «classiche» e, cosa ben peggiore, accelera il disastro ecologico. Penso perciò che il dibattito sul cambiamento climatico sia un ottimo punto di partenza per parlare, a livello materiale, di cosa fa l’IA. Perché in un gioco degli specchi distorto, costituisce esattamente l’altra faccia della medaglia di questo dibattito. E se ne parla, a livello narrativo di massa, con dinamiche simili.

To be continued...

Spiegherò meglio nella seconda parte (che uscirà prossimamente) il titolo di questo articolo e le implicazioni etiche complesse del dibattito odierno sull’IA. Per ora basti dire, che se l’utilizzo di questo strumento (forse la sua distruzione?) non verrà appropriato dalla gente comune ma resterà, come è ora, nelle mani sporche di chi ne stabilisce la proprietà e le finalità, ci aspetta una schiavitù dolorosa (non dalla macchina ma dal potere che la gestisce, che è tutto umano).

Note

1) A onor del vero non si può dire che l’intelligenza artificiale sia un modello linguistico, poiché il modello linguistico è solo un tipo specifico di intelligenza artificiale. L’IA è una disciplina informatica molto vasta che studia come creare sistemi in grado di imitare le capacità umane, come il ragionamento, la guida autonoma, la visione artificiale o il calcolo matematico. Ciò che mi importa qui, è che il modello linguistico sia, tra tutti gli utilizzi dell’IA, quello più diffuso tra noi comuni mortali che facciamo un utilizzo dell’AI molto limitato e ristretto rispetto, ad esempio, al settore bellico, che ne sfrutta maggiormente il potenziale. In sintesi i grandi modelli linguistici (o LLM) sono i sistemi di intelligenza artificiale più utilizzati in modo consapevole e diretto dalla gente comune nella vita di tutti i giorni (su quelli inconsapevoli e indiretti si aprirebbe una parentesi troppo grande, materia per altri articoli). 2) L’IA, a cui mi sono rivolta per scrivere questa nota, definisce un modello linguistico come un sistema di intelligenza artificiale progettato per comprendere, elaborare e generare il linguaggio umano. Funziona principalmente attraverso: la previsione statistica (il modello analizza un testo e calcola la probabilità statistica della parola o del frammento successivo – token – basandosi sui dati su cui è stato addestrato); attraverso reti neurali e Transformer (i modelli di ultima generazione, detti Modelli linguistici di grandi dimensioni – LLM appunto – utilizzano architetture avanzate di deep learning chiamate Transformer per riconoscere le relazioni complesse tra le parole all’interno di un contesto), e la generatività passo-passo (il sistema non pensa come un essere umano, ma produce testo una parola alla volta, scegliendo quella più coerente con il contesto ricevuto).

Arianna Pasquini è un’attivista romana, lavora da quattordici anni come cuoca e ha un dottorato in Studi politici conseguito presso l’Università di Roma La Sapienza nel 2023. Le sue ricerche nell’ambito della filosofia politica contemporanea sono state incentrate soprattutto sulla relazione tra femminismi storici, transfemminismi odierni e teorie sulle diverse crisi del mondo contemporaneo (di cura, ecologica, politica, di senso). Il rapporto tra teoria e prassi, tra paradigmi filosofici e pratiche militanti, è alla base della sua metodologia di inchiesta, così come l’analisi della critica immanente ai femminismi e la relazione tra donna e natura (sia questa presunta, costruita socialmente, mistica o materiale).