La tecnopolitica ovvero l’arte della pesca d’altura
Anche chi non ha letto Technopolitics di Asma Mhalla [1] ne ha sentito parlare perché quando si parla di tecnologia digitale, pochi lavori hanno beneficiato di una tale copertura mediatica. Per comprendere le tesi e le argomentazioni dell’autore e stabilirne i limiti di validità, bisogna sfuggire all’effetto di stupore del libro e del suo stile, segnato da un’iperbole permanente e dall’accumulo di fatti provenienti dalle abbondanti notizie in questo settore. Auspicavamo in un’analisi che tagli, classifichi e indirizzi, otteniamo una “simbiosi” che si può riassumere in “tutto è in tutto e viceversa”.
Retorica della pesca d’altura
Ammettiamo innanzitutto che si impara molto leggendo quest’opera: la capacità dell’autore di accumulare gli annunci, le citazioni, i dati che proliferano sui media e su Twitter, permette senza dubbio al lettore di effettuare un utile aggiornamento giornaliero su un punto. Ma la valanga di fatti funziona un po’ come i social network di oggi: non sappiamo più distinguere l’importante dal banale. Ma questo è ciò che ci aspettiamo da un lavoro del genere: offrirci una griglia di analisi, selezione e definizione delle priorità in questa agitazione permanente del settore digitale in generale.
Invece di una griglia di analisi, il lettore lascia con una scorta di “parole grosse”, che dovrebbero mostrare la complessità di tutto (politico, tecnico, economico, geopolitico, cognitivo, ecc.) che porta a una “tecnologia totale” “simbiotica”. Colpisce l’inflazione di termini iperbolici: Big Tech (185 occorrenze), Big State (109), Tecnologia totale (146), ipersistema (121) (78 comprendendo ipervelocità, iperpotenza, iperguerra, ipermodernità, ecc.), ecc. Sono tutti dichiarati come atti di autorità terminologica degni di concettualizzazione attraverso il processo “….che io chiamo…”.
Questa iperbole, un potentissimo espediente retorico per affascinare il lettore o addirittura per stupirlo, a quanto pare ha funzionato molto bene con i media, stupiti da questo saggio “dirompente”. C’è da dire che, in questo libro, l’iperbole finisce per superare se stessa in adynaton, un modo di dire che esagera i fatti descritti al punto da rendere inconcepibile l’informazione. Si lascia poi il registro del saggio con pretese scientifiche per quello della profezia, della visione ispirata o dell’oracolo minaccioso.
Non c’è più un’argomentazione ordinata, progressiva e discutibile ma un accumulo di fatti che confluiscono in un improvviso aumento di generalità, senza altra mediazione o dimostrazione. Una citazione, un aneddoto, una figura, una connessione tra entità di dimensioni molto diverse e, per concludere, un termine massiccio e generale, che impressiona per l’effetto svelante che provoca, un effetto apocalittico, che rivela ciò che era nascosto (che ci ricorda un altro titolo di successo che ho anche recensito).
All’improvviso, alla fine del libro, ci ritroviamo “soldati” della guerra informativa, senza argomentazioni precise, senza discussione del termine, senza le consuete precauzioni e lo shock provocato sfrutta il metodo delle parole d’ordine, come dovrebbe essere l’epoca dei social media e della diffusa diffusione virale.
Complessità = confusione?
È vero che la rete di attori, questioni e ambiti con cui Asma Mhalla si confronta è complessa. Ma di fronte a questa complessità si può procedere per scomposizione e settorizzazione, per mappatura di tutte le connessioni, per genealogia dettagliata o anche per modellizzazione astratta. Si sceglie qui di procedere per assemblaggio fuzzy utilizzando operatori terminologici sempre più generali e collocati sempre ad una scala di descrizione impossibile da documentare sistematicamente. Il che si traduce in un lavoro sovralimentato, drogato di grande terminologia e dispacci mediatici, che evita l’analisi dei dati, i dettagli tecnici, la chiarezza concettuale.
In queste condizioni, il lettore non può comunque sperare in alcuna soluzione proposta e l’opera se la cava “contemporaneamente” su tutti gli argomenti, rifiutandosi di nominare i responsabili, o passando improvvisamente a soluzioni cognitive individuali dell’ordine del bene. Intenzioni infatti riferite a ciascuno per se stesso (ma senza sensi di colpa, attenzione!).
Questo è l’effetto più dannoso di questa confusa operazione di aggregazione etichettata come “simbiosi”: paralizzare l’azione, restare nell’inganno e nello stupore senza dire una parola per tutti coloro che cercano di inventare nel presente alternative politiche a questa macchina da guerra che ci viene lanciata in faccia (l’intelligenza artificiale open source e spiegabile viene ad esempio inviata in poche righe).
https://www.asterios.it/catalogo/il-capitale-sorvegliante
La filosofia da sola non ci salverà dalla sorveglianza
Di fronte a un compito così sovrumano, “strutturare i numerosi intrecci della tecnopolitica”, la filosofia sembra la via d’uscita più semplice, nella tradizione del maestro pensatore di Asma Mhalla, Bernard Harcourt. I primi capitoli, senza dubbio i più accademici, fanno appello a quanto appropriato da Foucault e dalla Arendt, per dipingere il quadro di questa società di sorveglianza generalizzata, già ampiamente annunciata nella ricerca e nei media e soprattutto documentata con precisione da Shoshana Zuboff.
Si dice spesso che Marx abbia rivisto la sua visione delle relazioni sovrastruttura/infrastruttura nei termini di un “Infrasistema” che collega direttamente la modalità di produzione dell’informazione e gli effetti ideologici. Idea presente in particolare negli studi algoritmici (non citata nel lavoro) per documentare precisamente come la produzione di questi algoritmi incapsula un’ideologia attraverso pregiudizi e architetture scelte. Essendo questo argomento centrale nel lavoro, ci aspetteremmo una documentazione precisa di queste connessioni che trasformano tecnicamente i nostri modi di pensare al punto da renderci “soldati”. Ma questo sembra impossibile perché mancano due approcci, niente meno che economico e tecnologico, che vengono trascurati anche se avrebbero contribuito a definire questi anelli operativi nella catena di mediazioni per far sì che questa “tecnologia totale” tenesse insieme. Eppure economia, tecnologia e ideologia dovrebbero costituire il “Trittico della Big Tech [2] ”.
Le scienze cognitive e il lavoro sull’attenzione sono citati in modo molto allusivo (grazie Kahneman) e talvolta tralasciando il punto essenziale: il ritmo attentivo imposto dall’imperativo di reattività codificato negli algoritmi delle piattaforme, come ho indicato nel mio lavoro . Gli sviluppi sulla disinformazione rimangono quindi molto convenzionali finché non entriamo nei meccanismi della propagazione virale che sono il cuore della macchina.
BigTech senza economia?
Tuttavia, appena si esamina questo punto, non si può evitare di fare riferimento ai modelli economici di queste piattaforme, per le quali la pubblicità ha giocato un ruolo determinante nella loro valutazione. E lì Marx avrebbe dovuto ispirare un’analisi sistematica della catena di produzione del valore, finanziaria e pubblicitaria, che spieghi l’”onnipotenza” di queste aziende: secondo me e molti altri, il punto chiave resta la valorizzazione dei marchi tra gli investitori grazie alla pubblicità online basato sulla tracciabilità dell’attenzione e delle reazioni (engagement). Ma la parola pubblicità in sé viene usata solo due volte in tutto nel lavoro. Come il resto del lessico economico.
Questo rifiuto di prendere in considerazione la dimensione economica di questo Grande Sistema è sorprendente e indebolisce l’intera opera. Ma possiamo capirlo perché da un lato bisognerebbe poi argomentare con dati precisi e soprattutto validare i concetti con cui si parla di cosa costituisce questa “Big Tech”: si tratta infatti di imprese capitaliste (di cui il capitalismo, come caratterizzarlo?), sono piattaforme (ed esiste tutta una letteratura per mostrare chiaramente la specificità di questo modello economico, ma non se ne discute mai e il concetto viene evacuato) e sono globali (il che porta a una necessaria discussione su questioni di sovranità) e non “multinazionali”.
Ma capitalismo e classi sociali (evacuate a beneficio delle masse!?!) devono essere parolacce dell’epoca precedente e sembrare troppo radicali per l’autore. Tutto ciò rende difficilmente operativo il termine Big Tech poiché, a seconda del capitolo, si aggiungono altre aziende come Open AI, Anthropic o anche Palantir, famosa sicuramente per il suo ruolo nei sistemi di sorveglianza ma con un rapporto con il pubblico totalmente diverso, con lo status di piattaforme e un potere economico molto inferiore.
La storia stessa è sovrascritta poiché Microsoft e Apple, che risalgono alla fine degli anni ’70, dovrebbero apparire con Google e Meta all’inizio degli anni 2000, data della “privatizzazione del web”. Ma la “privatizzazione della rete” non è iniziata nel 2000, bensì nel 1996, quando il governo americano ha affidato la gestione di Internet (non della rete!) agli operatori di telecomunicazioni, o nel 2008-2009, quando i social network (e quindi non l’intero web) vengono monetizzati attraverso la pubblicità (YouTube, Facebook e Twitter). Vale a dire due forme di privatizzazione molto diverse che hanno avuto anche conseguenze diverse: la prima ha orientato le scelte architettoniche per il commercio (e quindi la velocità a tutti i costi, vedi Lessig, a discapito della sicurezza) poi che la seconda ha avuto conseguenze più radicali in termini di entrate generate dalla pubblicità. Questa trattazione approssimativa della storia indebolisce l’intera argomentazione perché senza una genealogia precisa siamo condannati alle generalizzazioni.
Il caso di Musk è sicuramente complicato da affrontare perché le sue aziende non creano piattaforme ma prendono posizione in molti settori chiave rimescolando ogni volta le carte (automotive, spazio, AI) come mostra chiaramente l’autore. Ma nonostante l’attenzione costante del libro su Musk (onnipotente al punto da “sconvolgere Wall Street [3]“!), l’autore non riesce a farci capire la sua strategia su Twitter e questo probabilmente perché non è una strategia, in ogni caso, estraneo agli orientamenti di altre grandi piattaforme note come GAFAM.
Ricorrere, come fa il libro, alle scelte ideologiche di Musk diventa allora una soluzione facile perché i suoi discorsi sono innumerevoli e talvolta contraddittori. L’accento è infatti posto sull’ideologia in tutti i capitoli, sui discorsi, sulla storia degli individui, sui loro legami (Thiel e Musk molto spesso, anche Altman). Ma, anche a questo livello, non possiamo davvero allontanarci né dall’aneddoto né dal ritratto generale del libertarismo, nonostante le menzioni utili ma sommarie di “altruismo efficace”, “pensiero a lungo termine” e World ID/World Coin. Mentre ci aspetteremmo un’analisi dettagliata della genealogia delle idee e della rete di relazioni, che ci permetta di comprendere questa saga che fece nuovamente parlare di sé in occasione dell’annullamento del licenziamento di Sam Altman nel 2023 (Paul Jorion fa un’analisi più dettagliata anche se molto provocatorio).
Una tecnopolitica così poco tecnica
Questa debolezza in materia economica si accompagna ad una generale vaghezza in termini di tecnologia. L’autore non sembra sottrarsi ai riflessi mediatici che parlano di “AI” al singolare, di AI generativa in particolare, evocando scelte necessarie tra soluzioni senza mai presentarle, non occupandosi mai proprio dei modelli di programmatic advertising e di profilazione ad esso associati e ignorando tutto la letteratura in materia. Ciò ci permette di credere nel monitoraggio individualizzato di ogni persona, il che rafforza la conclusione anticipata sulla mobilitazione delle menti come “soldati”.
Mentre la profilazione lavora soprattutto su correlazioni di tracce di microcomportamenti (come il tempo trascorso su una pagina, un like, ecc.) il cui legame con l’identità civile delle persone resta del tutto secondario (altrimenti bisognerebbe dimostrarlo con caso specifico). La tecnologia è annegata nella terminologia del “totale” che consente di aggregare tutto senza dover dimostrare il ruolo di ciascun anello nel “sistema”. E questa non è una buona notizia per l’idea della “tecnopolitica”, che presupponeva reintrodurre la politica nella tecnologia a condizione di accettare di entrarvi.
Misuriamo allora il divario con gli STS (Studi di Scienza e Tecnologia) che sono obbligati a seguire con precisione tutte le scelte degli esperti del settore nella messa a punto di un sistema tecnico, che possa convincerli della loro responsabilità politica e morale in ogni fase della loro attività di lavoro tecnico. Temo fortemente che, agli occhi dei data scientist, l’approccio delle scienze umane e sociali si troverà squalificato da questo saggio.
Un estratto permette di vedere in azione il metodo di scorciatoie impattanti e, soprattutto, poco tecnicamente documentate: “L’industrializzazione del microtargeting di contenuti e informazioni è intrinseca all’infrastruttura tecnologica potenziata dall’intelligenza artificiale. Logicamente, l’attuale architettura tecnica delle infrastrutture informative sistemiche continua l’opera di depoliticizzazione messa in atto nel tempo. Sconvolge surrettiziamente il modello democratico liberale. In particolare, promuove la militarizzazione delle infrastrutture civili. I social network o l’intelligenza artificiale generativa utilizzati in modo improprio come armi da guerra massicce e ultra-personalizzate, questa è l’estensione della minaccia. Questo è, in sintesi, l’argomento principale del libro, che permette di misurare l’ambizione sproporzionata, ma il problema nasce soprattutto dal fatto che non esiste poi un argomento preciso per giustificare il collegamento tra tutti questi processi.
Certo, viene costantemente ricordato che dietro l’IA ci sono degli esseri umani, un principio salutare, ma chi, dove e come non lo sapremo, e i click lavoratori che addestrano l’IA (Casilli) non sono umani che apparentemente contano. Ciò consente quindi connessioni vaghe e vaste tra entità diverse ma tutte ben coordinate: “La disinformazione e la manipolazione fanno parte di una catena ben oliata, che comprende gruppi statali, parastatali o cybermercenari privati, essenzialmente start-up specializzate nel cyber. Una nebulosa di attori che si organizza in un continuum tra le pratiche di cyberspionaggio [4] .» Con così poche esigenze nella descrizione empirica, alcuni teorici della cospirazione potrebbero senza problemi adottare questo tipo di argomenti “dimostrando” l’esistenza di un “meccanismo ben oliato”.
https://www.asterios.it/catalogo/fin-di-bene-il-nuovo-potere-della-ragione-artificiale
Finzione di BigState
Quindi, anche se non possiamo accettare questa povertà in termini di economia e tecnologia, ci diciamo che in termini di scienze politiche e geostrategia (in particolare militare), dovremmo trovare la nostra spiegazione, poiché queste sono le opinioni preferite dell’autore. Purtroppo nessuna precauzione metodologica né solide fonti accademiche riescono a calmare l’iperbolismo forsennato dell’autore in questi ambiti.
L’autore riconosce subito una certa forma di disorientamento: “Ma lo Stato stesso non ha una definizione fissa. A seconda dell’epoca (Hobbes, Rousseau, Hegel, Marx, Weber e altri) e dell’angolazione (storica, giuridica, sociologica, teoria politica, ideologica, psicologica, metafisica), sotto lo stesso termine convivono centinaia di significati diversi.” Piuttosto che guidarci in questo imbroglio concettuale, l’autore preferisce gettarsi nel vuoto di un’etichettatura iperbolica passando al “Big State”, che provoca senza dubbio uno shock mediatico ma che richiederebbe un serio dibattito concettuale e una robusta analisi empirica e documentazione per non farci schiantare o, al contrario, decollare senza zavorra.
Tuttavia non sapremo mai di cosa si tratta realmente. Perché questa entità “Grande Stato” si ipostatizza subito, agendo fino ad avere intenzioni: “Il Grande Stato ha questo in comune con la BigTech: persegue anche, con mezzi e strategie proprie, il progetto Total Technology per scopi di potere (interno ) e potrebbe (esterno). » Questi non sono Grandi Stati empiricamente descrivibili ma il concetto stesso che ha un progetto, “tecnologia totale”.
L’etichetta si applica tanto agli Stati Uniti, che fungono da standard, quanto alla Cina, ma l’autore a volte deve precisare il loro status perché la somiglianza non è immediatamente evidente: “A differenza di una fusione tecno-militare più integrata dell’economia cinese, l’ambivalenza dell’economia cinese i legami tra BigTech e BigState, tra cooperazione e concorrenza, dimostrano, per il momento, una strutturazione del potere americano che non ha finito di sedimentarsi.” In definitiva, l’etichetta sembrerebbe richiedere sfumature che non vengono mai trattate o documentate con precisione.
Tanto che le proprietà del (del?) Grande Stato sono alquanto vaghe e ambivalenti: “Il Grande Stato è uno Stato ipertrofico in certi aspetti (in primis quelli della violenza legittima), ipotrofizzato in altri.” “Il BigState è uno Stato forte, che non esita a dimostrarlo anche a costo di fare troppo, ma che mantiene con le BigTech un rapporto liquido, variabile, lunatico, ambivalente [5] .» Si tratta di una griglia di analisi che, non abbiamo dubbi, aiuterà i decisori a comprendere meglio la complessità della situazione! Confronteremo con interesse ciò che il recente lavoro accademico produce su un argomento correlato [6] . D’altro canto, il riferimento alla distinzione di Franck Pasquale tra “sovranità funzionale” e “sovranità territoriale” fornisce una strada interessante da esplorare per distinguere i ruoli di BigState e BigTech, ma non è estesa.
Nella fase successiva, quando proviamo a pensare alle relazioni tra entità vaghe come BigState e BigTech, comprendiamo che dobbiamo sfuggire alla trappola con un aumento ancora maggiore della generalità: “Stiamo assistendo all’emergere di un Leviatano diviso. La strana creatura si presenta sotto forma di un continuum funzionale tra BigTech e Stato, in altre parole il BigState. Le relazioni tra BigTech e BigState sono complesse, a volte complicate, codipendenti, intrecciate, si rispecchiano a vicenda”, “In breve, BigTech e BigState si definiscono e ridefiniscono, si evolvono e mutano l’una a seconda dell’altra. Non si ibridano, si simbiotizzano, non è la stessa cosa.” La simbiosi, giustificata anche dal riferimento a Joël de Rosnay, è infatti la grande pentola che permette di buttare tutto a piacimento senza dover dosare gli ingredienti, perché quello che conta è l’effetto magico della zuppa che nasce.
Di guerra nella nebbia
Per rendere il tutto più piccante, è comunque opportuno aggiungere una dose di geostrategia che renda il tutto più piccante, soprattutto nella sua versione militare. Troviamo infatti nel capitolo 8 (“Lo spettro dell’iperguerra”) una quantità di informazioni sugli sviluppi militari di queste tecnologie digitali cosiddette “duali”, ma ogni volta fatichiamo a individuare linee di analisi, perché l’obiettivo è soprattutto per far crescere il sistema e drammatizzare l’epoca.
L’abbondante processo di etichettatura prende il posto dell’analisi e appesantisce l’esperienza di lettura, perché quando si passa dall’iperguerra, alla cyberguerra, alla guerra ibrida, o alla guerra cyberibrida ( sic ) senza dimenticare la guerra totale, si fa fatica a vedere il senso di tutti questi paroloni. Allo stesso tempo, la guerra in Ucraina dimostra che le forme convenzionali di guerra giocano ancora una volta un ruolo chiave, fino a che le trincee diventano vitali.
Un estratto dà un’idea del principio di simbiosi in cui tutte le categorie confluiscono: “I combattimenti cyber-ibridi rivelano nuove forme di destabilizzazione e sovversione, anche nuove forme di potere. Addensano la nebbia della guerra. Le democrazie occidentali si trovano ora permanentemente da qualche parte tra questi due stati ibridi, tra guerra e pace, due stati a volte vaghi nelle loro intenzioni, nei loro limiti, nei loro obiettivi. Questa sfocatura dei confini è alimentata dalla sovrapposizione di fauna e flora che prosperano nel mondo cibernetico. Oltre agli eserciti ufficiali, abbondano lì un gran numero di attori privati, parastatali o paramilitari [7] . »
Può darsi che l’osservazione di questa nebbia sia corretta ma, a parte prendere atto di questo completo disorientamento, qual è il contributo di un libro del genere e soprattutto qual è il valore aggiunto di un’ulteriore nebbia concettuale? Il compito è senza dubbio complesso, ma ciò significa impiegare più tempo, raccogliere più dati in modo più sistematico e testare in modo più rigoroso alcune ipotesi che aiuterebbero a dissipare la nebbia.
Troppo tardi per le proposte, ognuno per sé
Possiamo riconoscere all’autore il desiderio di concludere con delle proposizioni. Sfortunatamente, le soluzioni più grandi sembrano ancora essere le migliori, poiché è il “Grande Cittadino” ( sic ) che si trova chiamato a partecipare alla co-governance globale di tutte queste tecnologie. Senza tutto ciò affidarsi per un attimo all’analisi puntuale dell’attuale governance dei sistemi informativi globali (come ITU, ICANN, IETF, ecc.) e ai tentativi di associazioni di cittadini (es.: SMSI), mentre la governance del software libero di comunità o Wikipedia potrebbero dare idee.
Parimenti si fa riferimento alla necessità di “neutralizzare parte della privatizzazione tecno-ideologica di questi sistemi”, che potrebbe poi sfociare in una “nazionalizzazione” su scala internazionale: “Potremmo, ad esempio, considerare lo statuto delle aziende di pubblica utilità per le piattaforme che possiedono infrastrutture informative critiche.» “Internazionalizzandoli”, ne assumeremo la responsabilità collettiva in un formato misto “pubblico-privato” che per definizione andrebbe oltre ogni portata extraterritoriale poiché diventerebbe “comune”.
Ahimè, non ne sapremo di più e difficilmente potremo lasciarci convincere da una proposta alternativa che venga dopo un quadro “ipercupo” dell’“iperpotere” di tutte queste entità “simbiotizzate”. Perché questo è il problema: l’intero sistema argomentativo ha così ingarbugliato tutti questi fili e aumentato le dimensioni di queste entità che producono l’Infrastruttura “invisibile”, che ci chiediamo cosa ci aiuterà a sostenere un’altra possibile politica. L’effetto di stupore che l’autore pretende di criticare presso tutti i critici, tutti in errore, funziona qui in modo radicale squalificando ogni speranza e ogni tentativo operativo o concettuale di uscire da questa simbiosi.
Ci rifugieremo quindi semplicemente nelle nostre capacità cognitive per filtrare la disinformazione per non diventare “soldati” in questa guerra informativa (terminologia che viene lanciata senza alcun vero argomento). Perché questo è ciò che propone l’autore: “un rallentamento ma basato su una libera volontà che sarebbe capace di rinviare la reazione ai post provocatori [8] .» Tra le altre misure, infatti, sostengo da anni e in particolare nel mio libro “Come sfuggire all’influenza dei social network”, di spezzare le catene del contagio e della viralità ma obbligando le piattaforme a dotare i dispositivi e le interfacce degli utenti controllare e ridurre la loro velocità di reazione. Ma la proposta resta qui formulata alla maniera dei buoni propositi senza affidarsi all’analisi precisa del design delle piattaforme che permetta di catturare l’attenzione.
Leggere un’opera del genere dà le vertigini non tanto per la paura suscitata dalla situazione descritta, ma per il tentativo di catturare la lepre del pubblico sotto i grandissimi fari delle preoccupanti etichette. Un processo coerente con le esigenze dei mondi mediatici che ci stanno formattando oggi, ma piuttosto deprimente nel tentativo di riprendere il controllo delle nostre vite digitali quando sono le democrazie ad essere minacciate, ci dice l’autore.
Note
[1] Asma Mhalla, Tecnopolitica. Come la tecnologia ci rende soldati, Seuil, 2024.
[2] pag. 260, 57.
[3] pag. 109, 74.
[4] pag. 50, 90, 128.
[5] pagg. 145, 151, 197, 150.
[6] Aifang Ma, La Cina come Stato normativo a doppio vincolo, Palgrave McMillan, 2024.
[7] pag. 149-151, 180.
[8] pag. 229, 239, 250.
_______________