A fin di bene: il nuovo potere della ragione artificiale
L’idea di presentare l’Intelligenza Artificiale (IA) come nuova forma di potere, esplorando le sue ricadute politiche, sociali ed epistemologiche, iscrive il volume in commento tra quelli che Proust definiva «bei libri». E se i bei libri sono proustianamente quelli che lasciano degli «incitamenti», A fin di bene ne offre uno essenziale: invita il lettore a riappropriarsi del «coraggio di servirsi della propria intelligenza» per collocare l’IA nel dominio che le appartiene, ossia quello degli oggetti e non dei soggetti, onde evitare che assurga a sostituto della ragione umana, della socialità o di funzioni pubbliche essenziali. Anche il taglio e la struttura del testo convincono. La scelta di adottare una prospettiva di realismo critico consente all’A. di affrontare il tema in modo originale senza cadere in due trappole comuni: da un lato, la demonizzazione della tecnologia che nega qualsiasi valore all’IA; dall’altro, l’adesione al coro dei suoi apologeti che la celebrano occultandone le insidie o che, pur riconoscendo i rischi ad essa associati, abbracciano una retorica sviluppista che li tratta come danni collaterali inevitabili dell’innovazione tecnologica. Il libro, dunque, non è né luddista né antitecnologico. Semplicemente si pone in direzione ostinata e contraria rispetto alla dittatura della tecnologia. L’obiettivo è quello di scongiurare «un profondo inaridimento della creatività e un drastico restringimento della razionalità umana» in una società troppo spesso arresa al pensiero unico di matrice tecnocratica.
D’altronde, l’orizzonte ove l’automazione di gangli della socialità come lavoro o istruzione cambierà la dimensione del vivere consociato non è un futuro distopico. In Giappone o negli USA, già oggi troviamo umanoidi che ci accolgono al check-in di un albergo o sistemi di IA nel ruolo di tutor degli studenti. Parallelamente, cresce tra cittadini e lavoratori la c.d. AI anxiety, ossia la fobia di esser sostituiti dall’IA nelle proprie mansioni: un’ansia che culmina in un senso di obsolescenza sociale a fronte della progressiva dissoluzione delle relazioni umane nella tecno-sfera. Appare vitale, dunque, non dar per scontato che l’IA operi sempre «a fin di bene», proprio come fa l’A. richiamando nel titolo del libro l’omonimo racconto di Primo Levi, in cui una rete telefonica diviene organismo autonomo e si espande sino a controllare ogni comunicazione.
In tal senso i dubbi che l’A. instilla fungono da primo filtro critico per il lettore rispetto al potere omologante del nuovo «Leviatano digitale». A ben vedere, infatti, l’IA è un meccanismo disegnato per dare risposte più che per suscitare dubbi, anzi a questa si ricorre proprio per rimuovere il dubbio dalla sfera della conoscenza. A ciò si aggiunga che le capacità di predizione e problem-solving, di cui essa si erge a emblema, hanno a lungo esercitato il loro fascino sull’umanità. L’aura mistica che circondava gli oracoli nel mondo antico; la deificazione della ragione nell’età dei Lumi; le promesse della filosofia cartesiana o delle scoperte scientifiche di consegnare al mondo gli strumenti per decifrare e dominare il reale; o ancora la concezione laplaciana dell’universo come insieme di leggi deterministiche, sono solo alcune evidenze di questa fascinazione umana verso la prevedibilità, la misurazione e l’ordine. E l’IA non fa che realizzare in modo sistematico e semplificato il sogno modernista di una realtà perfettamente calcolabile. Con un gioco di parole si potrebbe dire che essa vede, prevede e provvede.
Se la modernità è stata il tentativo del capitalismo borghese di neutralizzare il conflitto sociale mediante il ricorso alla ragione – una ragione mercantile e poco “umana”, poiché costruita sul falso idealtipo dell’homo oeconomicus individualista – oggi analogo obiettivo si persegue con l’IA. A cambiare è la classe dominante di riferimento, che nell’attuale fase post-capitalista è rappresentata dai Big Tech. Questi, grazie all’IA, godono di uno strumento di potere senza precedenti e posson contare su una forza lavoro automatizzata, controllabile, che non sciopera, non si associa e, perciò, non ostacola il processo di accumulo capitalistico. Ne è che se, come sostenuto da Gramsci, l’egemonia deriva dalla sapiente mescolanza di forza e consenso, la ragione artificiale si pone come dispositivo di creazione del consenso attorno alla narrazione tecnologica che garantisce una sorta di monopolio sulla verità a chi la controlla. L’IA si presenta, infatti, come “il grande saggio” dei tempi moderni, per di più in versione tascabile sotto forma di app nello smartphone e, dunque, in grado di raggiungere un pubblico potenzialmente illimitato. Interrogandola si trovano risposte (le stesse risposte) a ogni quesito senza doversi impegnare nella ricerca o possedere nozioni pregresse. Ma è proprio questo abbeverarsi ad un’unica fonte che rischia di appiattire il processo di conoscenza trasformandolo in ricezione passiva di ricette omologate e omologanti. Inoltre, la diffusione capillare di tale tecnologia produce nella cultura di massa una peculiare associazione di pensiero: solo chi la usa è smart, mentre chi non ne fa uso e persino chi la critica è dumb, ossia uno stupido!
In risposta a questo entusiasmo acritico, il testo problematizza l’ordine di verità prodotto dall’IA, svelando come questo sia pericolosamente conformato dalla tecnologia: una verità standardizzata che diviene oggetto di credenza più che di conoscenza. E, in effetti, molte architetture IA operano come una scatola nera di cui si conoscono gli input e gli output ma di cui restano oscuri i passaggi che conducono al risultato. Ma se non si sa come la rete faccia ciò che fa, il confidare nella correttezza dei suoi risultati è più un atto di fede che di vera conoscenza. Ed è sotto questo profilo che l’A. definisce l’IA come «una innovazione postscientifica», giacché le risposte da essa fornite sono il prodotto di una combinazione di dati per identificare correlazioni. Tuttavia, senza una «guida concettuale», l’IA rischia di diventare una forma di tecnoscienza e risolversi in un data mining quantitativo. Difatti, se il focus è solo sui risultati, ci si può imbattere in ciò che il libro chiama «allucinazioni algoritmiche», ossia errori sotto forma di correlazioni spurie dovute al fatto che la risposta deriva più dalla quantità che dalla qualità dei dati. Inoltre, gli algoritmi non sono progettati per tener in considerazione le implicazioni etiche, di giustizia e di equità delle decisioni prese. Ciò espone l’IA al rischio di manipolazione, poiché le risposte date tenderanno a riprodurre la stessa «visione del mondo» racchiusa nella selezione dei dati iniziali, con una propensione alla conservazione dello status quo che rischia di perpetuare gli stessi bias e le stesse disuguaglianze di partenza.
A questa «strage delle illusioni» di leopardiana memoria, l’A. consiglia di reagire recuperando la dimensione relazionale dell’uomo e la sua creatività. In una società tecnocratica, le relazioni si riducono a mere transazioni e la creatività è vista come pensiero deviante: un bug in un sistema che si pretende perfetto. Eppure, le grandi trasformazioni sociali sono sempre state catalizzate da forme di contro-pensiero, spesso eretiche rispetto all’ortodossia dominante (es. nell’arte, le avanguardie; nelle lotte per i diritti, le proteste e la disobbedienza civile).
Il libro di Isola percorre questo nobile sentiero e merita ampia diffusione e lettura.
Stefano Isola, A fin di bene: il nuovo potere della ragione artificiale, ISBN: 9788893132633, pag. 160, € 17, Asterios, Trieste, 2023
Autore: Emanuele Ariano insegna diritto privato all’Università degli Studi di Torino e diritto comparato all’International University College di Torino.
https://www.asterios.it/catalogo/ia-intelligenza-artificiale