The hard problem è la definizione che David Chalmers formula riguardo alcuni aspetti della ricerca sulla coscienza umana (1). La comprensione e la definizione di cosa sia la coscienza sono sfuggite finora a tutti i tentativi di filosofi e neurobiologi perché, sostanzialmente, qualsiasi ragionamento su di essa non può che essere fatto dall’interno del problema stesso, eludendone quindi la chiusura. Nella definizione di Chalmers, per problema difficile della coscienza si intende il problema di spiegare perché e come gli esseri umani e altri organismi hanno esperienze coscienti, qualitative e soggettive, della realtà. Non esiste alcun metodo fisico in grado di attribuire alla attività della coscienza una quantità fisica misurabile o comparabile tra persone differenti. Un problema facile, al contrario, riguarda funzioni e comportamenti associati alla coscienza, come la capacità di discriminare o integrare informazioni e come guardare, ascoltare, parlare (compreso il riferirsi al comportamento o alle convinzioni personali), e così via. Per questo tipo di attività è possibile elaborare spiegazioni meccanicistiche o comportamentali, e ridurre il problema allo studio di un sistema fisico, quindi relativamente definibile, alla stregua di altri problemi fisici. Un buon esempio di problema facile è la possibilità di definire i correlati neurali corrispondenti ad una funzione in esame, di tracciare i circuiti neuronali delle funzioni in studio.
Il problema difficile presenta un salto, uno iato difficilmente colmabile, che non permette una riduzione alla misura, tra diversi fenomeni di realtà soggettiva, descritti in termini di intenzionalità, scopo, significato, valore, volontà, ed i processi fisici e cerebrali soggiacenti che si basano sulla misura di quantità fisiche ben definite, quali massa, energia, posizione, lunghezza d’onda. La componente difficile del problema è trovare il modo di collegare o combinare queste diverse descrizioni in un unico sistema concettuale. È interessante il fatto che i “problemi facili” riguardino gli atti legati a sensi precisi e definiti, come la vista e l’udito, mentre il “problema difficile” riguardi la sensazione che deriva dal loro insieme. Fin qui David Chalmers, le cui parole hanno definito una parte molto importante della ricerca neurologica attuale, parole che hanno posto un irrisolto problema.
L’Intelligenza Artificiale è sullo sfondo di entrambi i testi. In entrambi i casi l’argomento centrale è apparentemente un altro, ma alla fine della loro lettura risulta chiaro che il rinvigorimento della ricerca sull’hard problem, dovuto ai progressi delle tecniche di Intelligenza Artificiale, può portare ad un nuovo approccio del problema centrale apparentemente insolubile. Questo perché, per sua natura, l’IA pone la coscienza al proprio esterno. Forse. I due libri esaminano questo “forse”.
Cogito ergo sum
Cogito ergo sum, in queste parole di Cartesio viene indicata la nascita del pensiero contemporaneo; in particolare del pensiero scientifico. Queste parole sono il risultato di un ragionamento preciso, sono dense di significato, ognuna indica qualcosa di molto ben definito.
“Cogito” si riferisce alla attività della coscienza, al modo con il quale essa si manifesta, attraverso il quale asserisce e stabilisce la propria esistenza.
“ergo” indica il procedimento di causa-effetto. Dietro questo avverbio si cela il “metodo”, l’argomentare retorico del ragionamento, del cogito, ed è la ragione per la quale Cartesio è assunto al ruolo di fondatore del pensiero moderno.
”sum” è l’irrisolto nucleo ontologico del problema, è il ribadire il punto oscuro che si vorrebbe spiegare e rendere reale.
Io credo che la portata risolutoria di queste parole sia sopravvalutata, che esse non siano che la manifestazione della circolarità del ragionamento, la irrisolta riproposizione del problema. Per risolvere il quale, per dare una via di uscita alla aporia del pensiero che pensa se stesso, Cartesio non aveva i mezzi. Le intuizioni profonde della cultura antica erano disperse nel mare dell’aristotelismo ecclesiastico e del cristianesimo; la neurobiologia non era ancora nata. Cartesio non poteva che credere nella forza della mente, ed assumere a metodo il dubbio. Il che era già molto. Per quanto lo riguarda, più che le parole in sé, è importante il metodo attraverso il quale è giunto all’aforisma finale. Ma il problema dell’essere non era risolto da queste parole, e non lo è ancora. Il quesito su cosa sia la coscienza è ancora hard. Forse.
I due libri dei quali ci stiamo occupando ripercorrono questo metodo applicandolo ad un problema che si è aperto recentemente ed è prepotentemente oggetto di discussione: il problema della portata della Intelligenza Artificiale.
La storia umana è storia di connessioni
Yuval Noah Harari (NH) si occupa in profondità della IA e delle reti di informazione; e della connessione che esiste tra le due. È molto importante, per capire le motivazioni che sono alla base del testo, considerare che NH inquadra il suo ragionamento in una prospettiva nella quale l’umanità è vista sull’orlo del baratro causato da lei stessa. Questo è vero in generale e, nel caso specifico, per la invenzione ed elaborazione della Intelligenza Artificiale. Le considerazioni che l’Autore pone nelle sue Conclusioni ne sono testimonianza diretta.
Quello che lo interessa veramente è la natura dello scambio di informazione che caratterizza Homo sapiens. Prima di entrare nell’esame della funzione della Intelligenza Artificiale, vengono narrati i casi per i quali la storia dell’uomo si è formata ed ha imboccato i percorsi definiti che conosciamo, allorchè nuove invenzioni hanno dato luogo a svolte dalle quali non è stato possibile tornare indietro. La scrittura ha dato origine alla formalizzazione delle religioni, della organizzazione delle società e al potere centralizzato, e così via, esempio dopo esempio lungo interessantissimi percorsi della nostra natura intima. Sullo sfondo della sempre crescente capacità di elaborazione e, soprattutto, dello scambio dei suoi frutti, la scena del libro è dominata dall’idea che ad un certo punto del cammino l’informazione e la sua formalizzazione trasmissibile sarebbero diventate una protesi potenzialmente indipendente e di auspicato ma difficile controllo.
NH si occupa allora direttamente di IA, lo dichiara esplicitamente e va in profondità negli aspetti che reputa importanti. Dice: una lezione è sicuramente questa: l’invenzione di nuove tecnologie dell’informazione è sempre un catalizzatore di grandi cambiamenti storici; perché il ruolo più importante dell’informazione è quello di tessere nuove reti piuttosto che rappresentare realtà preesistenti. Tutta la prima parte del libro ci ha convinto (ed è stato piacevolmente facile) che la storia umana si dipana attraverso la creazione e lo scambio di informazione.
La storia umana è storia della connessione sempre crescente dei gruppi di individui che la compongono. NH: … creavano nuovi legami tra un numero più ampio di persone.
La storia umana non conosce, prima, quali sono le conseguenze delle sue azioni. Non si muove verso il domani spinta dall’etica, si muove per necessità, per dare risposte a problemi contingenti. NH: la tecnologia è di rado deterministica, e la stessa tecnologia può essere usata in modi parecchio differenti.
Le invenzioni importanti che hanno permesso il dipanarsi della storia che conosciamo, o che possiamo intuire, sono state tutte protesi di funzioni semplici: della mobilità, della proiezione, della fonazione. L’Intelligenza Artificiale riguarda una sfera che crediamo soltanto di conoscere, ma che in realtà ci sfugge nei suoi caratteri fondanti: quelli della nostra mente. In quanto tale l’IA pone problemi nuovi, in questo caso non possiamo attingere ad esperienze pregresse. NH: l’invenzione dell’IA è potenzialmente più importante dell’invenzione del telegrafo, della stampa e persino della scrittura, perché l’IA è la prima tecnologia in grado di prendere decisioni e generare idee da sola. Questo è uno dei punti chiave del testo: l’idea della presunta autonomia della Intelligenza Artificiale. Non sono d’accordo, lo dettaglio più avanti.
Yuval Noah Harari ritiene, ed in gran parte credo sia nel giusto, che siamo giunti, oggi, al momento chiave nello sviluppo della IA. Un momento di bivio, nel quale vengono prese decisioni delle quali non siamo in grado di valutare le conseguenze. Dice NH: Ora ci troviamo nel momento critico della canonizzazione della IA, perché siamo ai suoi inizi, e le scelte fatte da chi formula gli algoritmi del suo funzionamento possono riverberarsi nei secoli, a partire da queste scelte iniziali, fatte in questa puerile epoca della IA.
Non mancano, lungo il testo, apprezzabilissimi momenti di riflessione critica. NH: L’informazione non è la verità. Questo non riguarda la IA in senso stretto, ma si riferisce al processo di connessione che dà il titolo a questo bel libro: non è affatto importante che ciò che viene comunicato sia vero; l’importante è l’atto del comunicare il messaggio; la rilevanza del suo contenuto e la sua adesione ad una situazione definita saranno decise in seguito.
Ed anche:
NH: L’IA non è infallibile. Questo è vero, ma è più grave, quasi una (indebita) umanizzazione del sistema.
Non manca una riflessione che, si potrebbe dire, nasce da una esigenza etica. Etica Artificiale, verrebbe voglia di dire: Se siamo così sapienti, perché siamo così autodistruttivi? … La colpa non è della nostra natura, ma delle nostre reti d’informazione.
E:
NH: Quando una rete diventa più potente, i suoi meccanismi di auto correzione diventano ancora più essenziali. Giusto, certo. Ma in quale ottica? In quale prospettiva? Chi corregge cosa? La soluzione al potenziale pericolo della IA è solo nel mantenerla nel proprio limite digitale, quello insito nel suo carattere di protesi di calcolo, di connessioni, di traiettorie di aerei e di missili, di diminuzione del rumore di fondo dei messaggi che devono continuare ad essere scritti da Homo sapiens.
Non sono d’accordo
Non sono d’accordo con la considerazione della pericolosità della IA perché penso che la sua struttura sia digitale e non analogica. In questa differenza, che traccia una linea di demarcazione netta e chissà superabile, è contenuta la differenza tra controllo ed indipendenza, tra protesi/strumento, tra attore indipendente e pericoloso. In breve:
Domanda: Come è la mente dell’IA? Analogica o digitale? Risposta: finora vengono messi in atto e conosciamo soltanto meccanismi digitali.
Domanda: cosa è un processo digitale? Risposta: L’aggettivo “digitale” si riferisce a sistemi che operano su rappresentazioni numeriche dei dati. Un sistema digitale usa valori discreti e misure primarie, senza passaggi intermedi e metaforici, senza trasposizione di equivalenza. Una misura, un valore, un sistema digitale sono quindi discreti e diretti. Se ci spostiamo ai sistemi neuronali, vediamo che ogni percezione è di sua natura un singolo input; se una percezione sembra continuare, o connettersi, o evolvere, o essere complessa, significa solo che sono più percezioni che si susseguono, che si accavallano, che avvengono e sono percepite in modo multiplo e/o ridondante. La nostra mente è effettivamente costruita in modo da avere e da poter gestire sensazioni complesse e multiple. Di fondo, questo significa che una sensazione è di principio un evento singolo, che basta un singolo neurone per darci un singolo segnale.
https://www.asterios.it/catalogo/la-mente-umana-e-la-mente-artificiale
Domanda: cosa è un processo analogico? Risposta: L’aggettivo “analogico” è usato per definire un segnale che è specificamente caratterizzato dall’essere continuo, ottenuto con la trasformazione di una grandezza fisica in un’altra di tipo diverso ma di uguale significato. Il significato della parola analogico cambia di poco se usato in elettronica, informatica, tecnologia ed ingegneria (idraulica e meccanica, ad esempio). È analogico l’angolo della lancetta dell’orologio che misura il tempo e ce lo comunica, è analogica l’altezza in millimetri del termometro a mercurio che misura la temperatura, lo sono il segnale elettrico che deriva da un segnale acustico in un microfono e il segnale acustico che deriva da un segnale elettrico in un altoparlante. In elettronica un segnale elettrico è detto analogico quando i valori utili che lo rappresentano sono in stretta analogia con il fenomeno che li genera e sono continui (tecnicamente infiniti). Per coprire l’intervallo spazio-temporale tra due punti di un potenziometro si passa per una infinità di mutazioni elettriche, non numerabili ma ciascuna in diretta analogia con la posizione dell’asse del potenziometro. Una misura ed un valore analogico sono quindi continui, non discreti ed indiretti. Assumiamo che il significato della parola “analogico” cambi di poco se usato in neurobiologia. La mia mente funziona in modo continuo, non avverto gli intervalli del mio pensiero, con o senza stimoli e percezioni, io sono io tutto il tempo, senza intervalli. Al massimo, mi distraggo un po’, o sogno, oppure altero o diluisco la consapevolezza di una mia coscienza. La mia mente funziona anche in riduzione o assenza degli stimoli che ha ricevuto durante il giorno che precede la notte, durante l’infanzia che precede l’età matura e la vecchiaia. Io rimango unitariamente io in funzione di quello che mi è successo in precedenza. La mia coscienza è una entità stabile perché è fatta soprattutto di memorie.
https://www.asterios.it/catalogo/epimente
Domanda: sono possibili computer non digitali? Risposta: Si. Computer analogici e computer quantici. Un computer analogico non è soggetto al problema del rumore di fondo (che era il problema iniziale di Claude Shannon, per risolvere il quale è in effetti nata l’elettronica moderna). Un computer analogico può sbagliare, nel senso che può fornire risultati diversi agli stessi quesiti, la sua risposta può non essere sempre la stessa. È da molto tempo che cerchiamo di costruire macchine che possano aiutarci a fare calcoli. I computer generalmente in uso sono elaboratori digitali, mentre un computer analogico è un computer che sfrutta, per modellare e risolvere il problema affrontato, fenomeni fisici associati a variabili continue. La funzione rappresentata dalle reti neurali nella IA pone un problema di interpretazione. Una IA costruita sul modello delle reti neurali può essere analogica? È possibile una commistione dei due tipi? E fino a che punto? Un computer quantico estende e dilata questo concetto di analogia essendo, nel suo caso, la variabile continua una condizione di estrema indeterminazione, difficile da controllare.
Domanda: cosa è la coscienza di se? Risposta: La coscienza-di-sé è un fenomeno analogico proprio della mente animale. La struttura/funzione del cervello è basata sulla capacità di integrare messaggi espressi secondo codici digitali che cominciamo a decifrare. La coscienza-di-sé è la percezione integrata dei sensi nel loro insieme e nel momento presente, la coscienza è il senso degli altri sensi.
Domanda: è possibile che l’IA giunga alla stessa complessità di integrazione? Risposta: No, se i meccanismi usati per acquisire, elaborare e risolvere le informazioni fornite rimangono digitali, quelli in uso attualmente. Più in generale: la IA non varcherà mai il confine che la porta all’indipendenza dal suo costruttore e alla capacità di costruirsi un mondo proprio a nostro detrimento, se rimane digitale. Spostarne i processi in ambito analogico significa fornirla di banche dati mentali complete ed universali, dell’accesso alla memoria dei singoli e dei gruppi sociali, significa fornirla della capacità di costruirsi una coscienza che, come dice Noah Harari, spegnerebbe la nostra.
Coscienza
Perché ho parlato di coscienza, riferendomi al significato del libro di NH? Perché NH dice: Ora abbiamo creato una intelligenza aliena non cosciente ma molto potente. Se la gestiamo male, l’IA potrebbe non solo cancellare il dominio umano sulla Terra, ma spegnere anche la luce della coscienza stessa, trasformando l’universo nel regno di un’assoluta oscurità. La vita che si spegnerebbe in seguito ai nostri errori, alla nostra arroganza di creatori di intelligenza di silicio, sarebbe quella fatta del susseguirsi dei cicli futili di acidi nucleici e di proteine, che è la nostra. Con lei finirebbe la “coscienza”, la cui mancanza, la cui fine, sarebbe l’oscurità nell’Universo che la ha ospitata per un po’.
Nota
(1) David Chalmers, Facing up the problem of consciousness, The Journal of Consciousness Studies.1995, 2, 200-219.
