Yuval Noah Harari: cosa succede se la macchina crea un culto?

 

Yuval Noah Harari appartiene alla cerchia ristretta di intellettuali pubblici che sono considerati delle celebrità. I suoi libri, con la loro visione panoramica della storia umana, hanno venduto 45 milioni di copie in 65 lingue. Alla vigilia dell’uscita del suo nuovo libro, “Nexus”, Harari ha parlato con K di intelligenza artificiale, disinformazione, battaglia tra democrazia e autocrazia, Netanyahu e Trump. Di seguito una versione leggermente modificata della nostra conversazione.

“Dobbiamo regolare l’intelligenza artificiale con molta più attenzione e rallentare la velocità con cui le stiamo dando tanto potere sulle nostre vite”, dice Yuval Noah Harari.

– La politica è sempre stata afflitta da fake news e demagoghi. Perché ritiene che questo momento sia particolarmente minaccioso per il concetto di verità?

– In effetti, le fake news, le teorie cospirative, la propaganda e le fantasie non sono una novità. Esistono fin dall’Età della Pietra. Ciò che è diverso oggi è la tecnologia utilizzata per creare e diffondere le informazioni. Uno degli argomenti del libro è che la democrazia non poteva esistere su larga scala prima dell’invenzione dei giornali, della radio e della televisione. La democrazia è un dibattito, e in passato la tecnologia per condurre tale dibattito tra milioni di persone non esisteva. Ora, con l’emergere dell’intelligenza artificiale, abbiamo per la prima volta una forma di intelligenza non umana che è in grado di produrre contenuti da sola, e persino di conversare online con persone che fingono di essere umane. Si tratta di una nuova ed enorme sfida.

– Lei ha descritto l’IA come “intelligenza aliena”. In che senso? Qual è lo scenario catastrofico della sua evoluzione a cui non abbiamo prestato sufficiente attenzione?

– È “aliena” nel senso che prende decisioni e genera idee in un modo radicalmente diverso dagli esseri umani. Gli esseri umani basano le loro decisioni su uno o due fattori critici. Non possiamo prendere in considerazione tutto ciò che è in qualche modo rilevante per la decisione che dobbiamo prendere. L’AI ha questa capacità. Questo non è necessariamente negativo, è solo allitterativo. Lo abbiamo visto con il Go: decine di milioni di persone in Asia orientale stavano formulando strategie per quel gioco, e improvvisamente è apparso Alpha Go che in pochi giorni ha imparato a giocare meglio del campione del mondo, ma ha anche sviluppato strategie completamente inimmaginabili per la mente umana. Lo stesso accadrà probabilmente con la guerra, la finanza, la religione e tanti altri campi. Questo crea anche prospettive positive: nuovi farmaci, ad esempio. Per quanto riguarda gli scenari catastrofici, alcuni sono facili da immaginare. Un dittatore dà il controllo del suo arsenale nucleare all’IA, che provoca una guerra nucleare; alcuni terroristi usano l’IA per sintetizzare un nuovo virus e causare un’epidemia. Ma la natura dell’IA come attore indipendente significa che può mettere in moto centinaia di scenari pericolosi che non possiamo prevedere. E stiamo parlando di un numero enorme di tali attori, nelle forze armate, dove selezioneranno gli obiettivi delle operazioni militari, nell’economia, dove si impegneranno nella manipolazione del mercato e ideeranno nuovi strumenti finanziari, nei tribunali, dove determineranno le sentenze dei condannati… Non sto parlando di scenari hollywoodiani con robot che sparano alle persone, ma credo che questo potere dovrebbe indurci a regolare l’intelligenza artificiale con molta più attenzione e a rallentare la velocità con cui le diamo tanto potere sulle nostre vite.

Se gli Stati Uniti smettono di essere un Paese democratico, le conseguenze per il resto del mondo saranno incalcolabili.

– Nel libro lei chiede, in modo un po’ agghiacciante: “Cosa succede quando LaMDA (il chatbot di Google che ha convinto l’ingegnere che comunicava con lui di aver sviluppato la coscienza) incontra QAnon?”. Ebbene? Cosa succede?

– Potremmo avere i primi culti religiosi, che hanno dimostrato di essere stati creati da una forma di intelligenza non umana! Ogni culto nella storia ha sostenuto qualcosa del genere, che la fonte della sua ispirazione e dei suoi libri sacri è una forma di intelligenza non umana o sovrumana. Ora l’AI, sfruttando la profonda conoscenza che acquisisce — ad esempio attraverso i social media — degli interessi e delle emozioni degli utenti umani di Internet, può creare il proprio culto e convertire i suscettibili. E in questo caso, a differenza del passato, i libri sacri saranno in conversazione con i credenti! Pensi al potere che i libri sacri hanno acquisito storicamente, e ora consideri un libro sacro che non si limita a promettere che qualcuno sta ascoltando la sua preghiera, ma che risponde alla sua preghiera in tempo reale!

⇔⇔⇔+++++++++++++++++++++++++++++++++++++⇔⇔⇔

 

Una novità di Asterios!

https://www.asterios.it/catalogo/analogico-e-digitale

Una riflessione sul problema della Intelligenza Artificiale, e su quali sono i punti che normalmente vengono confusi, sottovalutati e mal interpretati. Cosa cioè impedisce una trattazione matura e competente del problema. Il testo esamina i processi alla base della Coscienza umana, messi in luce dai progressi della Intelligenza Artificiale. Questa analisi permette di definire il limite effettivo della IA così come è oggi: la incapacità di sviluppare processi analogici.

Nella grande maggioranza delle trattazioni che hanno per argomento la Intelligenza Artificiale, questa viene considerata come una entità senziente. Nella realtà l’IA consiste nel fatto che i circuiti della sua struttura non fanno altro che elaborare informazione; in modo sempre più efficiente e complesso, ma pur sempre basato su meccanismi digitali. Il vero punto di attenzione e pericolo risiede in un concetto fondamentale: l’IA è diversa per principio dai meccanismi nervosi animali. L’IA entrerebbe in attività parallele e simili a quelle umane (quindi potenzialmente pericolose) soltanto se e quando diventasse veramente senziente ed in grado di funzionare secondo meccanismi di elaborazione analogica. Vale quindi la pena definire con precisione cosa indicano i due termini: digitale ed analogico.

Il testo è dunque motivato dal fatto che in gran parte di quello che viene scritto sull’argomento IA si fa confusione sulla proprietà di fondo: non è Intelligenza, è elaborazione digitale di informazione. Finché non saranno attuati sistemi di elaborazione analogica, non sarà Intelligenza. È un concetto semplice e diretto, la cui non-considerazione seguita ad ingenerare (a volte volutamente) molta confusione. Viene quindi in primo luogo definito il significato dei processi di tipo digitale e di quelli di tipo analogico. Viene in parallelo discusso il problema della mancanza di acquisizione da parte di IA di processi di tipo analogico. Vengono sviluppati esempi di attività analogica tipicamente ed esclusivamente umana.

Il testo discute la natura dei processi alla base della coscienza umana, in parte chiariti da quanto sta emergendo dalle nuove applicazioni dei sistemi di Intelligenza Artificiale. Viene proposta una interpretazione originale della “Coscienza”, proponendo una soluzione di quello che è in genere definito come “the hard problem”.

⇔⇔⇔+++++++++++++++++++++++++++++++++++++⇔⇔⇔

– Le grandi aziende che sviluppano l’intelligenza artificiale presentano un quadro roseo di un futuro in cui “strumenti super-intelligenti” miglioreranno la nostra vita in molti modi. L’intelligenza artificiale generale, tuttavia, implica macchine che hanno qualcosa di simile alla coscienza. Sarebbe etico che tali forme di intelligenza venissero utilizzate come strumenti?

– Se hanno coscienza, allora sono soggetti morali. Questo apre un campo di domande completamente nuovo. In questo caso, i loro interessi e sentimenti, che soffrano o meno, devono essere presi in considerazione. Naturalmente, sarà molto difficile giudicare se queste forme evolute di IA abbiano effettivamente una coscienza. Anche la coscienza umana non è qualcosa di dimostrabile, e ci saranno molti che avranno interesse a creare forme di IA che assomiglino a esseri coscienti, senza che questo sia il caso. Finirà per essere un prodotto della convenzione sociale: se un numero sufficiente di persone inizierà a interpretare il comportamento di queste macchine come indicativo dell’esistenza della coscienza, la verità non avrà importanza: la società le tratterà come esseri coscienti.

Negli Stati Uniti, invece, il processo legale per ottenere i diritti esiste già. Nel sistema giuridico americano, le società a responsabilità limitata hanno una personalità giuridica estesa. Se un sistema AI diventa una società a responsabilità limitata, ora è una persona con dei diritti. E di fatto questa persona, a differenza delle aziende che abbiamo conosciuto finora, dove le decisioni sono prese dalle persone che erano dirigenti, può prendere decisioni da sola. Può aprire un conto bancario, fare soldi, e usare il suo reddito per influenzare i politici e cambiare la legislazione per ottenere più diritti.

⇔⇔⇔+++++++++++++++++++++++++++++++++++++⇔⇔⇔

https://www.asterios.it/catalogo/la-mente-umana-e-la-mente-artificiale

L’Intelligenza Artificiale aspira a diventare Mente. Il suo frutto principale è stato finora quello di farci comprendere meglio l’armonia che l’evoluzione ha fornito alla nostra.

⇔⇔⇔+++++++++++++++++++++++++++++++++++++⇔⇔⇔

– Il libro affronta, tra le altre cose, il concetto di populismo e come distorce la ricerca della verità. Tra due mesi ci saranno le elezioni nel Paese più importante del mondo occidentale e uno dei principali candidati è l’incarnazione del populismo moderno. Quanto è importante sconfiggere Donald Trump per la difesa della verità e dello Stato di diritto in Occidente?

– È spaventosamente importante. Sulla maggior parte delle questioni, le conseguenze della scelta di un candidato o dell’altro non sono così grandi. Il problema inizia quando un politico vuole cambiare le regole del sistema democratico in modo da non poterlo sostituire. Questo invalida il più grande vantaggio della democrazia rispetto all’autocrazia, il meccanismo di autocorrezione. Questo è sempre stato il problema principale della democrazia: leader che salgono al potere con mezzi democratici e poi truccano il gioco in modo che il popolo non possa cacciarli. Trump ha dimostrato di pensarla in questo modo, rifiutando (nel 2020) di dire che avrebbe accettato il risultato delle elezioni se avesse perso e usando la violenza il 6 gennaio per rimanere al potere nel momento più delicato della vita di qualsiasi democrazia: il passaggio di poteri. E naturalmente, se gli Stati Uniti cessano di essere un Paese democratico, le conseguenze per il resto del mondo saranno incalcolabili.

– Il suo Paese è in guerra da quasi un anno, dal terribile attacco del 7 ottobre. Quel giorno, tra l’altro, è stato il più grande fallimento della sicurezza nella storia dello Stato di Israele. Come spiega il fatto che Benjamin Netanyahu, che ha sempre insistito sul fatto di essere l’unico in grado di garantire la sicurezza di Israele, sia ancora oggi Primo Ministro?

– Non è una buona notizia per Israele. È un uomo completamente incapace di assumersi la responsabilità quando qualcosa va storto, mentre si attribuisce sempre, nel giro di pochi secondi, tutto ciò che di buono accade nel Paese, anche se non ha nulla a che fare con esso. È stato al governo per 15 anni, con una brevissima pausa, e non si è assunto nemmeno la minima responsabilità per il 7 ottobre. Il Primo Ministro non è, ovviamente, responsabile delle azioni di ogni soldato. Ma il governo ha una responsabilità fondamentale: stabilisce le priorità del Paese. Netanyahu, quando è stato rieletto nel dicembre 2022, non si è concentrato sulla gestione di Hamas, di Hezbollah o dell’Iran; ha scelto invece di attaccare la Corte Suprema, l’unico contrappeso al potere del governo. Si è concentrato su di essa fino all’ottobre 2023, nonostante centinaia di migliaia di cittadini avessero manifestato contro di essa. Se avesse dedicato ad Hamas un quarto dell’attenzione che ha dedicato alla Corte Suprema, il 7 ottobre sarebbe stato evitato. La sua popolarità riflette il fatto che l’opinione pubblica in Israele si è spostata in modo molto significativo verso destra. È un Paese più nazionalista e più religioso. Naturalmente, metà della popolazione del Paese lo disprezza. È la figura più odiata nella storia di Israele. Lo paragono a Viktor Orban. La differenza è che l’Ungheria non affronta un pericolo esistenziale; nessuno invaderà l’Ungheria. Può quindi sopravvivere divisa. Israele non può. Affronta un pericolo esistenziale reale e per sopravvivere deve essere unito. Anche se si adora Netanyahu, è impossibile sostenere che possa unire Israele. Pertanto, rimanendo aggrappato al potere, sta nuovamente mettendo i propri interessi al di sopra di quelli della nazione; è disposto a vedere il suo Paese distrutto, purché mantenga la sua posizione di potere. E confermando con le sue politiche e con le persone apertamente razziste del suo gabinetto le accuse dei nemici del Sionismo di essere un’ideologia razzista, sta effettivamente dimostrando di essere non solo antipatriottico, ma anche antisionista.

Fonte: Kathimerini.gr

Autore: Yannis Palaiologos è nato ad Atene nel 1979. Si è laureato all’Università di Oxford, dove ha conseguito un BA in Politica, Filosofia ed Economia e un MA in Filosofia. Ha lavorato come caporedattore delle edizioni speciali presso City Press (2006-9) e come direttore di Free Sunday (2009-2012). Nel 2014 è stato pubblicato il suo libro “La tredicesima fatica di Ercole” sulla crisi greca (Portobello Books, Londra). A questo è seguita l’edizione greca (Estia Publications). Scrive per il Wall Street Journal e ha collaborato con altri media internazionali, tra cui il Washington Post, il Financial Times e le riviste Politico Europe, Time, New Republic e American Prospect. Nel 2012 è stato il primo vincitore del Citi Greek Financial Journalism Competition per il suo reportage sui negoziati del PSI. Ha rappresentato la Grecia come Marshall Memorial Fellow nel 2015-6. Al di fuori del giornalismo, ha co-scritto l’opera teatrale “Mama Greece2” (2009-10), una satira sulla corruzione e la non epurazione nella Grecia moderna che ha ricevuto un’ampia copertura da parte della stampa internazionale. È stato anche il principale collaboratore dell’evento “K Inspiration” per il 100° anniversario di Kathimerini (2019). È il corrispondente di Kathimerini e SKAI per l’Unione Europea.

 

⇔⇔⇔+++++++++++++++++++++++++++++++++++++⇔⇔⇔

https://www.asterios.it/catalogo/fin-di-bene-il-nuovo-potere-della-ragione-artificiale

⇔⇔⇔+++++++++++++++++++++++++++++++++++++⇔⇔⇔