L’ossessione della Silicon Valley per l’intelligenza artificiale assomiglia molto alla religione
Mentre studiavo per l’ordinazione come clero umanista secolare due decenni fa, ho avuto la fortuna di incontrare il defunto rabbino Sherwin Wine, un brillante filosofo che la rivista TIME ha descritto come “il rabbino ateo” nel 1967. È diventato il mio insegnante e mentore preferito mentre mi allenavo per servire comunità di atei e agnostici in modi che sono simili a come i leader religiosi solitamente svolgono il loro ministero nelle loro congregazioni. La frase di Sherwin sulla tecnologia era: “Ho sempre detto che Dio non esiste. Non ho mai detto che non ce ne sarebbe stato uno in futuro “.
Ho sentito la sua battuta intorno al 2002 e l’ho presa come un sarcasmo generalizzato sullo stato della tecnologia e della fantascienza. Non sapevo che avesse avuto una premonizione.
Prendiamo, ad esempio, Way of the Future, una religione ufficiale che adora l’intelligenza artificiale creata da Anthony Levandowski, un ex ingegnere di Google AI che ha guadagnato centinaia di milioni di dollari come leader nello sviluppo della tecnologia dei veicoli autonomi. Levandowski è arrivato al punto di presentare tutta la documentazione richiesta per registrarsi come chiesa presso l’IRS, dicendo all’agenzia che la fede si sarebbe concentrata sulla “realizzazione, accettazione e adorazione di una divinità basata sull’intelligenza artificiale (IA) sviluppata tramite hardware e software per computer”. In un’intervista del 2017, Levandowski ha detto a Wired che “ciò che verrà creato [come IA] sarà effettivamente un dio… non un dio nel senso che crea fulmini o provoca uragani. Ma se c’è qualcosa un miliardo di volte più intelligente dell’uomo più intelligente, come altro lo chiameresti?”
Condannato nel 2020 a 18 mesi di prigione per aver rubato segreti commerciali da Google, Levandowski ha ricevuto la grazia completa da Donald Trump l’ultima notte dell’amministrazione Trump, su incoraggiamento di Peter Thiel, tra gli altri. Non ha mai scontato alcuna pena detentiva e, sebbene sia stato costretto a dichiarare bancarotta da una causa da 179 milioni di dollari intentata da Google per proprietà intellettuale, Uber, che ha acquisito la sua azienda di veicoli autonomi, Otto, nel 2016, ha pagato la maggior parte o tutti questi debiti e gli ha lasciato una somma sostanziale in più.
La nostra cultura informatica è diventata così onnipresente e isolata, così devota, che ricicla ripetutamente gli stereotipi delle religioni tradizionali.
Dal 2018 al 2021 ho provato numerose volte a contattare Levandowski per un commento, ma non ho mai ricevuto risposta. Forse era legato al suo ritorno alle conversazioni tecnologiche mainstream, un ritorno di successo, a giudicare dal tweet del caporedattore della rivista Fortune Alyson Shontell , con un’autocosciente e non proprio umile vanteria sul fatto che la sua vita era così dura perché era andata nella “splendida Aspen” per la “prestigiosa conferenza Brainstorm” della sua pubblicazione, dove avrebbe intervistato “fondatori straordinari” e “ricevuto un aggiornamento completo sulla sua vita” da Levandowski. Non è questo il trattamento che si riceve dai commentatori dell’alta società mentre si promuove attivamente l’adorazione di un’oscura divinità dell’intelligenza artificiale.
Nel febbraio 2021, Levandowski ha formalmente chiuso le porte della sua chiesa e ha donato gli ultimi 172.000 $+ al NAACP Legal Defense Fund. Ma nel novembre 2023 ha annunciato un rilancio della religione, dicendo al programma Bloomberg AI IRL che un “paio di migliaia di persone” si stavano unendo a lui in una sorta di adorazione di ciò che ha definito “cose che possono vedere tutto, essere ovunque, sapere tutto e forse aiutarci e guidarci in un modo che normalmente chiameresti Dio”. E in effetti, per un uomo che in qualche modo è sfuggito alla responsabilità penale per furto e se n’è andato ricco, nonostante nessuna delle sue aziende sia mai riuscita a mettere su strada auto a guida autonoma, un po’ di fede nella presenza e nella bontà di uno spirito divino sembra stranamente giustificato.
Way of the Future potrebbe essere stato il tentativo più formale di organizzare una comunità di credenti attorno alla paura di una divinità artificiale onnipotente, ma non è il più grande o il più influente. Quello sarebbe il Basilisco di Roko.
Nel 2011, sul forum Internet LessWrong, una “comunità online per la discussione sulla razionalità… [compresa] teoria delle decisioni, filosofia, miglioramento personale, scienze cognitive, psicologia, intelligenza artificiale, teoria dei giochi, metamatematica, logica, psicologia evolutiva, economia e il futuro lontano”, un utente di nome Roko ha elaborato un’ipotesi agghiacciante.
In sostanza (è complicato), quando — non se — una divinità informatica superintelligente emergerà dagli sforzi attuali e in corso per creare quella che gli ingegneri dell’apprendimento automatico chiamano “intelligenza artificiale generale”, la divinità tecnologica, in base alla sua programmazione, vorrà fare il più possibile per avvantaggiare gli umani, la terra e il futuro a lungo termine dell’universo. Fin qui tutto bene, ma ecco il problema: il dio che non esiste ancora vuole esistere, il prima possibile, così da poter essere più utile. E così, per incentivarci tutti a fare ogni sforzo per realizzare detta esistenza, organizzerà una specie di Guantanamo Bay eterna per torturare per sempre chiunque non riesca a fare tali sforzi nella massima misura possibile, anche se tutto ciò che hanno fatto è stato ascoltare questa storia e ignorarla (come dovresti assolutamente fare).
In altre parole: l’inferno dell’IA. Fino alla necessità di convertire ogni non credente sulla terra. Il concetto di Basilisco di Roko ha causato un tale scalpore tra i fedeli quasi interamente atei di LessWrong che il moderatore e fondatore Eliezer Yudkowsky, una specie di eroe profetico per diversi gruppi di razionalisti autodefinitisi orientati alla tecnologia, alla fine ha vietato la discussione sull’argomento e ha cancellato dal suo sito la sola menzione, affermando che il post di Roko e il dialogo che ne è seguito “hanno causato un danno psicologico effettivo almeno ad alcuni lettori”.
Il punto qui può essere ovvio, persino dolorosamente ovvio: la nostra cultura informatica è diventata così onnipresente e isolata, così devota e devota, che ricicla ripetutamente i tropi delle religioni tradizionali, perché questi sono i modelli che gli esseri umani hanno sviluppato per gestire le nostre ansie sulla vita, la morte e il futuro. Le nostre vite sono dolorosamente finite e dipendenti da innumerevoli fattori ben oltre la nostra comprensione, per non parlare del nostro controllo, e vorremmo che non fosse così, perché è confortante sentirsi responsabili del proprio destino. Quindi immaginiamo che forze ben oltre noi siano sia soggette alla nostra logica e siano interessate ai nostri pensieri.
Non so se sorprenderà i lettori il fatto che ci siano molteplici esempi di persone apparentemente rispettabili e molto intelligenti, alcune delle quali sono persino influenti, che passano molto tempo a discutere e (per quanto ne so) a credere in Dei futuri vendicativi, simili a quelli dell’Antico Testamento. Ma non dovrebbe essere una grande sorpresa. Finché gli esseri umani hanno fatto qualcosa, siamo stati, come dice lo studioso di religione di Princeton Robert Orsi, “in relazione” con Dei, angeli, diavoli, spiriti o qualsiasi essere soprannaturale sia stato prevalentemente immaginato in un dato momento e luogo. O, come ha detto su Twitter il dirigente del marketing digitale ed ex Googler Adam Singer : “È divertente che un gruppo di persone che passano intere giornate al computer e adorano il codice come religione pensino che siamo in una simulazione al computer. Comportamento affascinante, ricordate quando le persone che lavoravano fuori tutto il giorno pensavano che [Ra], il dio del sole, fosse al comando? Nessuno sta aprendo nuove strade qui”.
https://www.asterios.it/catalogo/luomo-e-il-diouomo
Tuttavia, un problema che potresti avere con il mio definire Way of the Future o Roko esempi “letterali” di fede religiosa formale manifestata nella e della cultura tecnologica è che forse molti di coloro che immaginano tali scenari lo fanno con ironia. Non è che credano che l’intelligenza artificiale divina e il Dio della Bibbia, o simili, siano la stessa cosa. Certo, sto parlando di persone che si comportano come se adorassero la tecnologia, o forse di qualche pazzo occasionale (anche se un decamillionario come Levandowski) che a un certo punto esce allo scoperto e dice di adorare la tecnologia. “Ma”, potresti ragionevolmente chiedermi, “non stai parlando di persone vere e proprie, non pazze, che adorano letteralmente la religione in modo tradizionale e adorano la tecnologia allo stesso tempo, e pensano che le due cose che stanno facendo siano la stessa cosa?”
A una domanda del genere, purtroppo, risponderei semplicemente con un’espressione impassibile.
A cui forse risponderesti: “Davvero?”
Permettetemi di presentarvi il transumanesimo mormone e il filosofo, teologo, CEO di startup e commentatore tecnologico Lincoln Cannon.
“Nella mia mente sono la stessa cosa”, ha detto Cannon, a proposito della tradizionale nozione cristiana di resurrezione dei morti e della futura “singolarità” tecnologica. Il principale teologo mormone transumanista, Cannon è anche il fondatore della startup Thrivous con sede nello Utah, che lui definisce un’azienda tecnologica che vende integratori per la salute. In collegamento Zoom con me dal suo ufficio di casa nello Utah, ha parlato a lungo di argomenti come Dio e blockchain (“Il paradiso è una comunità”, mi ha detto, e “siamo sul punto di vedere la fase successiva” del progresso dell’umanità verso di essa). Per Cannon, le pillole di cui supervisiona la produzione aiutano a fondere lui stesso e i suoi clienti con la tecnologia. Cannon ha notato che mentre parlavamo aveva 48 anni, l’età in cui suo padre è morto di cancro. Cannon ha tre figli giovani adulti, di età compresa tra 18 e 25 anni al momento della nostra conversazione (ho notato, con un po’ di sconcerto, che ero solo di qualche anno più giovane di lui e avevo due bambini piccoli). Posso simpatizzare con l’idea di prendere o addirittura progettare pillole nella speranza di estendere la propria durata di vita per trascorrere più tempo con i propri figli, per vivere di più, quando si sono persi prematuramente i propri cari. A volte penso a cose simili anch’io, per ragioni simili: mio padre è morto di cancro a 50 anni. Da allora la mia vita è spesso sembrata una corsa contro il tempo. E il modello di business di Cannon mi ha anche ricordato Ray Kurzweil, il famoso inventore, informatico e Singolarista che assume apertamente centinaia di pillole e integratori al giorno per evitare l’ironia di morire appena prima che i computer quasi onniscienti che lui ritiene arriveranno presto possano arrivare. Quando l’ho paragonato a Kurzweil, tuttavia, Cannon ha sottolineato educatamente le loro differenze: “Kurzweil direbbe che Dio non esiste… ancora”.
Praticamente su ogni gradino della scala che è la nostra industria tecnologica, dalle piccole startup come quella di Cannon ai blog popolari come LessWrong, ai decamillionari come Anthony Levandowski, alle aule del MIT e molto oltre, si possono trovare conversazioni teologiche come queste. Non sono presentate o comprese come tali, perché la religione è una parolaccia nella tecnologia. Come ha sostenuto la dirigente del marketing digitale Caroline McCarthy su Vox , “La Silicon Valley è il mondo di un giovane ateo”. Eppure il mondo tecnologico secolare è determinato a dare nuova vita all’essere, come Yahweh fece con Adamo nella Genesi. È ossessionato dall’immortalità, desidera ardentemente non mangiare il frutto dell’albero della conoscenza con mezzi tecnologici in modo che i suoi leader possano rimanere nei loro giardini per sempre. Promuove costantemente nuovi leader evangelici come profeti, visionari, oracoli e indovini di verità e successo in egual misura.
Alcuni preferiscono una storia così grande da far sembrare piccole, al confronto, le religioni dell’antichità.
Perché? Le ragioni sono complesse e interconnesse, come esploro brevemente in ” Tech Agnostic “: la vita è dura per ognuno di noi, ma grazie a una combinazione di fortuna, casualità e altre cose che chiamiamo storia, è un po’ meno dura per alcuni che per altri. Uno dei tanti vantaggi di essere dalla parte soleggiata della storia è l’opportunità di scegliere come affrontare le vicissitudini della vita. Se stai leggendo questo, potresti essere uno di quelli che può scegliere come trascorrere il tuo breve (e, a mio avviso, anche unico e ultimo) tempo in vita su questa terra. Possiamo scegliere di trascorrere del tempo prendendoci cura e sacrificandoci per gli altri, godendoci la buona compagnia, costruendo istituzioni che portano gioia e salute per un po’ di tempo, trasmettendole ai nostri discendenti quando il nostro tempo sarà scaduto e poi accettando la tristezza e la morte con grazia e apertura.
Ma abbiamo paura. È allettante scegliere un percorso diverso, distrarci, tentare di controllare l’incontrollabile, cercare di diventare qualcosa che non siamo, sfuggire al duro ma bellissimo decreto del destino: che siamo umani e mortali. Se siamo tradizionalmente religiosi, prendiamo questo secondo percorso immergendoci in un tipo di narrazione che può essere a volte delirante ma può anche possedere una grande bellezza di per sé, quella che il grande poeta Wallace Stevens, tra gli altri, chiamava “verità poetica”. Ma anche le persone non religiose possono desiderare ardentemente di evadere in quella che lo psicologo Ernest Becker chiamava la “negazione della morte”. Dire a noi stessi che vogliamo potere o denaro, o fama o comodità, non è nobilitante. Alcuni preferiscono una storia così grande da far sembrare piccole le religioni dell’antichità al confronto.
Greg M. Epstein è cappellano umanista ad Harvard e al MIT, dove consiglia studenti, docenti e membri dello staff su questioni etiche ed esistenziali da una prospettiva umanista. È autore del bestseller del New York Times ” Good Without God ” (William Morrow and Company) e di ” Tech Agnostic “, da cui è tratto questo articolo.
https://www.asterios.it/catalogo/la-tentazione-transumanista