Temere i burocrati dell’intelligenza artificiale
Mentre la rivoluzione dell’intelligenza artificiale (IA) accelera, siamo bombardati da visioni utopiche e profezie inquietanti. È difficile valutare la portata della minaccia perché abbiamo imparato a temere lo scenario sbagliato. La fantascienza ci ha ripetutamente messo in guardia dalla Grande Rivolta dei Robot. In numerosi romanzi e film di fantascienza, come “The Terminator” e “Matrix”, le IA e i robot decidono di conquistare il mondo, di ribellarsi ai loro padroni umani e di schiavizzare o annientare l’umanità. È altamente improbabile che questo accada nel prossimo futuro. La tecnologia necessaria non esiste. Per ora, gli strumenti di IA sono esperti idioti. Possono padroneggiare alcune aree limitate come gli scacchi, la piegatura delle proteine o la sintesi dei testi, ma non hanno l’intelligenza generale necessaria per attività altamente complesse come la costruzione di un esercito robotico e la conquista di un paese. Purtroppo, il fatto che la Grande Rivolta dei Robot sembri improbabile non significa che non abbiamo nulla da temere. Perché ciò di cui dovremmo preoccuparci non sono i robot assassini, ma i burocrati digitali. Il “Processo” di Kafka è una guida alla distopia dell’IA migliore di “Terminator”.
Gli esseri umani sono condizionati, da milioni di anni di evoluzione, a temere predatori violenti come quello presentato in “The Terminator”. È molto più difficile per noi comprendere le minacce burocratiche, perché la burocrazia è un fenomeno molto nuovo nell’evoluzione dei mammiferi e dell’uomo. Le nostre menti sono condizionate a temere la morte di una tigre, ma non quella di un documento.
La carta ha iniziato a svilupparsi solo circa 5.000 anni fa, dopo l’invenzione della scrittura nell’antica Mesopotamia. Ma la burocrazia ha rapidamente cambiato le società umane in modo radicale e inaspettato. Si pensi, ad esempio, all’impatto che i documenti e i burocrati che li gestivano hanno avuto sul concetto di proprietà. Prima dell’invenzione dei documenti, la proprietà si basava sul consenso della comunità. Se “possedevi” un campo, significava che i tuoi vicini erano d’accordo che fosse tuo, sia a parole che nei fatti. Non costruivano una casa su quel campo e non raccoglievano i suoi prodotti se non glielo permettevate.
La natura comunitaria della proprietà limitava il diritto individuale di proprietà. Per esempio, i vicini potevano essere d’accordo sul fatto che voi aveste il diritto esclusivo di coltivare un determinato campo, ma non riconoscevano il vostro diritto di venderlo a estranei. Allo stesso tempo, finché la proprietà era una questione di consenso comunitario, ciò impediva alle autorità centrali lontane di esercitare un controllo sulla terra. In assenza di documenti scritti e di complicate burocrazie, nessun re poteva ricordare chi possedeva quale campo in centinaia di villaggi remoti. I re avevano quindi difficoltà a riscuotere le tasse, il che a sua volta impediva loro di mantenere eserciti e forze di polizia.
Poi è stata inventata la scrittura, seguita dalla creazione di registri e burocrazie. La tecnologia era inizialmente molto semplice. Gli antichi burocrati mesopotamici usavano piccoli bastoni per fare segni su tegole di argilla, che in realtà non erano altro che pezzi di fango. Ma con i nuovi sistemi burocratici, questi pezzi di fango rivoluzionarono il concetto di proprietà. Improvvisamente, possedere un campo significava registrare su una piastrella la proprietà di quel campo. Se i vostri vicini raccoglievano frutta da anni e nessuno di loro aveva mai detto che quel pezzo di terra era vostro, ma voi riuscivate comunque a produrre un pezzo di fango ufficiale che ne attestava la proprietà, potevate far valere il vostro diritto in tribunale. Al contrario, se la comunità locale riconosceva che possedevate un campo, ma nessun documento suggellava ufficialmente questo fatto, allora il campo non vi apparteneva. Lo stesso vale oggi, solo che i nostri documenti critici sono scritti su pezzi di carta o chip di silicio invece che su argilla.
Potreste già essere un chatbot AI
Una volta che la proprietà è diventata una questione di documenti piuttosto che di consenso della comunità, le persone hanno potuto iniziare a vendere la loro terra senza chiedere il permesso ai vicini. Per vendere un campo, bastava trasferire la preziosa piastrella di argilla a qualcun altro. Ma questo significava anche che la proprietà poteva essere determinata dalla lontana burocrazia che produceva i documenti pertinenti ed eventualmente li conservava in un archivio centrale. La strada era stata spianata per imporre tasse, pagare eserciti e creare grandi Stati centralizzati. I documenti hanno cambiato il flusso di potere nel mondo e hanno conferito un’enorme influenza a burocrati come esattori delle tasse, responsabili dei pagamenti, contabili, archivisti e avvocati. Tutti questi sono diventati gli idraulici della rete informativa che, bene o male, controllano il flusso di tasse, pagamenti e persino soldati, gestendo documenti, domande, statuti e altre leve burocratiche.
Questo è il potere che l’intelligenza artificiale è ora pronta a conquistare. La burocrazia è un ambiente artificiale in cui la conoscenza di un campo limitato è sufficiente per esercitare un’enorme influenza sul mondo esterno manipolando il flusso di informazioni. Se si getta un’IA attuale nel nostro mondo caotico e destrutturato, probabilmente non otterrà molto, e di certo non riuscirà ad assemblare un esercito di robot. Ma è come gettare un avvocato aziendale nella savana caotica e destrutturata. Le sue competenze non hanno alcun valore e non può affrontare un elefante o un leone. Ma se prima si crea un sistema burocratico e lo si impone nella savana, l’avvocato diventa molto più potente di tutti i leoni del mondo messi insieme. Oggi, la sopravvivenza stessa dei leoni dipende dagli avvocati che redigono e spostano i documenti attraverso labirintiche burocrazie. In questo labirinto, l’intelligenza artificiale diventerà probabilmente molto più potente di qualsiasi avvocato umano.
Nei prossimi anni, milioni di burocrati AI prenderanno sempre più decisioni sulla vita non solo dei leoni, ma anche degli esseri umani. I banchieri dell’IA decideranno se concedervi un prestito. L’intelligenza artificiale del sistema educativo deciderà se ammettervi all’università. Le IA nelle aziende decideranno se verrete assunti. L’IA del sistema giudiziario deciderà se andrete in prigione. L’IA militare deciderà se la vostra casa sarà bombardata. Le tecnologie AI non sono necessariamente negative. Potrebbero rendere i sistemi molto più efficienti o addirittura più giusti. Potrebbero fornirci un’assistenza sanitaria, un’istruzione, una giustizia e una sicurezza superiori. Ma se le cose vanno male, i risultati potrebbero essere disastrosi. E in alcuni settori le cose sono già andate male.
https://www.asterios.it/catalogo/analogico-e-digitale
Come l’IA influisce sul mondo dei libri
L’esempio forse più eloquente è la storia degli algoritmi nei social media. Queste primitive tecnologie di IA hanno già rimodellato il mondo, esercitando un’enorme influenza sulla società umana. Gli algoritmi di aziende come Facebook, X, YouTube e TikTok sono stati incaricati di raggiungere un obiettivo molto limitato, ideale per gli opinionisti idioti: aumentare il coinvolgimento degli utenti. Più tempo gli utenti trascorrono sui social media, più le aziende guadagnano. Nel perseguire il coinvolgimento degli utenti, gli algoritmi hanno fatto una scoperta pericolosa. Sperimentando con milioni di cavie umane, gli algoritmi dei social media hanno scoperto che l’avidità, l’odio e la paura aumentano il coinvolgimento degli utenti. Se si attiva il pulsante dell’avidità, dell’odio o della paura nella mente di una persona, si ottiene la sua attenzione e la si tiene incollata allo schermo. Pertanto, gli algoritmi hanno iniziato a diffondere deliberatamente odio, paura e avidità. Questo è un fattore determinante per l’attuale epidemia di teorie cospirative, fake news e disordini sociali che minano le società di tutto il mondo.
Gli algoritmi dei social media sono tecnologie AI estremamente limitate che non possono in alcun modo sopravvivere alla savana o orchestrare la Grande Rivolta dei Robot. Ma all’interno della struttura burocratica delle piattaforme di social media, questi opinionisti idioti esercitano un enorme potere che un tempo era prerogativa degli esseri umani. Per secoli, i redattori umani hanno deciso cosa inserire nei notiziari radiofonici e televisivi e cosa avrebbe fatto notizia, dando così forma al dibattito pubblico. Questo ha reso i redattori figure potenti. Jean-Paul Marat ha segnato il corso della Rivoluzione francese pubblicando l’influente giornale L’Ami du Peuple (L’amico del popolo). Edward Bernstein ha plasmato il pensiero socialdemocratico moderno pubblicando Der Sozialdemokrat. La posizione più importante ricoperta da Vladimir Lenin prima di diventare dittatore sovietico fu quella di editore di Iskra. Benito Mussolini si guadagnò fama e influenza come editore del giornale di destra Il Popolo d’Italia. È interessante notare che una delle prime professioni al mondo a essere automatizzate dall’IA non è stata quella del tassista o dell’operaio tessile, ma quella del redattore di giornali. Il lavoro che un tempo facevano Lenin e Mussolini ora può essere svolto dall’IA.
Il caos che i redattori algoritmici stanno scatenando sulle società umane è un segnale di allarme. Il mondo umano è una rete di burocrazie multiple in cui l’IA può accumulare un enorme potere, anche se non è assolutamente in grado di organizzare la Grande Rivolta dei Robot. Perché ribellarsi a un sistema se si può alienarlo dall’interno?
Yuval Noah Harari è uno storico, filosofo e scrittore.
Copyright Yuval Noah Harari 2024.
https://www.asterios.it/catalogo/fin-di-bene-il-nuovo-potere-della-ragione-artificiale