I passi della Cina per lo status di superpotenza dell’IA ostacolati dalle sfide della censura del partito unico
La ricerca della Cina per diventare una superpotenza IA leader a livello mondiale si sta scontrando con il suo stesso regime di censura, con il controllo delle informazioni da parte del Partito Comunista Cinese (PCC) che potenzialmente ostacola lo sviluppo e il lancio di chatbot LLM (large language model).
Il PCC dà la priorità al controllo dello spazio dell’informazione rispetto all’innovazione e alla creatività, umana o meno, che potrebbero ostacolare drasticamente lo sviluppo e il lancio di LLM, lasciando la Cina in ritardo nella corsa per diventare il giocatore di intelligenza artificiale dominante al mondo.
Di recente, le autorità di regolamentazione cinesi hanno ordinato alle principali società tecnologiche di non offrire servizi ChatGPT “a causa del crescente allarme a Pechino per le risposte non censurate del chatbot basato sull’intelligenza artificiale alle domande degli utenti”. Secondo il quotidiano China Daily sponsorizzato dallo stato, tali chatbot “potrebbero fornire una mano al governo degli Stati Uniti nella sua diffusione della disinformazione e nella sua manipolazione delle narrazioni globali per i propri interessi geopolitici”.
Il problema fondamentale è che in Cina è proibito parlare molto e le sanzioni per il superamento del limite sono dure. Un chatbot che produce contenuti razzisti o minaccia di perseguitare un utente è motivo di imbarazzo negli Stati Uniti, ma un chatbot che dice che Taiwan è un paese indipendente o che afferma che Piazza Tiananmen è stata un massacro potrebbe far cadere l’ira del PCC sulla sua società madre.
I modelli linguistici di grandi dimensioni – LLM – possono auto-migliorarsi
La sfida per gli ingegneri cinesi è garantire che gli LLM non dicano mai nulla di denigratorio nei confronti del PCC, il che è un compito veramente erculeo e forse impossibile. L’output degli LLM è imprevedibile perchè imparano dal linguaggio naturale prodotto dagli esseri umani, che è soggetto a deduzioni, pregiudizi e imprecisioni. Gli utenti possono facilmente “ipnotizzare” o “ingannare” i modelli per produrre output che lo sviluppatore cerca di impedire. Garantire che gli LLM seguano le regole il 99,99% delle volte è un grosso problema di ricerca irrisolto.
Una possibile soluzione consiste nell’impedire al modello di apprendere determinati argomenti. Tuttavia, come Yonadav Shavit, un dottorato di ricerca in informatica studente dell’Università di Harvard, ha osservato, “nessuno sa davvero come addestrare un modello per non apprendere i fatti di base che trova e legge nel grande immenso archivio di Internet. Un’altra opzione sarebbe che l’LLM sputasse una risposta del tipo “Come chatbot Baidu, non posso …” se c’è la possibilità che seguano critiche al PCC, ma data la natura stocastica dei chatbot, questa opzione non garantisce che discorsi politicamente discutibili al PCC non possano mai sorgere.
In tal caso, il metodo de facto con cui le aziende cinesi di intelligenza artificiale competono tra loro comporterebbe l’invio di suggerimenti intelligenti e suggestivi al chatbot di intelligenza artificiale di un avversario, attendendo fino a quando non produce materiale critico nei confronti del PCC e inoltrando uno screenshot al CAC. Tuttavia, questa fragilità normativa dovrebbe cambiare se la Cina vuole una fiorente industria dell’IA generativa.
L’ex assistente segretario per la politica presso il Dipartimento per la sicurezza interna degli Stati Uniti, Stewart Baker, ha persino pubblicizzato un’offerta secondo cui la persona che convince l’intelligenza artificiale di Baidu a dire la cosa più scortese possibile su Xi Jinping o sul PCC riceverà un premio in denaro e, se è un cittadino cinese, li rappresenterà personalmente nella loro domanda di asilo negli Stati Uniti. L’offerta sottolinea la significativa sfida di garantire che gli LLM non dicano mai nulla che possa offendere il PCC, il che rappresenta un grave ostacolo alla ricerca della Cina per diventare una superpotenza leader mondiale nell’IA.
___________________________________________________________________
https://www.asterios.it/catalogo/la-costituzione-materiale-della-cina