La crescente popolarità dei modelli linguistici di grandi dimensioni e dei chatbot AI ha portato a un afflusso di testo generato automaticamente che ha invaso Internet. La proliferazione di contenuti scritti dall’intelligenza artificiale ha reso sempre più difficile distinguere tra testo generato dall’intelligenza artificiale e scrittura umana. Per affrontare questa sfida, OpenAI, il creatore di modelli linguistici di spicco come ChatGPT e GPT-4, ha presentato all’inizio di quest’anno un classificatore progettato per distinguere tra testo scritto da esseri umani e testo scritto da sistemi di intelligenza artificiale di vari fornitori.
Tuttavia, dopo meno di sette mesi, OpenAI ha deciso di chiudere il classificatore AI a causa della sua scarsa precisione. In a recente post sul blog recent blog post, la società ha riconosciuto che è difficile rilevare in modo affidabile tutto il testo scritto dall’intelligenza artificiale, ma i buoni classificatori sono fondamentali per affrontare situazioni problematiche come false affermazioni secondo cui il testo generato dall’intelligenza artificiale è scritto dall’uomo, campagne di disinformazione automatizzate e imbrogli accademici utilizzando strumenti di intelligenza artificiale.
Le implicazioni dell’incapacità di OpenAI di individuare la scrittura AI sono di vasta portata. Se i contenuti generati dall’intelligenza artificiale diventano indistinguibili dai contenuti scritti dall’uomo, possono avere un impatto significativo sul mondo delle informazioni online. Alcuni siti Web di spam sfornano già contenuti automatizzati utilizzando nuovi modelli di intelligenza artificiale, il che ha portato a entrate pubblicitarie e alla diffusione di disinformazione. Inoltre, c’è una preoccupazione tra i ricercatori per il collasso del modello quando i dati prodotti dall’intelligenza artificiale addestrano inavvertitamente nuovi modelli. Questo fenomeno si verifica quando i modelli di intelligenza artificiale fanno molto affidamento sui propri contenuti generati e portano a difetti irreversibili nei modelli successivi.
I ricercatori hanno evidenziato l’importanza dei dati raccolti da interazioni umane autentiche con i sistemi, in particolare quando i contenuti generati dall’intelligenza artificiale diventano più diffusi nei dati estratti da Internet. Senza un metodo affidabile per distinguere tra scrittura umana e IA, affrontare queste sfide diventa difficile.
L’incapacità di identificare il testo generato dall’intelligenza artificiale solleva questioni cruciali per l’industria dell’intelligenza artificiale e la più ampia comunità online. Il classificatore di testo AI fallito di OpenAI sottolinea l’urgenza di sviluppare soluzioni efficaci per preservare l’accuratezza e la credibilità delle informazioni su Internet. Sottolinea inoltre l’importanza di una formazione responsabile del modello di intelligenza artificiale per evitare il collasso del modello e garantire i continui benefici dei dati su larga scala raccolti da interazioni umane autentiche.
Disponibile in tutte le Librerie, in IBS e Amazon e/o direttamente dal sito di Asterios con sconti ed omaggi!
https://www.asterios.it/catalogo/quale-mondo-quali-futuri