Il testo è vero o falso? Riconoscere la differenza con l’aiuto della scienza

Strumenti tecnologici di intelligenza artificiale quali ChatGPT stanno rubando i titoli dei giornali. Dalla scrittura di poesie in uno stile che ricorda l’Inghilterra del XVI secolo alla stesura di documenti di ricerca accademici, i chatbot progettati per i servizi del mondo reale non sono destinati a sparire.

In realtà, questi attori piuttosto bravi continueranno ad affinare sempre di più le loro abilità. Riusciremo a non farci ingannare da questi modelli di elaborazione del linguaggio naturale che stanno diventando strumenti di lavoro irrinunciabili nella nostra società?Per fornire un qualche aiuto, un gruppo di ricerca della School of Engineering and Applied Science della University of Pennsylvania, negli Stati Uniti, ha condotto il più grande studio mai realizzato sul rilevamento dell’IA da parte degli esseri umani. I dati sono stati raccolti dal gioco di formazione basato sul web «Real or Fake Text?», creato dall’università stessa.

I risultati sono stati presentati in un documento sottoposto a revisione paritaria in occasione di una riunione dell’Association for the Advancement of Artificial Intelligence nel mese di febbraio. Lo studio ha dimostrato che possiamo imparare a riconoscere testi scritti dall’uomo da quelli generati da una macchina.

«Abbiamo dimostrato che le persone possono imparare da sole a riconoscere i testi generati da una macchina», ha dichiarato Chris Callison-Burch, professore associato presso il Dipartimento di Computer and Information Science (CIS) in un articolo. «Le persone partono da una determinata serie di ipotesi sul tipo di errori che una macchina potrebbe commettere, ma tali ipotesi non sono necessariamente corrette. Nel corso del tempo, con un numero sufficiente di esempi e di istruzioni esplicite, possiamo imparare a cogliere i tipi di errori che le macchine fanno correntemente.»«Oggi l’intelligenza artificiale è sorprendentemente brava a produrre testi molto fluidi e grammaticali», ha spiegato il coautore dello studio Liam Dugan, dottorando presso il CIS. «Ma commette errori. Noi dimostriamo che le macchine commettono errori caratteristici: errori di senso comune, errori di rilevanza, errori di ragionamento ed errori logici, ad esempio, che possiamo imparare a individuare».

«Le persone sono preoccupate dall’IA per validi motivi», ha aggiunto il Prof. Callison-Burch, che ha guidato la ricerca. «Il nostro studio fornisce elementi di prova per dissipare tali preoccupazioni. Una volta che saremo in grado di sfruttare il nostro ottimismo nei confronti dei generatori di testi a IA, potremo dedicarci alla capacità di questi strumenti di aiutarci a scrivere testi più fantasiosi e interessanti.»

«La mia sensazione al momento è che queste tecnologie siano più adatte per la scrittura creativa», ha continuato. «Le notizie, le tesine o le consulenze legali sono casi d’uso sbagliati, perché non esiste garanzia di fattualità.»

Dugan vede il lato positivo in tutto questo: «Esistono direzioni positive ed entusiasmanti in cui si può spingere questa tecnologia. Le persone sono ossessionate dagli esempi preoccupanti, quali il plagio e le fake news, ma oggi sappiamo che possiamo allenarci a essere lettori e scrittori migliori.»

Allora, quanto siete bravi? Per scoprirlo, giocate a una delle quattro categorie del gioco (racconti, articoli di cronaca, ricette, discorsi presidenziali) che contengono migliaia di testi! E ricordate che, mentre affinate le vostre capacità di riconoscimento, contribuite anche alla ricerca accademica.