Riconoscere i testi scritti dall’AI: il MIT porta il rilevamento dal 27% a oltre il 93% nei test

il

Un testo scritto da una macchina può sembrare perfettamente umano. E un testo umano, magari molto formale o scritto da chi usa una lingua diversa dalla propria, può sembrare artificiale. È per questo che affidare un’accusa di plagio o di uso improprio dell’intelligenza artificiale a un singolo punteggio automatico è una scelta delicata.

Il 18 novembre 2026 il MIT ha presentato una ricerca condotta con Cornell University che prova a migliorare i rilevatori di testi generati dai modelli linguistici. La proposta non consiste nell’individuare una parola magica che tradisca ChatGPT o altri sistemi. È un metodo per permettere al rilevatore di adattarsi mentre cambiano sia gli strumenti di scrittura sia i tentativi di eluderne il controllo.

Il problema del bersaglio che si muove

Un rilevatore di testo AI è, a sua volta, un modello statistico. Durante l’addestramento osserva esempi etichettati come umani o generati da macchine e impara regolarità utili a distinguerli. Quando però viene distribuito, il mondo non rimane fermo. Arrivano nuovi modelli linguistici, cambiano le abitudini di scrittura e compaiono programmi che riscrivono testi artificiali per farli sembrare umani.

I ricercatori chiamano questo fenomeno distribution shift, cambiamento della distribuzione dei dati. È un problema comune nell’apprendimento automatico: un modello che funzionava bene sui dati di ieri può diventare meno affidabile quando gli esempi di oggi sono diversi. Nel caso della scrittura, la difficoltà è accentuata dal fatto che alcuni utenti cercano intenzionalmente di ingannare il classificatore.

La conseguenza è una corsa continua. I produttori di rilevatori aggiornano i sistemi; gli strumenti di riscrittura cambiano strategia; i rilevatori devono imparare di nuovo. E nel frattempo chi usa questi software per valutare studenti, candidati o autori rischia di attribuire a un punteggio una certezza che il sistema non possiede.

Che cos’è la test-time adaptation

La tecnica studiata dal gruppo si chiama test-time adaptation, abbreviata TTA. Nei sistemi tradizionali, dopo l’addestramento i parametri del modello vengono in gran parte congelati: il rilevatore riceve un testo e produce una classificazione. Con TTA, invece, il modello può aggiornare alcuni aspetti del proprio funzionamento utilizzando nuovi esempi incontrati durante l’impiego.

La caratteristica più interessante è che i nuovi testi non devono essere già etichettati come umani o artificiali. L’algoritmo cerca di adattarsi a dati non etichettati, cioè a documenti dei quali non conosce in anticipo l’origine. Questo non significa che possa scoprire automaticamente la verità su ogni documento: significa che può aggiornare la propria rappresentazione statistica del contesto.

L’idea assomiglia, con tutti i limiti dell’analogia, a un correttore che non usa per sempre lo stesso vocabolario, ma impara a riconoscere nuove espressioni e nuovi stili. In un ambiente che cambia rapidamente, la capacità di adattamento può essere più importante della precisione misurata una sola volta in laboratorio.

Schema concettuale AI di un modello adattivo
Illustrazione concettuale generata con AI: non rappresenta misure o fotografie reali.

I risultati: 27% contro oltre 93%

Il comunicato del MIT riporta due confronti. In esperimenti con testi generati dall’AI e modificati appositamente per sfuggire al riconoscimento, metodi esistenti identificavano circa il 27% degli esempi, mentre l’approccio con adattamento superava il 93%. In prove pensate per simulare cambiamenti naturali della scrittura, la precisione arrivava all’85% con TTA contro il 73% dei metodi tradizionali.

Questi numeri sono promettenti, ma non vanno trasformati in una promessa universale. Il 93% riguarda specifici esperimenti, dataset e condizioni di attacco. Non significa che qualsiasi software basato su TTA possa riconoscere il 93% di tutti i testi prodotti da qualsiasi AI, in ogni lingua e con qualunque forma di editing umano.

Occorre anche distinguere le metriche: identificare una quota maggiore di testi artificiali non basta a dimostrare che siano pochi i falsi positivi sui testi umani. In una scuola o in una redazione, perfino una percentuale apparentemente modesta di errori può avere conseguenze importanti. Senza conoscere popolazione di riferimento, soglia decisionale e costi degli errori, un numero isolato dice meno di quanto sembri.

Perché questo non è un test della sincerità

Il rilevatore non legge le intenzioni di chi scrive. Può osservare segnali statistici, non sapere se una persona abbia usato l’AI per tradurre, correggere una frase, preparare una scaletta o generare l’intero elaborato. Queste situazioni possono essere molto diverse dal punto di vista delle regole di una scuola, di un editore o di un concorso.

Inoltre un autore può avere uno stile ripetitivo, estremamente regolare o poco idiomatico senza aver utilizzato alcun modello linguistico. E un testo generato può essere rielaborato profondamente da una persona. Il confine tra scrittura umana e assistita è spesso un processo, non un’etichetta binaria.

Per questo un punteggio automatico dovrebbe semmai essere un indizio da contestualizzare, mai una prova autosufficiente per sanzioni o accuse pubbliche. Cronologia delle revisioni, fonti consultate, capacità di spiegare il proprio lavoro e regole trasparenti restano elementi essenziali di una valutazione equa.

Illustrazione AI di flussi di scrittura umana e artificiale
Illustrazione concettuale generata con AI: non rappresenta misure o fotografie reali.

Dalla scuola alla cybersecurity

I ricercatori citano applicazioni nell’editoria scientifica, nei concorsi, nelle selezioni e nella sicurezza informatica. Per esempio, individuare campagne di phishing che impiegano testi artificiali potrebbe aiutare gli analisti a filtrare grandi volumi di messaggi. Ma un messaggio scritto da una persona può essere malevolo e uno scritto da una macchina può essere innocuo: l’origine del testo non coincide con la sua pericolosità.

Un rilevatore adattivo comporta anche nuove domande di sicurezza. Se apprende da dati ricevuti durante il funzionamento, come impedire che un attaccante manipoli deliberatamente quei dati? Quali controlli proteggono la privacy dei documenti analizzati? Come si verifica che gli aggiornamenti non penalizzino gruppi linguistici o stili particolari? Sono questioni da affrontare prima di impiegare il metodo in contesti ad alto impatto.

Il lavoro sarà presentato alla conferenza NeurIPS, secondo il MIT. La presentazione a una conferenza scientifica e la disponibilità di risultati sperimentali non equivalgono alla validazione indipendente di ogni possibile uso commerciale. Il gruppo stesso riconosce che i futuri modelli potrebbero diventare sempre più difficili da distinguere dalla scrittura umana.

La domanda che resta aperta

La ricerca è interessante proprio perché non vende un rilevatore infallibile. Mostra come migliorare un sistema quando il bersaglio cambia, ma ammette che distinguere con certezza testo umano e artificiale potrebbe diventare impossibile in alcuni scenari.

Forse la sfida più importante sarà costruire regole che non dipendano da una presunta macchina della verità digitale. Chiedere trasparenza sull’uso degli strumenti, valutare il processo creativo e conservare la possibilità di contestare una classificazione può essere più utile che inseguire un numero perfetto. L’AI cambia la scrittura; non dovrebbe farci dimenticare la responsabilità di giudicarla con attenzione.

Fonti e verifica

MIT News, 18 novembre 2026, presentazione della ricerca di MIT e Cornell; NIST AI Risk Management Framework, principi generali di gestione del rischio; NIST AI RMF Playbook, indicazioni per valutazione e monitoraggio. Le percentuali citate sono riferite ai test descritti dai ricercatori, non a prestazioni universali.

Rispondi