L’ultimo scandalo sulla scrittura con l’IA è arrivato, opportunamente, con il Papa. Il 25 maggio 2026, il Vaticano ha pubblicato la prima enciclica di Papa Leone XIV, Magnifica Humanitas, datata 15 maggio, sulla tutela della persona umana nell’età dell’intelligenza artificiale. Nel giro di pochi giorni, c’era chi la dava in pasto a Pangram, il rilevatore diventato d’un tratto lo strumento rispettabile del sospetto letterario e accademico. Alcune parti sarebbero state segnalate come assistite dall’IA, e l’accusa era facile da capire: il Papa, o quantomeno il Vaticano, aveva usato l’IA per scrivere sull’IA.
La mia reazione è stata sostanzialmente: va bene, e con ciò? Le encicliche passano già attraverso una redazione istituzionale, lavoro di staff, consultazioni, revisioni, traduzioni e una limatura quasi da comitato. Se qualche funzionario vaticano ha usato Claude per trasformare in prosa le idee di Papa Leone, le domande rilevanti rimarrebbero comunque se il documento sia accurato, ponderato e degno di essere letto. Ma devo ammettere che mi sbagliavo.
Nella Parte II della mia serie sull’IA, avevo scritto che i rilevatori di scrittura con l’IA erano scadenti e probabilmente lo sarebbero rimasti. Pangram mi ha fatto cambiare idea: ha evidenze di terze parti a sostegno, dichiara un tasso di falsi positivi molto basso ed è diventato il rilevatore a cui si ricorre quando si sospetta una scrittura con l’IA non dichiarata. Kelsey Piper ha scritto di recente delle affermazioni di Pangram Labs secondo cui diversi racconti premiati sarebbero stati generati dall’IA o assistiti da essa in misura sostanziale, e Matteo Wong di The Atlantic ha ora scritto del crescente potere di Pangram nelle scuole, nell’editoria, nel giornalismo e nell’economia delle accuse di scrittura con l’IA.
Un rilevatore che funziona rende l’etica più urgente, perché spinge le persone a trattare la provenienza come un verdetto. È per questo che la battuta sull’usare Pangram per filtrare i contenuti scritti da esseri umani è più pungente di quanto sembri a prima vista: in molti contesti, la scrittura assistita dall’IA può risultare più leggibile e più utile della prosa umana senza assistenza. Se i dati sottostanti sono solidi, la fatica umana a livello di frase aggiunge ben poco.
Devo anche essere chiaro sul fatto che qui sono parte in causa. Sono quel famigerato professore dell’IA che scrive con orgoglio con l’aiuto dell’IA. Un saggio che sostiene che il rilevamento dell’IA può trasformarsi in una vigilanza sullo status è comodamente una difesa della mia stessa pratica, perciò i lettori dovrebbero chiedersi se non stia tracciando il confine in un modo che mi avvantaggia.
Lo spettro della provenienza
L’etica della scrittura con l’IA parte dalla promessa fatta da chi scrive. Si può fare una promessa a un docente, a un editor, a un lettore, a un’istituzione o a un destinatario. La questione etica dipende da quella promessa prima ancora che da un punteggio di rilevamento.
Partiamo da dove gli scettici hanno ragione. Un compito assegnato a uno studente che vieta esplicitamente l’IA è il caso ovvio. Un concorso di scrittura creativa che promette di riconoscere nuovi autori umani è un altro. Un biglietto di condoglianze appartiene a una categoria diversa da quella di un esame, ma se chi è nel lutto si aspetta parole vostre, delegare l’atto emotivo a una macchina ha il sapore di un tradimento.
Alcune decisioni richiedono inoltre un giudizio umano di cui rispondere. Se devo decidere se qualcuno ottiene una borsa di studio o un finanziamento, la provenienza conta perché al richiedente è dovuto il mio giudizio. L’IA può aiutare a organizzare le prove o a verificarne la coerenza, ma l’atto valutativo deve restare mio.
Anche le conseguenze contano. Quanto più una decisione è influente, e quanto più dipende dal giudizio personale, tanto più forte è la ragione per sapere chi o cosa l’abbia presa. La discrezionalità umana può anche essere peggiore di quella dell’IA: un comitato può essere prevenuto o arbitrario, e un sistema di IA ben progettato potrebbe col tempo rendere alcune decisioni più coerenti.
C’è anche una regola speciale per le affermazioni in prima persona. Quando scrivo «penso» o «sento», quella convinzione dovrebbe essere davvero mia. L’IA può aiutarmi a formularla, a metterla alla prova o a renderla meno goffa. Non può fornire la convinzione stessa.
La ricerca e il giornalismo si collocano più verso il centro. Una firma è la promessa che l’autore garantisce per le affermazioni, le prove e le scelte di giudizio. Non ha mai significato che l’autore abbia personalmente digitato ogni frase senza l’aiuto di motori di ricerca, redattori, coautori, traduttori o ora degli LLM. Se il mio nome è su un argomento, l’argomento deve essere mio; la prosa può essere assistita.
Buona parte della scrittura tecnica si colloca più verso il lato in cui conta il contenuto. Se chiedo all’IA di descrivere un grafico, scrivere un paragrafo sui metodi o tradurre il risultato di una regressione in un inglese normale, la domanda importante è se l’output sia corretto. Devo comunque verificare i numeri e farmi carico del testo finale. L’accuratezza e la responsabilità portano il peso morale.
All’estremo opposto ci sono i messaggi amministrativi, dove quasi a nessuno importa dell’atto umano della scrittura. Se un dipartimento vi chiede di inviare un cortese messaggio per confermare la riunione di un comitato, usate l’IA liberamente. Lo standard rilevante è se il messaggio sia vero e chiaro.
Un singolo punteggio dell’IA non può rispondere alla domanda etica. Lo stesso livello di assistenza dell’IA può essere innocuo in un’email amministrativa, utile in un rapporto tecnico, discutibile in un saggio personale e squalificante in un compito scolastico senza IA. Il contesto è tutto, anche quando il rilevamento sottostante è accurato.
Anche il rilevamento ha il suo spettro
L’etica del rilevamento dovrebbe seguire l’etica dell’uso. Se un docente ha detto agli studenti di scrivere senza IA per un determinato compito, un rilevatore può far parte di un procedimento di integrità accademica. Un punteggio di Pangram non dovrebbe mai essere l’unica prova, soprattutto considerata la posta in gioco per gli studenti.
I concorsi creativi affrontano un problema analogo. L’argomentazione di Piper sul Commonwealth Short Story Prize va presa sul serio, perché i premi letterari riguardano in parte l’arte umana. Se un premio vuole ricompensare la voce di un autore umano, un’opera interamente generata dall’IA ne viola il presupposto. L’organizzatore può ammettere l’IA, vietarla o creare una categoria separata. La sola fiducia non risolverà il problema.
La revisione tra pari è più difficile. Seth Lazar ha offerto la versione più forte della tesi a favore del rilevamento in risposta a un mio precedente post su Pangram: la produzione di ricerca generata dall’IA può diventare un attacco di tipo denial-of-service alla revisione tra pari. Il costo di produrre articoli dall’aspetto plausibile crolla, mentre l’obbligo di leggerli resta oneroso. In quel contesto, un rilevatore può aiutare a preservare la scarsa capacità di revisione.
La tesi sulla revisione tra pari dipende comunque dall’obiettivo. Se l’obiettivo è cogliere studenti che violano una regola esplicita, il bersaglio è la provenienza. Se l’obiettivo è proteggere i revisori da contributi senza valore, la provenienza è solo un indicatore indiretto: un rilevatore stima la probabilità che un testo sia dell’IA, mai la probabilità che sia scadente. Il vero bersaglio è il lavoro scadente: dati inventati, citazioni false, metodi inesistenti e articoli senza una domanda che valga la pena di porre. Un rilevatore potrebbe aiutare a fare un primo filtro, ma qualcuno deve comunque verificare le affermazioni effettive.
Il mio timore è che faremo la caccia ai trattini lunghi ignorando i dati inventati che vi stanno sotto. Sarebbe un modo molto accademico di perdere il filo: un’attenzione squisita al segno superficiale, scarsa attenzione al fatto che la cosa dica qualcosa di vero.
Perché la trasparenza fallisce quasi sempre
Il compromesso ovvio è la trasparenza. Lasciare che le persone usino l’IA, imporre loro di dichiararlo e lasciare che i lettori decidano quanto la cosa conti. Sembra allettante perché tratta l’assistenza dell’IA come informazione e abbassa la temperatura morale.
Nella Parte II della serie sull’IA ho sostenuto che le norme sulla trasparenza crollano sotto gli incentivi che esse stesse creano. La metà di quell’argomentazione relativa al rilevatore ora va rivista, perché Pangram sembra funzionare molto meglio di quanto mi aspettassi. La metà relativa alla trasparenza continua a sembrarmi giusta.
Quanto più l’uso dell’IA è eticamente discutibile, tanto più forte è l’incentivo a nasconderlo. Uno studente che ha usato l’IA dopo aver promesso di scrivere da solo, un partecipante a un concorso che ha presentato narrativa scritta dalla macchina a un premio per la scrittura umana, o un ricercatore che ha usato l’IA per mascherare citazioni false ha ogni motivo per tacere.
Le persone più propense a dichiararlo sono quelle che usano l’IA in modi a bassa posta in gioco: ripulire un paragrafo, tradurre un grafico o trasformare appunti grezzi in una prosa leggibile di cui restano comunque autori. E sono anche i casi in cui la dichiarazione conta meno. L’equilibrio probabile è un mondo pieno di riconoscimenti rituali su un’innocua assistenza dell’IA, mentre i casi davvero ingannevoli restano nascosti finché qualcuno non li indaga.
La trasparenza può comunque essere utile quando la dichiarazione stessa spiega il lavoro, come accade qui. Anche editor, docenti, giurie di premi e chi esercita un’autorità istituzionale dovrebbero essere chiari sulle regole che fanno rispettare. Ma se l’intero sistema dipende da una confessione onesta, finirà per punire i coscienziosi e lasciare in pace gli utenti strategici.
La nuova vigilanza grammaticale
So che l’espressione «nazismo grammaticale» è ruvida, e con essa intendo qualcosa di preciso. Sono nato in Unione Sovietica, e la cultura d’élite russa può essere intensamente sensibile alla grammatica, alla pronuncia, agli accenti tonici e ai piccoli marcatori di status incorporati nel parlato. In pratica, la correzione grammaticale fungeva spesso anche da selezione sociale: la scuola sbagliata, la regione sbagliata, l’origine familiare sbagliata o il tipo di istruzione sbagliato potevano trapelare dal modo in cui parlavi.
L’America ha la sua versione di tutto ciò. L’inglese accademico è pieno di segnali di status mascherati da standard. Il giusto tipo di fluenza ti fa sembrare intelligente prima che qualcuno verifichi se hai ragione, e l’accento o l’idioma sbagliato possono marchiarti come poco serio prima ancora che la tua argomentazione venga ascoltata.
Il rilevamento dell’IA sta trasformando questa vecchia abitudine in un nuovo rituale tecnico. Le stesse persone che un tempo vigilavano sulla grammatica ora vigilano sulle «spie dell’IA»: trattini lunghi, transizioni fluide, metafore generiche, paragrafi stranamente bilanciati, una prosa che sembra un po’ troppo pulita. A volte hanno ragione. La scrittura dell’IA ha schemi riconoscibili, ed è proprio per questo che ho una guida di stile piena di essi.
Se qualcuno legge un testo, impara qualcosa di nuovo e poi sposta la conversazione su un’unica espressione sospetta, l’istinto da «pangrammatico» ha fatto perdere tempo a tutti. L’attenzione di un lettore dovrebbe andare prima all’affermazione, alle prove e al risultato, riservando la vigilanza sullo stile ai casi in cui la prosa ostacola davvero la comprensione o segnala un inganno.
Questa dinamica di status è molto familiare. Il punteggio del rilevatore offre una licenza dall’aria scientifica per liquidare un lavoro senza leggerlo con attenzione. A trarne vantaggio sono di solito gli autori già affermati e i guardiani titolati che possono trasformare una valutazione di giudizio in un punteggio. L’accusa diventa particolarmente comoda contro gli autori di status più basso e le persone che non scrivono bene in inglese, ma che ora possono usare l’IA per tradurre, redigere e raggiungere un pubblico anglofono. Troppo levigato sembra falso. Troppo goffo sembra di bassa qualità. In entrambi i casi, vince il guardiano.
La logica della contaminazione morale aggrava il problema. Una volta che il coinvolgimento dell’IA viene trattato come un’impurità, qualsiasi traccia di assistenza basta a condannare l’intera opera. È uno standard bizzarro per un mondo in cui la scrittura umana è sempre stata prodotta socialmente da editor, revisori, coautori, traduttori e dalla frase che avete letto ieri.
L’equilibrio più comico possibile è già qui. Gli strumenti di IA producono una prosa troppo chiara, i rilevatori puniscono la chiarezza, e poi nuovi strumenti «umanizzatori» riscrivono la prosa perché sembri più goffa. TIME ha descritto di recente persone che inseriscono errori e stranezze per evitare di suonare generate dall’IA. È Grammarly al contrario: peggiorare la scrittura perché sembri più autentica.
Cosa fare invece
Sostengo la modestia dei rilevatori. Pangram andrebbe usato solo dove la provenienza fa parte dell’accordo: esami con esplicite regole anti-IA, concorsi che promettono arte umana, o contesti istituzionali in cui la fonte del testo fa parte del lavoro. La regola istituzionale andrebbe scritta prima di consultare il punteggio: definire quale uso dell’IA violerebbe la promessa e quale procedura di ricorso segue un punteggio elevato.
In molti ambiti, lo standard dovrebbe essere piuttosto semplice: se metti il tuo nome su un lavoro, ne sei responsabile. Sei responsabile dei fatti, delle affermazioni, degli errori, del gusto, della struttura e del giudizio. Se l’IA ti ha aiutato a produrre un riassunto tecnico accurato, bene. Se l’IA ti ha aiutato a produrre sciocchezze più in fretta, è un problema tuo.
Poiché l’attenzione è scarsa, le persone continueranno a affidarsi a scorciatoie. Si fideranno dei nomi che conoscono, delle riviste che rispettano, degli editor con una storia alle spalle, degli amici che hanno letto il lavoro e delle istituzioni che hanno qualcosa da perdere se pubblicano spazzatura. È imperfetto e spesso ingiusto. Gli outsider e i nuovi arrivati pagano un prezzo quando la reputazione diventa il filtro. Ma almeno la reputazione è soggetta a rendiconto nel tempo. Se una rivista, un premio, un professore o un autore continuano ad avallare lavori scadenti, la gente può accorgersene.
Un punteggio di Pangram è diverso. Offre una rapida congettura sulla provenienza testuale e ci invita a smettere di leggere prima ancora di esserci chiesti cosa stia facendo il testo. Pangram sembra funzionare, perciò la domanda non è più se possiamo rilevare l’IA. La domanda è cosa dovremmo fare di quell’informazione. Usatela quando la provenienza fa parte dell’accordo e la posta in gioco giustifica un’indagine. Trattatela come uno stimolo al giudizio, mai come un sostituto del giudizio.
Se il lavoro è falso, sbagliato, plagiato, emotivamente fraudolento o una violazione di una regola chiara, ditelo e agite di conseguenza. Se il lavoro è accurato, utile e di proprietà della persona il cui nome vi compare, il fatto che Codex, Claude o ChatGPT abbiano aiutato a comporre le frasi è una base debole per uno scandalo. Lo scandalo sarebbe costruire una cultura in cui tutti imparano a peggiorare la scrittura perché possa passare per umana.
Un’ultima dichiarazione, dato che l’intero pezzo verte su questa questione: il saggio qui sopra è stato scritto interamente in Codex a partire da diverse ore dei miei pensieri dettati, da post precedenti, da istruzioni di stile salvate e da recenti scambi sui social media. Anche l’immagine di copertina e il grafico dello spettro sono stati prodotti da Codex. Non è stato un prompt unico. Abbiamo fatto più di una dozzina di iterazioni, soprattutto per affinare l’argomentazione e il grafico. Sì, in questo momento sto usando Codex più di Claude Code. Sì, ho letto la bozza prima di pubblicarla, ma non ho fatto alcuna revisione di stile sulla prosa. Secondo il mio stesso grafico, questo saggio si colloca sul lato dello spettro in cui conta il contenuto, e lo sostengo con convinzione.