Alcuni modelli adotteranno una traccia statistica nascosta nelle scelte linguistiche, ma l’affidabilità andrà a calare nei contenuti brevi, revisioni leggere e riscritture profonde
LA NOTIZIA IN BREVE – Dal 2 agosto l’AI Act impone nuove regole sulla trasparenza dei contenuti generati dall’intelligenza artificiale. Testi, immagini, audio e video prodotti o manipolati dai sistemi generativi dovranno poter essere riconosciuti attraverso marcature leggibili dalle macchine. Anthropic ha già annunciato per Claude una filigrana statistica basata su SynthID-Text: non un codice nascosto, ma una traccia lasciata dalle scelte linguistiche del modello.
Il sistema, però, non può stabilire chi abbia realmente scritto un articolo. La rilevazione diventa meno affidabile con testi brevi, semplici correzioni editoriali o riscritture profonde. Un giornalista può infatti produrre e verificare un intero approfondimento usando l’AI soltanto per correggere alcuni passaggi; al contrario, un testo nato integralmente da una macchina può essere successivamente riscritto fino a perdere la filigrana.
Per questo l’AI Act attribuisce un ruolo centrale anche alla revisione umana e alla responsabilità editoriale: la vera garanzia resta sapere chi ha verificato fonti, dati e contenuti prima della pubblicazione.
Se vuoi andare oltre alla sintesi della nostra notizia leggi qui di seguito l’approfondimento
L’APPROFONDIMENTO – Dal 2 agosto chi produce e pubblica contenuti con l’intelligenza artificiale deve fare i conti con le nuove regole sulla trasparenza imposte dall’Europa. I sistemi generativi, infatti, devono da ora in avanti lasciare nei testi, nelle immagini, negli audio e anche nei video una marcatura leggibile dalle macchine. L’obiettivo delle istituzioni è rendere riconoscibili i contenuti generati o manipolati artificialmente. Questo, però, non significa che tutto ciò che resta privo di una filigrana possa essere automaticamente certificato come umano e dunque “originale”: la distinzione è importante e, come vedremo, è proprio qui che iniziano i problemi.
Quando un testo generato dall’AI viene pubblicato per informare il pubblico su temi di interesse generale, la sua natura deve essere dichiarata, salvo le eccezioni previste dall’AI Act. Lo facciamo da tempo anche noi sulle pagine di GiornaleTecnologico.net. Le nostre immagini sono in gran parte generate con l’ausilio di sistemi AI, mentre i testi (fatta eccezione per le sintesi che trovate in testa ad ogni lavoro), sono frutto del lavoro giornalistico. L’intelligenza artificiale è dunque totalmente esclusa e bandita da GTNews? Ma certo che no. L’AI è uno strumento e, al pari di un software di videoscrittura, può servire al professionista nella correzione di refusi, nella creazione di titoli di paragrafo utili per l’indicizzazione e nella realizzazione di infografiche e moduli di servizio, come i nostri “Link utili” e “Domande e risposte”. Dobbiamo abbracciare le novità, proprio come abbiamo fatto in passato: diversamente staremmo ancora qui a scrivere gli articoli con una macchina da scrivere.
Insomma, i nostri lavori vengono scritti da un giornalista e successivamente sottoposti anche a una revisione con l’AI. E non finisce qui: sapendo che tutti i modelli possono produrre errori o allucinazioni, verifichiamo nuovamente che durante quel passaggio non siano stati introdotti dati, citazioni o informazioni sbagliate. La revisione umana e il controllo editoriale restano essenziali. Ed è proprio su questo punto che la normativa europea fa una distinzione precisa: il controllo deve riguardare davvero la sostanza del contenuto, non limitarsi a ortografia e grammatica.
Ma l’Ue, giustamente, non si fida soltanto delle dichiarazioni di chi pubblica. E così il 14 agosto Anthropic ha annunciato che i futuri modelli Claude incorporeranno nei testi una sorta di filigrana statistica, basata su una versione di SynthID-Text sviluppata da Google DeepMind. Una traccia pensata per permettere di stabilire quanto sia “probabile” che Claude sia intervenuto nella produzione di un contenuto. Problema risolto dunque? No.
Leggi di più
Come può esserci una filigrana se nel testo non si vede nulla?
La parola watermark fa pensare quasi inevitabilmente a qualcosa che viene aggiunto al documento: un carattere invisibile, un codice nascosto, un’informazione infilata nei metadati. Con il sistema scelto da Anthropic potrebbe succedere qualcosa di diverso. Nel testo non viene aggiunto nulla. Non ci sono caratteri segreti e non viene inserita alcuna informazione capace di identificare l’utente, l’azienda o la conversazione dalla quale proviene il contenuto. La filigrana nasce mentre il modello decide che cosa scrivere, scegliendo progressivamente i cosiddetti token. In molti punti non esiste una sola continuazione possibile.
Il sistema, ipotizzano alcuni esperti, interverrà selezionando una possibilità fra quelle disponibili. Una singola scelta non rivela nulla ma decine di scelte, concatenate, possono lasciare una regolarità statistica riconoscibile. Il rilevatore è il solo ad avere la chiave di codifica e analizzando il contenuto valuta quanto la sequenza osservata sia compatibile con quella che ci si aspetterebbe da un modello marchiato.
Siamo però molto lontani dalla firma digitale di un documento. Al momento si può parlare di probabilità, niente di più: il watermark può indicare quanto un lavoro sia stato “probabilmente” coinvolto nell’elaborazione, ma non riesce a distinguere fra un lavoro ottenuto con il semplice supporto dell’AI e un altro scritto (e magari pubblicato) integralmente da una macchina.
Prendiamo un articolo giornalistico. Il cronista trova uno studio, legge il lavoro originale, telefona agli autori, magari realizza una breve intervista, controlla i numeri, cerca una posizione indipendente e scrive il pezzo. Alla fine chiede all’AI di rendere più scorrevoli due passaggi. Se in quelle frasi restasse la filigrana, il detector potrebbe riconoscere un intervento dell’intelligenza artificiale classificando l’intero lavoro come “artificiale”. Ora rovesciamo il caso. Una persona chiede all’AI di produrre da zero l’intero articolo, poi lo prende e lo riscrive pesantemente. La filigrana in questo caso potrebbe indebolirsi fino a non essere più rilevabile. Eppure in questo caso il punto di partenza era quasi interamente artificiale.
Perché poche righe possono mettere in difficoltà il sistema
Un articolo di migliaia di parole contiene moltissime decisioni linguistiche. Il watermark dispone quindi di numerose occasioni per lasciare la propria traccia e il detector ha più materiale da analizzare.
Con un titolo, un post social o una risposta di poche righe accade il contrario. Le decisioni sono poche e la valutazione diventa inevitabilmente più incerta: la capacità di rilevazione varia dunque anche in funzione della lunghezza del testo.
Ma per un giornale c’è un problema ulteriore.
Più un testo è vincolato dai fatti, meno libertà ha il modello
Un nome proprio deve restare quello, e allo stesso modo una data non può essere cambiata per agevolare la filigrana. Lo stesso vale per una percentuale, una formula matematica o una citazione: in questi casi le possibili alternative si riducono drasticamente.
E vale, soprattutto, per la normale correzione di un articolo. Se consegniamo al sistema duemila parole già scritte e gli chiediamo soltanto di correggere qualche refuso o una concordanza, il modello prenderà pochissime decisioni linguistiche autonome. Di conseguenza, la filigrana può risultare debole o addirittura non rilevabile.
Basta una parafrasi per cancellare tutto
Una parafrasi, una riscrittura attraverso un altro modello o una modifica delle parole alterano la sequenza sulla quale il detector basa il proprio calcolo. L’articolo arriva a sostenere che anche la sostituzione manuale di alcuni connettivi possa azzerare il segnale statistico.
Un editing leggero non dovrebbe normalmente cancellare il watermark. Una riscrittura radicale è un’altra cosa: se quasi tutte le parole vengono sostituite, inevitabilmente sparisce gran parte delle decisioni sulle quali era stata costruita la filigrana: cambiare delle virgole o poche parole non equivale a rigenerare un testo.
Aggirare un sistema AI non sembra, allo stato attuale, complicato. In teoria si potrebbe ingannare un sistema di verifica rielaborando un testo prima con un modello e poi con un altro. Lo si potrebbe tradurre per poi riportarlo nella lingua madre, riscriverlo manualmente o, perché no, chiedere una parafrasi profonda.
Oggi il watermarking non rappresenta la soluzione definitiva al problema dei testi generati dall’AI.
Una eventuale filigrana funzionerebbe?
Google DeepMind ha sperimentato un sistema simile su larga scala, utilizzandolo in Gemini. Lo studio, pubblicato sulle pagine della prestigiosa rivista Nature, ha analizzato quasi 20 milioni di risposte marchiate e non marchiate e non ha rilevato differenze statisticamente significative nella qualità percepita dagli utenti. Il watermark non avrebbe quindi reso le risposte meno corrette, meno utili o più innaturali.
E i detector già disponibili online?
Sul Web esistono decine e decine di detector che sostengono di svelare la natura di un contenuto, che sia questo un testo, un video o una immagine. Nessuno, neppure quelli più sofisticati, possiedono però la chiave utilizzata dal modello durante la generazione. Cercano di dedurre la natura di un “prodotto” osservando determinate caratteristiche: regolarità linguistiche, frequenza delle parole, prevedibilità delle frasi e altri indizi (molti dei quali identificabile anche da un utente attento).
Perché allora l’Europa vuole queste marcature?
Perché il compito assegnato loro dall’AI Act è più limitato di quello che spesso attribuiamo alla parola “filigrana”.
L’articolo 50 chiede ai fornitori di sistemi generativi di rendere i contenuti rilevabili come prodotti o manipolati artificialmente attraverso marcature leggibili dalle macchine. Lo stesso regolamento tiene però conto delle caratteristiche dei diversi formati, dello stato della tecnologia e dei limiti tecnici esistenti.
Ci sono inoltre eccezioni. L’obbligo tecnico di marcatura non copre, per esempio, alcuni casi in cui il sistema svolge una normale funzione di editing o non modifica sostanzialmente il significato dell’input. Per i sistemi già immessi sul mercato prima del 2 agosto è prevista inoltre, limitatamente all’obbligo di marcatura, una fase transitoria fino al 2 dicembre 2026.
Poi c’è un secondo livello, quello visibile al pubblico.
Quando un soggetto professionale utilizza l’AI per pubblicare testi generati o manipolati artificialmente su questioni di interesse pubblico, l’articolo 50 prevede un obbligo di trasparenza. Ma se esiste una vera revisione umana o un effettivo controllo editoriale, accompagnato dalla responsabilità sulla pubblicazione, quell’obbligo di etichettatura del testo viene meno.
Che cosa significa “revisione umana”?
La Commissione europea ha chiarito che il controllo deve riguardare la sostanza di ciò che viene pubblicato. Chi effettua la revisione deve avere conoscenze adeguate e poter esercitare un vero giudizio sul contenuto. Il controllo editoriale, a sua volta, deve consentire di approvare, modificare o respingere il testo per ragioni sostanziali. Tra gli esempi indicati ci sono il fact-checking e la verifica dell’affidabilità delle fonti. Un semplice controllo ortografico o grammaticale non soddisfa questi requisiti.
Per una testata è probabilmente questo il passaggio più interessante di tutta la normativa. L’Europa non chiede soltanto che una persona compaia formalmente nella catena produttiva. Chiede che qualcuno eserciti davvero la responsabilità editoriale.
Allora chi ha scritto davvero l’articolo?
Forse è proprio questa la domanda che stiamo ponendo male. Se Claude genera diecimila caratteri da un prompt di tre righe e un essere umano cambia il titolo, il contributo della macchina è evidente. Se un giornalista scrive tutto e chiede all’AI di correggere tre refusi, la situazione è altrettanto chiara. In mezzo, però, ci sono decine di combinazioni possibili.
Una filigrana può aiutare a comprendere se un determinato modello abbia o meno lasciato la propria impronta nelle parole, ma non può dire chi abbia fatto giornalismo. L’AI Act prova a lasciare una traccia sulle macchine. La credibilità di un articolo, di un approfondimento o di un’intervista dipende soprattutto da quello che accade prima di premere il tasto “pubblica”.
Link e fonti
Normativa europea, documentazione tecnica e studi scientifici per approfondire filigrane, trasparenza e riconoscimento dei contenuti generati dall’intelligenza artificiale.
-
Normativa europea
Obblighi di trasparenza previsti dall’articolo 50 dell’AI Act
Le risposte ufficiali della Commissione spiegano quali contenuti devono essere marcati, quando scattano gli obblighi per provider e utilizzatori e quali eccezioni valgono in presenza di revisione umana o controllo editoriale.
Consulta le regole -
Linee guida ufficiali
Linee guida europee sulla trasparenza dei contenuti generati dall’AI
Il documento chiarisce l’applicazione dell’articolo 50, le marcature leggibili dalle macchine, il concetto di contenuto sintetico e le eccezioni previste per il normale editing e per il controllo editoriale umano.
Consulta le linee guida -
Documentazione tecnica
Come funzionerà la filigrana nei testi generati da Claude
Anthropic descrive il watermark destinato ai futuri modelli Claude, chiarendo che non aggiunge caratteri nascosti e può indicare la probabilità di un intervento del sistema, senza stabilire proprietà o paternità del testo.
Leggi la spiegazione -
Studio scientifico
SynthID-Text: watermark su larga scala per i modelli linguistici
Lo studio peer reviewed descrive SynthID-Text e riporta una sperimentazione su quasi 20 milioni di risposte di Gemini. I test mostrano che la filigrana può aumentare la rilevabilità senza peggiorare in modo significativo la qualità del testo.
Consulta lo studio -
Tecnologia
SynthID – il sistema Google DeepMind per riconoscere contenuti AI
La documentazione illustra come SynthID inserisce watermark impercettibili in testi, immagini, audio e video e spiega, per i modelli linguistici, come la traccia venga costruita intervenendo sulle probabilità di scelta dei token.
Scopri SynthID -
Analisi giornalistica
L’illusione della filigrana e i limiti statistici del watermark
L’analisi esamina criticamente la capacità delle filigrane statistiche di resistere a parafrasi e riscritture e pone il problema della distanza tra rilevazione tecnica dell’intervento dell’AI e reale autorialità di un testo.
Leggi l’analisi
Note per i lettori
L’immagine usata per questo articolo è stata creata grazie all’utilizzo di un sistema di Intelligenza Artificiale
