Ci sono istituzioni prudenti, alcune prudentissime, quasi esagerate nell’interpretare le regole e adottarne le contromisure. Tanto da far pensare più a una strategia di mercato che ad una scelta tecnologica, con il rischio poi di pagarne le conseguenze nel mondo selvaggio dell’AI, sempre più entropico che antropico.
Da questo mese Anthropic ha deciso di “marcare” qualsiasi testo che venga prodotto o corretto da Claude. Un watermark invisibile, un sigillo digitale (C2PA) nelle immagini e una politica precisa di elaborazione dei token nella scelta delle parole per quanto riguarda i testi.
Il tutto per rendere non necessariamente indelebile ma persistente il “timbro” che indica un intervento dell’AI per tutti gli utenti, in ogni parte del mondo, non solo in Europa.
E vale per ogni banale intervento, anche localizzato, quando Claude ti cambia una parola o ti modifica un fragile congiuntivo. Un piccolo marchio anche su un paragrafo se non su tutto il testo, giusto per alimentare il sospetto.
Certo immagini e testo non hanno lo stesso ruolo e la stessa responsabilità nell’universo della comunicazione.
Una foto o un video non sono un'opinione, sono una pretesa o meglio una dimostrazione di prova, dicono "questo è successo, guarda". Una immagine rielaborata rispetto all’immagine reale cambia il percepito di chi la guarda e se scorretta il danno non riguarda l'autore ma proprio lo spettatore. E poi il messaggio relativo viaggia più veloce di qualsiasi smentita. Sapere che un'immagine potrebbe non essere reale è un'informazione che serve a tutti e i metadati di provenienza, il “marchio” sui file grafici rispondono a un problema che esiste davvero, non stiamo qui a discutere le immagini.
Ma il testo è un'altra cosa, un testo non pretende di essere una prova, porta una opinione che è legata a chi la propone, porta una firma. Quello che un autore scrive porta la responsabilità diretta di chi mette la firma, non assurge a verità oggettiva assoluta, ma rappresenta una interpretazione di chi quella verità la racconta, secondo il proprio punto di vista. E cosi’ è sempre stato, al limite si possono pretendere le fonti, ma non certo l’etichettatura del testo come fatto con strumenti esterni, come se il ruolo dell’autore fosse marginale. Come non lo è mai stato in passato se scritto consultando la vecchia Enciclopedia Motta, oppure dopo tre ore di ricerche su Google, o il suggerimento di un collega piu’ esperto.
La domanda rilevante su un testo non è "da quale strumento è passato", è "chi se ne assume la responsabilità".
Il problema vero non è un paragrafo corretto con l’AI, ma la produzione industriale di testi per campagne di disinformazione, recensioni fabbricate a migliaia, contenuti generati in serie per saturare la conversazione pubblica. Peccato che chi organizza quelle campagne avrà tutti i mezzi e l’interesse per ripulire il testo, visto che la norma europea non vieta nemmeno di rimuovere il marchio. Chi corregge una email, invece non ha né i mezzi né il motivo per farlo. Il marchio finisce per intercettare male proprio chi lo giustifica e per intero chi non c’entra niente.
E pensare che non lo impone l'AI Act, o meglio non esattamente così in dettaglio. L'articolo 50(2) impone effettivamente ai fornitori di marcare i contenuti sintetici in formato leggibile, ma lo stesso articolo, subito dopo, dice che l'obbligo non si applica quando il sistema svolge una funzione assistiva di editing standard o quando non altera sostanzialmente i dati di input e la loro semantica. La correzione grammaticale è l'esempio da manuale di editing assistito.
La scelta di marcare comunque, sempre, in tutto il mondo, senza distinguere fra un testo generato da zero e un paragrafo riscritto, non viene da Bruxelles, ma è una scelta aziendale della piattaforma di Anthropic. Piu’ semplice mettere un marchio a tutto quello che ti passa sotto il naso, piuttosto che entrare nel merito di quanto è frutto dell’autore del prompt e quanto invece di iniziativa dell’AI.
Mentre altre indicazioni dell’AI Act sono ancora disattese. Lo stesso articolo 50 (2) chiede che la marcatura sia accompagnata da un meccanismo che permetta a persone, autorità e ricercatori di verificare l'origine del contenuto. Ma quel meccanismo, oggi, non esiste, non è disponibile nessuno strumento in grado di leggere quella marchiatura e Anthropic dichiara che ci sta lavorando ma senza una data precisa di rilascio. C'è il marchio, ma non c'è il modo di leggerlo.
In pratica è stata implementata la metà che grava sull'utente e rinviata la metà che gli servirebbe.
Il paradosso finale lo scrive Anthropic stessa, nella propria documentazione, dove afferma che un marchio rilevato non dimostra che il testo sia opera dell’AI, ma aggiungiamo noi non certifica la veridicità di quanto descritto, non garantisce l’utilizzo di fonti attendibili. Sono cose che spettano a chi pubblica, ed è li che il comma 4 dello stesso articolo 50 chiede a chi diffonde il contenuto di dichiararlo, non al fornitore di marcare tutto.
Per ora giusto un marchio di fabbrica, per essere passato nel macinino di Anthropic.
Come se non si fossero mai usati altri metodi nella stesura e nel controllo di testi, in quei casi cosa avremmo dovuto fare.
Immaginiamo un correttore di bozze che restituisce il manoscritto timbrato: "rivisto da terzi".
Un editor che appone il proprio marchio invisibile alle frasi che ha sistemato, e gli scrittori che da sempre fanno leggere e rivedere i testi prima di pubblicarli e si ritrovano l'opera segnata da mani che nessuno ha mai considerato coautrici. I.e.: “rivisto da mio cugino Giuseppe”.
Oppure il caso domestico: da trent'anni Word ci corregge, ci propone sinonimi, ci riscrive la frase e ci cambia la punteggiatura. Da vent'anni traduciamo con strumenti automatici testi che poi firmiamo. Nessuno ha mai pensato di marcare il risultato come corretto da Word, tradotto da Google, almeno per il momento.
Ma siccome la revisione semplice e veloce attraverso un modello è ormai una abitudine per ogni semplice frase che andiamo a scrivere, avremo un mondo dove tutti i documenti, email, messaggi di chat, relazioni, saggi, saranno “marcati AI”. Il tutto e il niente, resta solo il rumore, e il sospetto.
Un paio di secoli fa anche il Manzoni andò a sciacquare i panni in Arno. Scese a Firenze per ripulire la lingua dei Promessi Sposi da lombardismi, francesismi e forme arcaiche, adottando come modello il fiorentino vivo e colto. Una revisione linguistica esterna, sistematica, dichiarata, ma nessuno, in due secoli, ha pensato che i Promessi Sposi fossero per questo meno suoi.
Immaginiamo l'edizione del 1840 con l'etichetta: “sciacquato in Arno — Arno Act, 1827”
Illustrazione di Teo Ugone: https://www.instagram.com/teougone.illustrations/
Nessun commento:
Posta un commento