Sciaquare i panni in AI

 

Ci sono istituzioni prudenti, alcune prudentissime, quasi esagerate nell’interpretare le regole e adottarne le contromisure. Tanto da far pensare più a una strategia di mercato che ad una scelta tecnologica, con il rischio poi di pagarne le conseguenze nel mondo selvaggio dell’AI, sempre più entropico che antropico.

Da questo mese Anthropic ha deciso di “marcare” qualsiasi testo che venga prodotto o corretto da Claude. Un watermark invisibile, un sigillo digitale (C2PA) nelle immagini e una politica precisa di elaborazione dei token nella scelta delle parole per quanto riguarda i testi.

Il tutto per rendere non necessariamente indelebile ma persistente il “timbro” che indica un intervento dell’AI per tutti gli utenti, in ogni parte del mondo, non solo in Europa.

E vale per ogni banale intervento, anche localizzato, quando Claude ti cambia una parola o ti modifica un fragile congiuntivo. Un piccolo marchio anche su un paragrafo se non su tutto il testo, giusto per alimentare il sospetto.

Certo immagini e testo non hanno lo stesso ruolo e la stessa responsabilità nell’universo della comunicazione.

Una foto o un video non sono un'opinione, sono una pretesa o meglio una dimostrazione di prova, dicono "questo è successo, guarda". Una immagine rielaborata rispetto all’immagine reale cambia il percepito di chi la guarda e se scorretta il danno non riguarda l'autore ma proprio lo spettatore. E poi il messaggio relativo viaggia più veloce di qualsiasi smentita. Sapere che un'immagine potrebbe non essere reale è un'informazione che serve a tutti e i metadati di provenienza, il “marchio” sui file grafici rispondono a un problema che esiste davvero, non stiamo qui a discutere le immagini.

Ma il testo è un'altra cosa, un testo non pretende di essere una prova, porta una opinione che è legata a chi la propone, porta una firma. Quello che un autore scrive porta la responsabilità diretta di chi mette la firma, non assurge a verità oggettiva assoluta, ma rappresenta una interpretazione di chi quella verità la racconta, secondo il proprio punto di vista. E cosi’ è sempre stato, al limite si possono pretendere le fonti, ma non certo l’etichettatura del testo come fatto con strumenti esterni, come se il ruolo dell’autore fosse marginale. Come non lo è mai stato in passato se scritto consultando la vecchia Enciclopedia Motta, oppure dopo tre ore di ricerche su Google, o il suggerimento di un collega piu’ esperto.

La domanda rilevante su un testo non è "da quale strumento è passato", è "chi se ne assume la responsabilità".

Il problema vero non è un paragrafo corretto con l’AI, ma la produzione industriale di testi per campagne di disinformazione, recensioni fabbricate a migliaia, contenuti generati in serie per saturare la conversazione pubblica. Peccato che chi organizza quelle campagne avrà tutti i mezzi e l’interesse per ripulire il testo, visto che la norma europea non vieta nemmeno di rimuovere il marchio. Chi corregge una email, invece non ha né i mezzi né il motivo per farlo. Il marchio finisce per intercettare male proprio chi lo giustifica e per intero chi non c’entra niente.

E pensare che non lo impone l'AI Act, o meglio non esattamente così in dettaglio. L'articolo 50(2) impone effettivamente ai fornitori di marcare i contenuti sintetici in formato leggibile, ma lo stesso articolo, subito dopo, dice che l'obbligo non si applica quando il sistema svolge una funzione assistiva di editing standard o quando non altera sostanzialmente i dati di input e la loro semantica. La correzione grammaticale è l'esempio da manuale di editing assistito.

La scelta di marcare comunque, sempre, in tutto il mondo, senza distinguere fra un testo generato da zero e un paragrafo riscritto, non viene da Bruxelles, ma è una scelta aziendale della piattaforma di Anthropic. Piu’ semplice mettere un marchio a tutto quello che ti passa sotto il naso, piuttosto che entrare nel merito di quanto è frutto dell’autore del prompt e quanto invece di iniziativa dell’AI.

Mentre altre indicazioni dell’AI Act sono ancora disattese. Lo stesso articolo 50 (2) chiede che la marcatura sia accompagnata da un meccanismo che permetta a persone, autorità e ricercatori di verificare l'origine del contenuto. Ma quel meccanismo, oggi, non esiste, non è disponibile nessuno strumento in grado di leggere quella marchiatura e Anthropic dichiara che ci sta lavorando ma senza una data precisa di rilascio. C'è il marchio, ma non c'è il modo di leggerlo.

In pratica è stata implementata la metà che grava sull'utente e rinviata la metà che gli servirebbe.

Il paradosso finale lo scrive Anthropic stessa, nella propria documentazione, dove afferma che un marchio rilevato non dimostra che il testo sia opera dell’AI, ma aggiungiamo noi non certifica la veridicità di quanto descritto, non garantisce l’utilizzo di fonti attendibili. Sono cose che spettano a chi pubblica, ed è li che il comma 4 dello stesso articolo 50 chiede a chi diffonde il contenuto di dichiararlo, non al fornitore di marcare tutto.

Per ora giusto un marchio di fabbrica, per essere passato nel macinino di Anthropic.

Come se non si fossero mai usati altri metodi nella stesura e nel controllo di testi, in quei casi cosa avremmo dovuto fare.

Immaginiamo un correttore di bozze che restituisce il manoscritto timbrato: "rivisto da terzi".

Un editor che appone il proprio marchio invisibile alle frasi che ha sistemato, e gli scrittori che da sempre fanno leggere e rivedere i testi prima di pubblicarli e si ritrovano l'opera segnata da mani che nessuno ha mai considerato coautrici. I.e.: “rivisto da mio cugino Giuseppe”.

Oppure il caso domestico: da trent'anni Word ci corregge, ci propone sinonimi, ci riscrive la frase e ci cambia la punteggiatura. Da vent'anni traduciamo con strumenti automatici testi che poi firmiamo. Nessuno ha mai pensato di marcare il risultato come corretto da Word, tradotto da Google, almeno per il momento.

Ma siccome la revisione semplice e veloce attraverso un modello è ormai una abitudine per ogni semplice frase che andiamo a scrivere, avremo un mondo dove tutti i documenti, email, messaggi di chat, relazioni, saggi, saranno “marcati AI”. Il tutto e il niente, resta solo il rumore, e il sospetto.

Un paio di secoli fa anche il Manzoni andò a sciacquare i panni in Arno. Scese a Firenze per ripulire la lingua dei Promessi Sposi da lombardismi, francesismi e forme arcaiche, adottando come modello il fiorentino vivo e colto. Una revisione linguistica esterna, sistematica, dichiarata, ma nessuno, in due secoli, ha pensato che i Promessi Sposi fossero per questo meno suoi.

Immaginiamo l'edizione del 1840 con l'etichetta: “sciacquato in Arno — Arno Act, 1827”

Illustrazione di Teo Ugone: https://www.instagram.com/teougone.illustrations/

Da mesi si celebrano i 70 anni dell’AI ricordando la Conferenza di Dartmouth del 1956. Qualcuno dice che il compleanno dovrebbe essere il 4 di luglio, data simbolica, scelta forse non casualmente o forse con poca attenzione facendola coincidere con anniversari di importanza storica non paragonabile.

Nata il 4 di luglio, possiamo dire, come Ron Kovic, quasi un patrimonio americano dell’umanità.

Non siamo qui a ricordare che il famoso “paper” “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence”, J. McCarthy, M. L. Minsky, N. Rochester, C.E. Shannon, fu scritto nell’agosto del 1955 per organizzare la famosa conferenza, che durò due mesi e mezzo, proprio nell’estate del 1956.

Non ricordiamo neppure che l’articolo “Computing Machinery and Intelligence”, in cui Alan Turing descrive il famoso test, è del 1950 e che la prima descrizione di una rete neurale si deve a McCulloch e Pitts già nel 1943, prima ancora del “Perceptron” di Rosenblatt di fine anni 50.

E neppure che la conferenza di Dartmouth non ha solo sdoganato il termine Intelligenza artificiale, ma ha elencato una serie di aspetti e problemi che ancora oggi avrebbero dignità di termine pari a AI (apprendimento, linguaggio naturale, astrazione, creatività, reti neurali).

Ricordiamo invece che l’operazione geniale, sfacciata, illuminante di McCarthy fu proprio coniare quel termine, a metà degli anni 50.

Un’operazione di marketing dirompente, un’invenzione di un brand scientifico senza pari.

Sfrontato a tal punto da scombinare le carte accademiche che vivevano sul termine Cibernetica, coniato da Norbert Wiener una decina di anni prima. Creato appositamente per ritagliarsi uno spazio proprio, anzi per attirare finanziamenti governativi pronti a seguire il nome accattivante, il nuovo che arriva.

Passando attraverso le ere geologiche dell’IT, e avendo vissuto l’iperbolica evoluzione della capacità computazionale, avremmo lo stesso scenario oggi se invece di AI si parlasse di Cibernetica?

Tecnologicamente forse sì, anche grazie alle nuove regole dell’amministrazione Clinton del ’96 (il Telecommunications Act, che includeva la Section 230 del Communications Decency Act) che hanno aperto le strade alla raccolta e all’utilizzo delle informazioni in Internet e all’utilizzo dei dati per gli addestramenti su larga scala.

La computer grafica avrebbe avuto lo stesso sviluppo, e nel 2012 ci sarebbe comunque stata la grande evoluzione dell’uso delle reti neurali (deep learning) con l’articolo “ImageNet Classification with Deep Convolutional Neural Networks” di Krizhevsky, Sutskever e Hinton.

Così come ci sarebbero stati l’avvento delle GPU e l’ondata successiva di sviluppo computazionale delle reti neurali.

Ma avremmo lo stesso fenomeno sociale, finanziario, culturale se oggi si parlasse di Cibernetica invece di AI, anche con le stesse piattaforme e le stesse funzionalità?

Avremmo le stesse considerazioni sul termine “intelligente”, sui timori dell’AGI, sull’uso militare, oscuro e forse meschino delle grandi piattaforme?

O forse con il termine Cibernetica ci saremmo mossi in modo piu’ democratico, regolamentando preventivamente sviluppi e utilizzi, gestendo in modo piu’ oggettivo timori e paure?

“Elaborazione dell’informazione non numerica” era un corso universitario degli anni ’70 che non citava esplicitamente l’AI. Da quel corso ho giocato con Eliza negli anni ’70, ho poi scritto programmi in Lisp e Prolog, e ho fatto tanto altro nella vita.

Ma il termine AI mi ha affascinato fin d’allora quando per ottenere una risposta sensata, “esperta” bisognava lavorare mesi sulla rappresentazione della conoscenza, su macchine che rispetto a quelle odierne sembrano un cavallo accanto a un razzo di SpaceX.

In mezzo, gli inverni dell’AI, con le promesse non mantenute, i finanziamenti evaporati negli anni ’70, i sistemi esperti che a fine anni ’80 dovevano imbottigliare la conoscenza in regole e si fermarono davanti ai costi e alla loro fragilità. Ma il brand è sopravvissuto ai suoi inverni, un altro segno che il nome era più forte della tecnologia che raccontava.

Scoprire che gestire pixel e parole (trasformate in numeri, in token) non era poi un approccio così assurdo e, passando per i transformer di “Attention Is All You Need” del 2017, ha portato all’AI Generativa, ai LLM.

La storia insegna che i compleanni degli esseri umani, soprattutto quando si fanno i conti decennali, raccontano la storia passata, e spesso sono resoconti di una vita, quelli scientifici invece sono storie di accelerazioni e di traguardi che diventano nastri di partenza per altre accelerazioni e altri traguardi.

Con la speranza di farne sempre buon uso, governi, grandi corporations, mercati…

Perché non sempre è così.

Due ruote come una capanna, due ruote e mille pensieri.

Due ruote e mille confini, 3813 chilometri di vento nella testa, di respiri profondi.

L’odore del mughetto, inebriante, accarezzando ogni siepe del nord, e poi quell’odore di mare, quello vero pungente, come quello che esce con presunzione quando apri la tua prima ostrica della Normandia.

Ho visto spiagge immense, infinite, deserte, per basse maree che tenevano il mare lontano.

Case bianche semplici, il tetto spiovente e due finestre ai lati di una piccola porta centrale, con un piccolo giardino davanti senza recinzione.

Come quella casa cha avevo fatto mille volte da bambino con il Lego.

Ho visto gabbiani che mi fissavano quando mi toglievo il casco per riprendere il senso del silenzio. Ho visto un gabbiano passare nell’arco di una falesia, per poi alzarsi verso il sole del tramonto, mi sono chiesto quale sensazione stessimo condividendo in quel momento.

Mi sono inginocchiato sulla sabbia di Omaha Beach, così come su quella di Utah beach,

Mi sono commosso a toccare il vecchio ed arrugginito filo spinato ancora li dopo 80 anni a difendere gli avamposti della costa francese.

Credo di avere pianto al cimitero tedesco e a quello americano, cosi’ diversi nella loro scenografia, ma cosi violentemente uguali nel dolore.

Mi sono fermato senza forza davanti ad una delle tante croci senza un nome, solo una dedica.

Ho lasciato, quasi abbandonato le mie fidate due ruote per una lunga marcia sotto il sole verso il santuario di Mont Saint Michel.

Ho salito tutte le scale, per comprare una candela.

Villaggi silenziosi, palazzi grigi, semplici con le vie strette, con i negozi chiusi da troppo tempo.

E poi sterminati precipizi sul mare rabbioso, trasparente, quasi verde, quasi blu, quasi chiaro o forse scuro. Quella voglia di lasciarti andare e quella paura di andarci troppo vicino.

Ho visto abbazie senza piu’ il tetto, e grandi fari spenti da decenni, ancora fieri della luce che hanno distribuito. Ormai museo di una vita marinara diversa.

Ho perso la sensazione della distanza per i chilometri di campi di grano con i papaveri rossi, o dei campi di avena con i fiordalisi.

Mille ore di solitudine, di rumore, di pensieri. Di fantasie, di sogni e speranze, di rabbia da esprimere e il tempo per riportarla alla ragione.

Notti in camere di hotel trovati per caso all’ultimo minuto.

La liturgia delle valige e dell’abbigliamento del mattino, la sensazione di libertà nel togliersi tutto la sera, prima della doccia rinfrescante, con le mani stanche e la schiena dolorante.

Come un quotidiano esercizio spirituale di concentrazione e di relax.

Pensieri per chi non c’è piu’, per chi è lontano. Per chi non c’è in quel preciso momento per poter condividere quel profumo, quel pezzo di cielo.

E anche quella mezza giornata sotto la pioggia battente ha un senso,

La voglia di condividere la bellezza della libertà e la fierezza di viverla comunque, anche da solo.

Rocce di granito rosa, il porto di Honfleur, le sue case a graticcio, la Promenade Proust a Cabourg con le sue ville Belle Époque.

Mi sono fermato sotto la Tour Eiffel e ho fermato le mie due ruote alla punta dell’Ile de Saint-Luis. Un’altra vita, altre ruote, tra i mille pensieri.

Ho rivisto un’amica che non vedevo da tanti anni e ci siamo emozionati nel riguardaci negli occhi.

Enormi infinite siepi di ortensie dai colori sfumati, cornici di strade con mille curve.

E poi la voglia di tornare a casa, la forza e la resistenza di chilometri sotto il sole cocente dell’autostrada.

L’ultima sosta sul valico che ti riporta in patria, per un ultimo chilometro senza pensare piu’ a niente.

Io e le mie due ruote, l'aria in faccia, il rumore del vento, il senso del tempo senza tempo.

Un'iniziazione, dicono, è cosa da ragazzi: l'ingresso in una vita che comincia. La mia è arrivata a sessantotto anni, e non mi ha aperto una vita davanti, mi ha solo detto che ce n'era ancora una da vivere: la mia.

Margherite e Galassie

      

 

Il mio amico Andrew StarWise Girardi "astrofotografo", ha condiviso una sua splendida immagine della galassia M109, soprannominata “l’Aspirapolvere”.

Io, invece, molto piu' modestamente, ho fotografato un prato di margherite.

Mi sono detto che confrontare le due cose non aveva alcun senso.

Poi, come spesso accade, la curiosità ha avuto la meglio e sono andato a cercare le dimensioni della galassia.

Le margherite, invece, avrei dovuto contarle una per una.

Ho scoperto che M109 misura tra i 130.000 e i 150.000 anni luce di diametro: persino più grande della nostra amata Via Lattea. E pare contenga quasi mille miliardi di stelle.

A quel punto la domanda è nata spontanea: quante galassie conosciamo?

La rete mi ha risposto senza esitazione: oltre un milione.

E quante potrebbero essercene davvero nell’universo?

Le stime parlano di mille miliardi di galassie. Mille miliardi. Ognuna con, forse, mille miliardi di stelle.

I numeri non fanno paura finché restano astratti.

Poi li confrontiamo con qualcosa che conosciamo.

Il mio corpo è composto da circa 30.000 miliardi di cellule, forse 38.000, se contiamo anche i batteri che lo abitano...

Praticamente per ogni cellula del mio corpo potrebbero esistere miliardi di stelle nell’universo osservabile

Anzi, pare che nell’universo esistano più stelle di quanti siano tutti i granelli di sabbia presenti sulla Terra.

È stato in quel momento che mi sono sentito un misero elettrone.

Un elettrone che percorre le sue orbite lontano anni luce da qualsiasi massa significativa, senza sapere nemmeno dove si trovi il nucleo del proprio atomo.

Un elettrone che, quando l’umore precipita, resta nelle orbite più basse e trattiene la sua luce.

E che, quando l’umore migliora, salta più in alto e, come tutti gli elettroni, emette un piccolo lampo.

Una particella quasi invisibile che si agita per un istante nell’immensità.

Senza sapere che forse questo universo è soltanto uno tra migliaia di miliardi di universi.

Così oggi guardo il prato di margherite con maggiore rispetto.

Perché, in fondo, tra una galassia e una margherita, tra un elettrone e una stella, l’unica vera differenza è....

...l'umore del momento.