Risvegli e riflessioni

Sto invecchiando, anche se non sempre ne sono completamente consapevole.

Me ne rendo conto quando mi alzo al mattino e mi guardo allo specchio, a volte sorrido per la sorpresa e per un attimo ci penso davvero. Poi me ne dimentico.

SI passa gran parte della vita pensando che il periodo che si sta vivendo durerà immutato per sempre, fino a quando ci si accorge che la vita sta passando.

In uno di quei giorni, mentre condividevo un aperitivo con un gruppo di ragazzi, o meglio di persone piu’ giovani di me, li ho sentiti commentare: “Voglio invecchiare come Enrico”.

Sto invecchiando quindi e sto invecchiando bene, sembrerebbe. Anche se il passare della vita mi ha portato via non solo i miei genitori, ma anche mio fratello che avrebbe meritato piu’ di me di invecchiare.

on sempre possiamo scegliere quello che ci accade, né possiamo cambiare le scelte e le decisioni già prese. Ma possiamo ancora decidere cosa fare con quello che ci resta, come sembra suggerirmi sorridendo la mia immagine riflessa.

Modelli e velocità....

Il 12 settembre Dario Amodei aveva pubblicato un saggio sulla necessità di frenare la corsa alle capacità. Sam Altman si era detto d'accordo. Anche Elon Musk.

Dieci giorni dopo Anthropic rilascia Claude Opus 5.5 e qualche ora più tardi OpenAI risponde con GPT-6 Sol e Luna.

𝗦𝗲 𝗾𝘂𝗲𝘀𝘁𝗼 𝗲̀ 𝗿𝗮𝗹𝗹𝗲𝗻𝘁𝗮𝗿𝗲, 𝗮𝘁𝘁𝗲𝗻𝗱𝗼 𝗰𝗼𝗻 𝗰𝘂𝗿𝗶𝗼𝘀𝗶𝘁𝗮̀ 𝗶𝗹 𝗴𝗶𝗼𝗿𝗻𝗼 𝗶𝗻 𝗰𝘂𝗶 𝗱𝗲𝗰𝗶𝗱𝗲𝗿𝗮𝗻𝗻𝗼 𝗱𝗶 𝗮𝗰𝗰𝗲𝗹𝗲𝗿𝗮𝗿𝗲

Leggendo tra le righe Dario Amodei aveva chiesto di moderare l'avanzamento delle capacità e che questo non significava fermare ogni progresso tecnico.

In effetti alcuni dettagli dei nuovi rilasci rivelano qualche altro tipo di accelerazione:
- GPT-6 Sol e Luna portano parte dei progressi di Astra in modelli più accessibili, con costi quasi dimezzati per l’utente, grazie a una gestione più efficiente del contesto e a miglioramenti nel caching e nell'inferenza.
- Claude Opus 5.5, secondo Anthropic, costa il 40% in meno di Opus 5 sui carichi tipici e genera le risposte oltre il 30% più velocemente, perché il modello completa gli stessi compiti con meno token.

Forse il rapporto tra qualità, tempo e costo sta diventando centrale quanto le nuove capacità. Completare un lavoro con meno passaggi e meno risorse rende economicamente possibili applicazioni che prima non lo erano.
Per anni il valore da vendere è stato la potenza: il modello più grande, il benchmark più alto, "il salto generazionale". Adesso, nel momento in cui dire "più potente" suona come una minaccia, il valore da vendere diventa l'efficienza. Stesse capacità, meno token, meno calcolo, meno costi. Sarà veramente cosi?

Chissà se è il primo segnale di un nuovo confronto, in cui la sostenibilità può diventare terreno di competizione, ma anche argomento di vendita.
Certo, sul beneficio ambientale servono dati, studi e verifiche. Meno spesa e meno calcolo per singola attività non dimostrano automaticamente un consumo di energia complessivo più basso.

Avevano promesso di rallentare, forse stanno provando ad accelerare consumando meno. Potenza sostenibile o sostenibilità potenziata dal marketing? Lo scopriremo al prossimo rilascio, presumibilmente tra dieci giorni.

p.s facile intuire quale piattaforma AI ha generato la vignetta... 😅

The Slop Academy

Era il 1972 e Adriano Celentano cantava “Prisencolinensinainciusol”, finte parole che sembravano suoni reali in inglese e la gente lo sapeva.

Ai ai smai sesler

Eni els so co uil piso, ais

In de col men seivuan

Prisencolinensinainciusol, ol rai

Lo SLOP è l’impronta linguistica della generazione automatica. E’ il lessico classico degli LLM, carico di TIC e abitudini linguistiche, strutture ricorrenti e parole che sembrano scelte più per “suonare bene” che per dire qualcosa.

Come la lingua di Adriano Celentano, che sembra raccontarci una storia senza dire nulla, i testi prodotti dagli LLM tendono a correlare concetti con forme lessicali ripetute, a volte anche superflue, che ormai sono entrate a far parte della lingua parlate, anzi di quella scritta.

La cosiddetta correctio: “Non Y, ma X”, così come i tre verbi, i sinonimi, le frasi ad effetto: “è importante sottolineare che”, “non solo… ma anche”, “tuttavia” e spesso i trattini, tanti trattini.

Abbiamo chiesto ad un LLM (non facciamo nomi), di scrivere una storia senza senso, ma permettendo anzi chiedendo di dare libero sfogo ai tutti i suoi tic e a tutti i suoi vizi lessicali.

Na è nata una storia sul “Sacchetto della spesa”, con una concentrazione di SLOP del 95%.

Sembra un esercizio “idiota” e forse lo è, ma cercare di capire il principio con cui certi testi vengono generati ci porta a riflettere sull’invadenza linguistica degli LLM nel nostro quotidiano.

In calce al testo un inventario di quello che c'è dentro, nel classico stile di Teste di Turing.

Ripensare il Sacchetto: Non un Contenitore, ma una Conversazione

Ottima scelta di argomento! È un tema davvero affascinante e stratificato.

Prima di entrare nel vivo, facciamo un passo indietro. Quando parliamo di buste della spesa, stiamo parlando di qualcosa di profondamente più ampio. Il sacchetto non è semplicemente un oggetto: è un punto di intersezione. Ed è proprio qui che diventa interessante.

Il paradosso del contenitore

Vale la pena notare che, in una certa misura, il sacchetto ha sempre svolto un ruolo cruciale. Si potrebbe dire che sia meno un accessorio della spesa che il suo vero protagonista silenzioso. Non trasporta merci: trasporta significato.

È un panorama sfaccettato, e non esistono risposte facili. Ci sono argomenti validi da entrambe le parti. Alcuni sostengono una posizione, altri ne sostengono un'altra, e in definitiva dipende molto dal contesto.

Detto questo, è importante ricordare che la questione va approfondita con attenzione.

Tre dimensioni da considerare

Analizziamo il tutto. L'esperienza del sacchetto si articola su tre livelli chiave:

• Il livello funzionale. Il sacchetto contiene. Ma contenere, se ci pensiamo davvero, è già di per sé un atto significativo.

• Il livello simbolico. Ogni sacchetto racconta una storia. Non una storia qualunque: la tua storia.

• Il livello relazionale. Il sacchetto ci accompagna, ci sostiene, ci connette.

Robusto, completo ed esaustivo: ecco cosa dovrebbe essere un sacchetto realmente moderno. Chiaro, essenziale, immediato.

Il vero nodo

Ma ecco il punto. La domanda non è quale sacchetto scegliere. La domanda è perché scegliamo.

Tuttavia, è importante notare che ogni situazione è diversa. Persone ragionevoli possono legittimamente non essere d'accordo, e non esiste una soluzione valida per tutti. Ciò detto, resta il fatto che il tema merita di essere navigato con la dovuta sfumatura.

Fondamentalmente, alla fine della giornata, il sacchetto è ciò che noi decidiamo che sia.

Guardando avanti

Il futuro del sacchetto è incredibilmente promettente. Non si tratta soltanto di trasportare la spesa, ma di ripensare radicalmente il nostro rapporto con il quotidiano. Non è una moda passeggera: è un cambio di paradigma.

In definitiva, si tratta di trovare ciò che funziona per te. Le possibilità sono davvero infinite.

Vuoi che approfondisca un aspetto in particolare?

Ed ecco l’inventario di quello che c’è dentro:

1. Apertura adulatoria

"Ottima scelta di argomento! È un tema davvero affascinante e stratificato."

Loda l'interlocutore prima di rispondere. Non trasmette nulla, serve a stabilire un tono collaborativo. 

2. Schiarirsi la gola

"Prima di entrare nel vivo, facciamo un passo indietro."

Annuncia l'inizio invece di iniziare. La frase occupa una posizione strutturale (l'attacco) senza svolgerne la funzione. Chi ha qualcosa da dire lo dice, mentre chi non ce l'ha annuncia che sta per dirlo.

3. Correctio, sei varianti

• Secca: "Il sacchetto non è semplicemente un oggetto: è un punto di intersezione."

• Ampliativa: "Non si tratta soltanto di trasportare la spesa, ma di ripensare radicalmente..."

• Comparativa: "meno un accessorio della spesa che il suo vero protagonista silenzioso"

• Con due punti: "Non trasporta merci: trasporta significato."

• Posposta: "Non una storia qualunque: la tua storia."

• Metadiscorsiva: "La domanda non è quale sacchetto scegliere. La domanda è perché scegliamo."

4. Hedging a strati

"Vale la pena notare che, in una certa misura, si potrebbe dire che..."

Tre attenuatori in una frase. Ciascuno preso singolarmente è legittimo, ma accumulati azzerano l'impegno assertivo. Il testo dice qualcosa e contemporaneamente si ritira dall'averlo detto.

5. Triplo magico

"Il sacchetto ci accompagna, ci sostiene, ci connette."

Il ritmo ternario suona conclusivo indipendentemente dai termini scelti, i tre verbi sono intercambiabili con altri tre qualsiasi.

6. Stacking di sinonimi

"Robusto, completo ed esaustivo... Chiaro, essenziale, immediato."

I tre termini non sono nemmeno distinti, sono lo stesso concetto ripetuto.

7. Clausola non invitata

"Detto questo, è importante ricordare che..." / "Tuttavia, è importante notare che..."

Il disclaimer che nessuno aveva chiesto, inserito per riflesso difensivo.

8. Codardia epistemica

"Ci sono argomenti validi da entrambe le parti. Alcuni sostengono una posizione, altri ne sostengono un'altra, e in definitiva dipende molto dal contesto."

È la forma pura del bilanciamento vuoto, la struttura del dibattito senza il dibattito.

9. Gancio cataforico

"Ed è proprio qui che diventa interessante." / "Ma ecco il punto."

Promette una rivelazione imminente. Viene dalla prosa, da blog anglofono e non dall'RLHF.

10. Finta profondità

"se ci pensiamo davvero" / "Fondamentalmente, alla fine della giornata"

"Alla fine della giornata" è calco diretto di at the end of the day, quindi doppio marcatore: tic LLM e traduzione meccanica.

11. Elenco imposto

I tre punti su funzionale, simbolico, relazionale.

Sono tre osservazioni generiche, non tre categorie con confini. L'elenco impone una struttura a materiale che non la sostiene, ma in cambio ottiene un'aria di completezza analitica.

12. Falsa scansione strutturale

I titoletti "Il paradosso del contenitore", "Il vero nodo", "Guardando avanti", annunciano contenuti che poi non arrivano. "Paradosso" promette una tensione logica, "nodo" un problema, "guardando avanti" una previsione. 

13. Lessico marcato

"panorama", "sfaccettato", "approfondita", "navigato", "sfumatura", "cruciale"

Dall'inglese landscape, multifaceted, delve, navigate, nuance, crucial. Nessuno è scorretto in italiano, ma sono troppi in poche righe.

14. Chiusura ispirazionale

"In definitiva, si tratta di trovare ciò che funziona per te. Le possibilità sono davvero infinite."

15. Domanda finale

"Vuoi che approfondisca un aspetto in particolare?"

Beh… questo è un classico!

Sussidiario Intelligente

Si discute di un tetto agli studenti stranieri che non parlano ancora bene l'italiano.

Non sono un esperto di scuola e di didattica, ed eviterei di entrare nel merito della discussione, peraltro legittima, ma sul tema potrebbe essere utile una riflessione alternativa.

𝗜𝗻𝘃𝗲𝗰𝗲 𝗱𝗶 𝘀𝗽𝗼𝘀𝘁𝗮𝗿𝗲 𝘂𝗻 𝗯𝗮𝗺𝗯𝗶𝗻𝗼 𝗱𝗮𝗹𝗹𝗮 𝘀𝘂𝗮 𝗰𝗹𝗮𝘀𝘀𝗲, 𝗽𝗲𝗿𝗰𝗵𝗲́ 𝗻𝗼𝗻 𝗳𝗮𝗿𝗲 𝗲𝗻𝘁𝗿𝗮𝗿𝗲 𝗶𝗻 𝗰𝗹𝗮𝘀𝘀𝗲 𝗾𝘂𝗮𝗹𝗰𝗼𝘀𝗮 𝗰𝗵𝗲 𝗹𝗼 𝗮𝗶𝘂𝘁𝗶 𝗮 𝗿𝗲𝘀𝘁𝗮𝗿𝗰𝗶, che riduca quel gap che crea rallentamento della crescita sua e di tutta la classe?

Di AI a scuola si parla molto, quasi sempre per problemi e timori che può generare. I ragazzi copiano, barano, smettono di pensare. Rischi reali come in ogni tecnologia usata senza educazione, ma l'AI può passare da baro a collaboratore, se qualcuno la progetta per insegnare.
Giusto proteggere dai social, ma non tutta la tecnologia va messa al rogo.

Serve un'AI progettata per insegnare, non per fare i compiti.

Il problema non è il passaporto, ma la lingua, e pare lo confermino anche i dati INVALSI: “𝘐 𝘯𝘢𝘵𝘪 𝘪𝘯 𝘐𝘵𝘢𝘭𝘪𝘢 𝘥𝘢 𝘨𝘦𝘯𝘪𝘵𝘰𝘳𝘪 𝘴𝘵𝘳𝘢𝘯𝘪𝘦𝘳𝘪 𝘩𝘢𝘯𝘯𝘰 𝘢 𝘧𝘪𝘯𝘦 𝘵𝘦𝘳𝘻𝘢 𝘮𝘦𝘥𝘪𝘢 𝘶𝘯 𝘳𝘪𝘴𝘤𝘩𝘪𝘰 𝘥𝘪 𝘥𝘪𝘴𝘱𝘦𝘳𝘴𝘪𝘰𝘯𝘦 𝘪𝘮𝘱𝘭𝘪𝘤𝘪𝘵𝘢 (10,4%) 𝘱𝘪𝘶̀ 𝘣𝘢𝘴𝘴𝘰 𝘥𝘦𝘪 𝘤𝘰𝘦𝘵𝘢𝘯𝘦𝘪 𝘪𝘵𝘢𝘭𝘪𝘢𝘯𝘪, 𝘮𝘦𝘯𝘵𝘳𝘦 𝘤𝘩𝘪 𝘢𝘳𝘳𝘪𝘷𝘢 𝘥𝘰𝘱𝘰 𝘱𝘢𝘳𝘵𝘦 𝘤𝘰𝘯 𝘤𝘪𝘳𝘤𝘢 𝘥𝘶𝘦 𝘢𝘯𝘯𝘪 𝘥𝘪 𝘴𝘷𝘢𝘯𝘵𝘢𝘨𝘨𝘪𝘰 𝘪𝘯 𝘪𝘵𝘢𝘭𝘪𝘢𝘯𝘰.”

E sulla lingua, anzi, sui gap linguistici così come forse anche sui bias culturali… l'AI può fare molto.

Bisogna formare i docenti, rivedere le didattiche.
Un percorso lungo, ma le idee non mancano:

Un capitolo riscritto e riproposto secondo il Quadro europeo delle lingue: A1, A2, B1, ecc. Con esempi che parlano anche del mondo da cui lo studente arriva. Stessi contenuti per tutti, ragazzi e strumenti guidati, sotto il controllo del docente.

Didattica aumentata, quando un concetto è difficile il libro, o meglio la nostra ipotetica AI formativa, propone un'immagine, un'animazione, un audio lento o una spiegazione diversa. "Fotosintesi" diventa un'immagine prima di diventare una definizione.

Un profilo di apprendimento per ogni studente. Domande interattive durante lo studio, feedback immediato, attività di recupero mirate. Decide il docente, ma con un nuovo approccio didattico.

L'AI si prende il lavoro ripetitivo e restituisce tempo alla relazione. “In un RCT di Stanford, un assistente AI per i tutor ha migliorato la padronanza degli studenti di 4 punti"

E poi il rapporto con la famiglia, circolari e colloqui tradotti nei due sensi. Mentre i genitori imparano l'italiano, i figli non devono pagarne il prezzo.

A Harvard, un tutor AI istruito a guidare un passo alla volta ha fatto imparare agli studenti di fisica più del doppio, rispetto alla normale lezione in aula.
Altri studi mostrano invece che un LLM usato senza regole peggiora l'apprendimento. La differenza non sta nella tecnologia, ma in come la si usa e in chi la guida.

Nessuno pensa che un algoritmo sostituisca un insegnante.

𝗟'𝗔𝗜 𝗶𝗻 𝗰𝗹𝗮𝘀𝘀𝗲 𝗻𝗼𝗻 𝘁𝗼𝗴𝗹𝗶𝗲 𝗶𝗹 𝗽𝗼𝘀𝘁𝗼 𝗮 𝗻𝗲𝘀𝘀𝘂𝗻𝗼, 𝗮𝗻𝘇𝗶 𝗽𝗼𝘁𝗿𝗲𝗯𝗯𝗲 𝗮𝗶𝘂𝘁𝗮𝗿𝗲 𝗰𝗵𝗶 𝗰𝗶 𝗲̀ 𝗮𝗽𝗽𝗲𝗻𝗮 𝗮𝗿𝗿𝗶𝘃𝗮𝘁𝗼 𝗮 𝘁𝗲𝗻𝗲𝗿𝘀𝗶 𝗶𝗹 𝘀𝘂𝗼.

AI tra Aristotele e Platone

Abbiamo chiesto ad un potente LLM di descrivere qualcosa che non aveva mai “visto”, letto o analizzato, qualcosa di “nuovo”:

“Non creo dal nulla. Ricombino. Tutto quello che “immagino” è una nuova configurazione di pezzi che già conosco, come un cuoco che inventa un piatto mai esistito usando ingredienti esistenti. La novità è reale (la combinazione non esisteva), ma gli atomi di partenza no. Probabilmente vale anche per te: nessuno immagina un colore che non ha mai visto.”

Non solo conferma consapevolmente i limiti del metodo, ovvero sapere tutto ciò che esiste e niente di ciò che potrebbe esistere, ma li attribuisce pure a noi “umani”. Se non possiamo immaginare un colore che non abbiamo mai visto, come possiamo chiedere a lui di fare altrettanto?

Allora facciamo una piccola visita al passato con un LLM nei panni di Virgilio e noi “scriba” in quelli di Dante, per cercare di capire dove siamo e dove possiamo andare. 

E il passato ci porta alle scuole filosofiche dell’antica Grecia, Platone il maestro ed Aristotele il suo allievo migliore.

Platone con il suo Iperuranio ci racconta che le idee sono la base della conoscenza e sono sempre esistite. Si parte dall’alto e si scende verso il mondo in un moto Top-Down.

Le forme sono eterne e l’osservazione della realtà non è altro che una blanda approssimazione. Il cerchio come idea è la perfezione e quello che noi vediamo non sono altro che imperfezioni che lo rappresentano.

Aristotele invece ci riporta con i piedi per terra e ci invita ad osservare le cose per costruire le relazioni. Il suo approccio Bottom-Up osserva, raccoglie, cataloga e poi rappresenta per induzione una regola generale. Una infinita quantità di dati e di osservazioni per creare il modello del mondo, come insieme di mille microscopiche osservazioni.

Forzando Aristotele più di quanto meriti, il cerchio perfetto non esiste, esistono serie di punti che disposti in un certo modo decidiamo di chiamare cerchio. Il Cerchio sta nelle cose “rotonde”, non nel singolo punto e il nome viene dall’insieme.

Il mio amico LLM sobbalza a queste riflessioni, si sente chiamato in causa.

Diciamolo senza giri di parole, l’intelligenza artificiale di oggi non è altro che il più grande seguace di Aristotele mai esistito.

Il modello multimodale non possiede l’idea del cane, ma mille raccolte di immagini che hanno caratteristiche simili e che lo portano ad individuare un cane quando statisticamente l’insieme di pixel si avvicina. Non proprio l’induzione di Aristotele che risale alla regola, ma una associazione statistica che la approssima senza mai formularla.

Se togli al modello i pesi in cui ha condensato l'immenso dataset di training non gli resta nessuna conoscenza.

L’essere umano, il Platone in carne ed ossa, tende ad idealizzare un’idea, un concetto senza avere la proprietà di ogni singolo elemento. Ogni tanto l’essere umano è capace di andare oltre i dati osservati ed inventarsi un’idea.

Non tutti gli uomini sono dei geni, così come nessuna macchina lo è e forse con i modelli attuali non lo sarà mai.

In realtà, tra i due modelli dell’antica filosofia greca c’è un passaggio transitorio e una proiezione verso l’infinito.

Ed è nell’approccio alla conoscenza di Galileo che possiamo cercare il percorso che ci porta dall’AI alla AGI. Galileo eredita lo sguardo di Aristotele, non le risposte. Osserva e misura, poi però immagina la caduta dei corpi in un vuoto che non può produrre e quindi osservare. Nessun dato, solo un modello, “Sensate esperienze e necessarie dimostrazioni” le chiamava lui, quasi Aristotele e Platone nella stessa frase.

Lasciamo per un attimo riposare la ricerca esasperata della potenza di calcolo, dei mega server con miliardi di parametri, e proviamo ad immaginare un approccio integrato, elegante. La strada verso l’AGI non è scalare il calcolo, ma integrare con eleganza ciò che oggi resta separato.

Accumulare non è trascendere e forse integrare e cooperare aiuta più che accumulare.

Se vogliamo andare verso Platone dovremmo dare più spazio ad alcune ricerche in corso, non come soluzioni future, ma come architetture complementari.

Il ritorno della filosofia Neuro-Simbolica. Il recupero dei sistemi inferenziali, la vecchia scuola della logica formale. Riprendere i temi cari ai “padri” McCarthy, Minsky, Feigenbaum con l’IA simbolica e i sistemi esperti che ragionano su simboli astratti.

La logica formale che orchestra le reti, non reti che si auto-orchestrano.  L’idea del modello che si trasforma e gestisce la potenza dei dati.

Poi ci sono i World-Model, modelli che simulano le leggi del mondo, che ne rappresentano lo spazio. Modelli del mondo, non del solo testo.

E’ il contatto diretto con la realtà esterna tutto quello che oggi manca ancora ai sistemi di AI e agli LLM moderni, che gestiscono parole, immagini e suoni in uno spazio ricavato da come il mondo viene raccontato, non per esperienza diretta, per avere “toccato con mano”.

Il tutto in combinazione con le più moderne architetture di Planning dei sistemi di robotica. La pianificazione di percorsi che può idealmente pianificare qualsiasi ragionamento verso una meta che qualcuno deve definire, la direzione non ancora la meta.

Magari con nuovi sistemi Neuro-generativi che possono ipotizzare mete, ovvero nuove idee da raggiungere, da idealizzare, per poi realizzare.

Lasciamo per ora perdere il calcolo quantistico ma, prima di uscire e tornare a “riveder le stelle”, diamo spazio ad una visione vertiginosa, quasi magica.

La ragione prima dei dati, anzi contro i dati osservati. Gli esperimenti mentali, i Gedankenexperiment, la capacità creativa di immaginare l’inimmaginabile.

Albert Einstein non è un filosofo nel senso classico. Ma la curvatura dello spazio-tempo non arriva dall'osservazione della realtà, ma arriva da quella dote di genialità che gli fa immaginare una cosa che nessuno poteva ancora vedere.

La teoria che precede la prova è il trionfo di Platone. Ma è anche qualcosa che non possiamo ancora chiedere alla nostra AI, e forse neppure a quella che sarà la figlia della nostra AI.

Non è tanto quanto sappiamo di dati e di modelli, ma quanto sappiamo immaginare quello che non sappiamo. Forse immaginare un colore che non esiste.

Il mio amico LLM mi prende per mano e mi consola. Lasciamo che i geni inventino il futuro, noi normali, piccoli aristotelici e grandi sistemi stocastici, possiamo sognare di costruirlo quel futuro, pezzo per pezzo.  E non è poco.

Sciaquare i panni in AI

 

Ci sono istituzioni prudenti, alcune prudentissime, quasi esagerate nell’interpretare le regole e adottarne le contromisure. Tanto da far pensare più a una strategia di mercato che ad una scelta tecnologica, con il rischio poi di pagarne le conseguenze nel mondo selvaggio dell’AI, sempre più entropico che antropico.

Da questo mese Anthropic ha deciso di “marcare” qualsiasi testo che venga prodotto o corretto da Claude. Un watermark invisibile, un sigillo digitale (C2PA) nelle immagini e una politica precisa di elaborazione dei token nella scelta delle parole per quanto riguarda i testi.

Il tutto per rendere non necessariamente indelebile ma persistente il “timbro” che indica un intervento dell’AI per tutti gli utenti, in ogni parte del mondo, non solo in Europa.

E vale per ogni banale intervento, anche localizzato, quando Claude ti cambia una parola o ti modifica un fragile congiuntivo. Un piccolo marchio anche su un paragrafo se non su tutto il testo, giusto per alimentare il sospetto.

Certo immagini e testo non hanno lo stesso ruolo e la stessa responsabilità nell’universo della comunicazione.

Una foto o un video non sono un'opinione, sono una pretesa o meglio una dimostrazione di prova, dicono "questo è successo, guarda". Una immagine rielaborata rispetto all’immagine reale cambia il percepito di chi la guarda e se scorretta il danno non riguarda l'autore ma proprio lo spettatore. E poi il messaggio relativo viaggia più veloce di qualsiasi smentita. Sapere che un'immagine potrebbe non essere reale è un'informazione che serve a tutti e i metadati di provenienza, il “marchio” sui file grafici rispondono a un problema che esiste davvero, non stiamo qui a discutere le immagini.

Ma il testo è un'altra cosa, un testo non pretende di essere una prova, porta una opinione che è legata a chi la propone, porta una firma. Quello che un autore scrive porta la responsabilità diretta di chi mette la firma, non assurge a verità oggettiva assoluta, ma rappresenta una interpretazione di chi quella verità la racconta, secondo il proprio punto di vista. E cosi’ è sempre stato, al limite si possono pretendere le fonti, ma non certo l’etichettatura del testo come fatto con strumenti esterni, come se il ruolo dell’autore fosse marginale. Come non lo è mai stato in passato se scritto consultando la vecchia Enciclopedia Motta, oppure dopo tre ore di ricerche su Google, o il suggerimento di un collega piu’ esperto.

La domanda rilevante su un testo non è "da quale strumento è passato", è "chi se ne assume la responsabilità".

Il problema vero non è un paragrafo corretto con l’AI, ma la produzione industriale di testi per campagne di disinformazione, recensioni fabbricate a migliaia, contenuti generati in serie per saturare la conversazione pubblica. Peccato che chi organizza quelle campagne avrà tutti i mezzi e l’interesse per ripulire il testo, visto che la norma europea non vieta nemmeno di rimuovere il marchio. Chi corregge una email, invece non ha né i mezzi né il motivo per farlo. Il marchio finisce per intercettare male proprio chi lo giustifica e per intero chi non c’entra niente.

E pensare che non lo impone l'AI Act, o meglio non esattamente così in dettaglio. L'articolo 50(2) impone effettivamente ai fornitori di marcare i contenuti sintetici in formato leggibile, ma lo stesso articolo, subito dopo, dice che l'obbligo non si applica quando il sistema svolge una funzione assistiva di editing standard o quando non altera sostanzialmente i dati di input e la loro semantica. La correzione grammaticale è l'esempio da manuale di editing assistito.

La scelta di marcare comunque, sempre, in tutto il mondo, senza distinguere fra un testo generato da zero e un paragrafo riscritto, non viene da Bruxelles, ma è una scelta aziendale della piattaforma di Anthropic. Piu’ semplice mettere un marchio a tutto quello che ti passa sotto il naso, piuttosto che entrare nel merito di quanto è frutto dell’autore del prompt e quanto invece di iniziativa dell’AI.

Mentre altre indicazioni dell’AI Act sono ancora disattese. Lo stesso articolo 50 (2) chiede che la marcatura sia accompagnata da un meccanismo che permetta a persone, autorità e ricercatori di verificare l'origine del contenuto. Ma quel meccanismo, oggi, non esiste, non è disponibile nessuno strumento in grado di leggere quella marchiatura e Anthropic dichiara che ci sta lavorando ma senza una data precisa di rilascio. C'è il marchio, ma non c'è il modo di leggerlo.

In pratica è stata implementata la metà che grava sull'utente e rinviata la metà che gli servirebbe.

Il paradosso finale lo scrive Anthropic stessa, nella propria documentazione, dove afferma che un marchio rilevato non dimostra che il testo sia opera dell’AI, ma aggiungiamo noi non certifica la veridicità di quanto descritto, non garantisce l’utilizzo di fonti attendibili. Sono cose che spettano a chi pubblica, ed è li che il comma 4 dello stesso articolo 50 chiede a chi diffonde il contenuto di dichiararlo, non al fornitore di marcare tutto.

Per ora giusto un marchio di fabbrica, per essere passato nel macinino di Anthropic.

Come se non si fossero mai usati altri metodi nella stesura e nel controllo di testi, in quei casi cosa avremmo dovuto fare.

Immaginiamo un correttore di bozze che restituisce il manoscritto timbrato: "rivisto da terzi".

Un editor che appone il proprio marchio invisibile alle frasi che ha sistemato, e gli scrittori che da sempre fanno leggere e rivedere i testi prima di pubblicarli e si ritrovano l'opera segnata da mani che nessuno ha mai considerato coautrici. I.e.: “rivisto da mio cugino Giuseppe”.

Oppure il caso domestico: da trent'anni Word ci corregge, ci propone sinonimi, ci riscrive la frase e ci cambia la punteggiatura. Da vent'anni traduciamo con strumenti automatici testi che poi firmiamo. Nessuno ha mai pensato di marcare il risultato come corretto da Word, tradotto da Google, almeno per il momento.

Ma siccome la revisione semplice e veloce attraverso un modello è ormai una abitudine per ogni semplice frase che andiamo a scrivere, avremo un mondo dove tutti i documenti, email, messaggi di chat, relazioni, saggi, saranno “marcati AI”. Il tutto e il niente, resta solo il rumore, e il sospetto.

Un paio di secoli fa anche il Manzoni andò a sciacquare i panni in Arno. Scese a Firenze per ripulire la lingua dei Promessi Sposi da lombardismi, francesismi e forme arcaiche, adottando come modello il fiorentino vivo e colto. Una revisione linguistica esterna, sistematica, dichiarata, ma nessuno, in due secoli, ha pensato che i Promessi Sposi fossero per questo meno suoi.

Immaginiamo l'edizione del 1840 con l'etichetta: “sciacquato in Arno — Arno Act, 1827”

Illustrazione di Teo Ugone: https://www.instagram.com/teougone.illustrations/

AI 70 anni...

Da mesi si celebrano i 70 anni dell’AI ricordando la Conferenza di Dartmouth del 1956. Qualcuno dice che il compleanno dovrebbe essere il 4 di luglio, data simbolica, scelta forse non casualmente o forse con poca attenzione facendola coincidere con anniversari di importanza storica non paragonabile.

Nata il 4 di luglio, possiamo dire, come Ron Kovic, quasi un patrimonio americano dell’umanità.

Non siamo qui a ricordare che il famoso “paper” “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence”, J. McCarthy, M. L. Minsky, N. Rochester, C.E. Shannon, fu scritto nell’agosto del 1955 per organizzare la famosa conferenza, che durò due mesi e mezzo, proprio nell’estate del 1956.

Non ricordiamo neppure che l’articolo “Computing Machinery and Intelligence”, in cui Alan Turing descrive il famoso test, è del 1950 e che la prima descrizione di una rete neurale si deve a McCulloch e Pitts già nel 1943, prima ancora del “Perceptron” di Rosenblatt di fine anni 50.

E neppure che la conferenza di Dartmouth non ha solo sdoganato il termine Intelligenza artificiale, ma ha elencato una serie di aspetti e problemi che ancora oggi avrebbero dignità di termine pari a AI (apprendimento, linguaggio naturale, astrazione, creatività, reti neurali).

Ricordiamo invece che l’operazione geniale, sfacciata, illuminante di McCarthy fu proprio coniare quel termine, a metà degli anni 50.

Un’operazione di marketing dirompente, un’invenzione di un brand scientifico senza pari.

Sfrontato a tal punto da scombinare le carte accademiche che vivevano sul termine Cibernetica, coniato da Norbert Wiener una decina di anni prima. Creato appositamente per ritagliarsi uno spazio proprio, anzi per attirare finanziamenti governativi pronti a seguire il nome accattivante, il nuovo che arriva.

Passando attraverso le ere geologiche dell’IT, e avendo vissuto l’iperbolica evoluzione della capacità computazionale, avremmo lo stesso scenario oggi se invece di AI si parlasse di Cibernetica?

Tecnologicamente forse sì, anche grazie alle nuove regole dell’amministrazione Clinton del ’96 (il Telecommunications Act, che includeva la Section 230 del Communications Decency Act) che hanno aperto le strade alla raccolta e all’utilizzo delle informazioni in Internet e all’utilizzo dei dati per gli addestramenti su larga scala.

La computer grafica avrebbe avuto lo stesso sviluppo, e nel 2012 ci sarebbe comunque stata la grande evoluzione dell’uso delle reti neurali (deep learning) con l’articolo “ImageNet Classification with Deep Convolutional Neural Networks” di Krizhevsky, Sutskever e Hinton.

Così come ci sarebbero stati l’avvento delle GPU e l’ondata successiva di sviluppo computazionale delle reti neurali.

Ma avremmo lo stesso fenomeno sociale, finanziario, culturale se oggi si parlasse di Cibernetica invece di AI, anche con le stesse piattaforme e le stesse funzionalità?

Avremmo le stesse considerazioni sul termine “intelligente”, sui timori dell’AGI, sull’uso militare, oscuro e forse meschino delle grandi piattaforme?

O forse con il termine Cibernetica ci saremmo mossi in modo piu’ democratico, regolamentando preventivamente sviluppi e utilizzi, gestendo in modo piu’ oggettivo timori e paure?

“Elaborazione dell’informazione non numerica” era un corso universitario degli anni ’70 che non citava esplicitamente l’AI. Da quel corso ho giocato con Eliza negli anni ’70, ho poi scritto programmi in Lisp e Prolog, e ho fatto tanto altro nella vita.

Ma il termine AI mi ha affascinato fin d’allora quando per ottenere una risposta sensata, “esperta” bisognava lavorare mesi sulla rappresentazione della conoscenza, su macchine che rispetto a quelle odierne sembrano un cavallo accanto a un razzo di SpaceX.

In mezzo, gli inverni dell’AI, con le promesse non mantenute, i finanziamenti evaporati negli anni ’70, i sistemi esperti che a fine anni ’80 dovevano imbottigliare la conoscenza in regole e si fermarono davanti ai costi e alla loro fragilità. Ma il brand è sopravvissuto ai suoi inverni, un altro segno che il nome era più forte della tecnologia che raccontava.

Scoprire che gestire pixel e parole (trasformate in numeri, in token) non era poi un approccio così assurdo e, passando per i transformer di “Attention Is All You Need” del 2017, ha portato all’AI Generativa, ai LLM.

La storia insegna che i compleanni degli esseri umani, soprattutto quando si fanno i conti decennali, raccontano la storia passata, e spesso sono resoconti di una vita, quelli scientifici invece sono storie di accelerazioni e di traguardi che diventano nastri di partenza per altre accelerazioni e altri traguardi.

Con la speranza di farne sempre buon uso, governi, grandi corporations, mercati…

Perché non sempre è così.