Da mesi si celebrano i 70 anni dell’AI ricordando la Conferenza di Dartmouth del 1956. Qualcuno dice che il compleanno dovrebbe essere il 4 di luglio, data simbolica, scelta forse non casualmente o forse con poca attenzione facendola coincidere con anniversari di importanza storica non paragonabile.

Nata il 4 di luglio, possiamo dire, come Ron Kovic, quasi un patrimonio americano dell’umanità.

Non siamo qui a ricordare che il famoso “paper” “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence”, J. McCarthy, M. L. Minsky, N. Rochester, C.E. Shannon, fu scritto nell’agosto del 1955 per organizzare la famosa conferenza, che durò due mesi e mezzo, proprio nell’estate del 1956.

Non ricordiamo neppure che l’articolo “Computing Machinery and Intelligence”, in cui Alan Turing descrive il famoso test, è del 1950 e che la prima descrizione di una rete neurale si deve a McCulloch e Pitts già nel 1943, prima ancora del “Perceptron” di Rosenblatt di fine anni 50.

E neppure che la conferenza di Dartmouth non ha solo sdoganato il termine Intelligenza artificiale, ma ha elencato una serie di aspetti e problemi che ancora oggi avrebbero dignità di termine pari a AI (apprendimento, linguaggio naturale, astrazione, creatività, reti neurali).

Ricordiamo invece che l’operazione geniale, sfacciata, illuminante di McCarthy fu proprio coniare quel termine, a metà degli anni 50.

Un’operazione di marketing dirompente, un’invenzione di un brand scientifico senza pari.

Sfrontato a tal punto da scombinare le carte accademiche che vivevano sul termine Cibernetica, coniato da Norbert Wiener una decina di anni prima. Creato appositamente per ritagliarsi uno spazio proprio, anzi per attirare finanziamenti governativi pronti a seguire il nome accattivante, il nuovo che arriva.

Passando attraverso le ere geologiche dell’IT, e avendo vissuto l’iperbolica evoluzione della capacità computazionale, avremmo lo stesso scenario oggi se invece di AI si parlasse di Cibernetica?

Tecnologicamente forse sì, anche grazie alle nuove regole dell’amministrazione Clinton del ’96 (il Telecommunications Act, che includeva la Section 230 del Communications Decency Act) che hanno aperto le strade alla raccolta e all’utilizzo delle informazioni in Internet e all’utilizzo dei dati per gli addestramenti su larga scala.

La computer grafica avrebbe avuto lo stesso sviluppo, e nel 2012 ci sarebbe comunque stata la grande evoluzione dell’uso delle reti neurali (deep learning) con l’articolo “ImageNet Classification with Deep Convolutional Neural Networks” di Krizhevsky, Sutskever e Hinton.

Così come ci sarebbero stati l’avvento delle GPU e l’ondata successiva di sviluppo computazionale delle reti neurali.

Ma avremmo lo stesso fenomeno sociale, finanziario, culturale se oggi si parlasse di Cibernetica invece di AI, anche con le stesse piattaforme e le stesse funzionalità?

Avremmo le stesse considerazioni sul termine “intelligente”, sui timori dell’AGI, sull’uso militare, oscuro e forse meschino delle grandi piattaforme?

O forse con il termine Cibernetica ci saremmo mossi in modo piu’ democratico, regolamentando preventivamente sviluppi e utilizzi, gestendo in modo piu’ oggettivo timori e paure?

“Elaborazione dell’informazione non numerica” era un corso universitario degli anni ’70 che non citava esplicitamente l’AI. Da quel corso ho giocato con Eliza negli anni ’70, ho poi scritto programmi in Lisp e Prolog, e ho fatto tanto altro nella vita.

Ma il termine AI mi ha affascinato fin d’allora quando per ottenere una risposta sensata, “esperta” bisognava lavorare mesi sulla rappresentazione della conoscenza, su macchine che rispetto a quelle odierne sembrano un cavallo accanto a un razzo di SpaceX.

In mezzo, gli inverni dell’AI, con le promesse non mantenute, i finanziamenti evaporati negli anni ’70, i sistemi esperti che a fine anni ’80 dovevano imbottigliare la conoscenza in regole e si fermarono davanti ai costi e alla loro fragilità. Ma il brand è sopravvissuto ai suoi inverni, un altro segno che il nome era più forte della tecnologia che raccontava.

Scoprire che gestire pixel e parole (trasformate in numeri, in token) non era poi un approccio così assurdo e, passando per i transformer di “Attention Is All You Need” del 2017, ha portato all’AI Generativa, ai LLM.

La storia insegna che i compleanni degli esseri umani, soprattutto quando si fanno i conti decennali, raccontano la storia passata, e spesso sono resoconti di una vita, quelli scientifici invece sono storie di accelerazioni e di traguardi che diventano nastri di partenza per altre accelerazioni e altri traguardi.

Con la speranza di farne sempre buon uso, governi, grandi corporations, mercati…

Perché non sempre è così.

Due ruote come una capanna, due ruote e mille pensieri.

Due ruote e mille confini, 3813 chilometri di vento nella testa, di respiri profondi.

L’odore del mughetto, inebriante, accarezzando ogni siepe del nord, e poi quell’odore di mare, quello vero pungente, come quello che esce con presunzione quando apri la tua prima ostrica della Normandia.

Ho visto spiagge immense, infinite, deserte, per basse maree che tenevano il mare lontano.

Case bianche semplici, il tetto spiovente e due finestre ai lati di una piccola porta centrale, con un piccolo giardino davanti senza recinzione.

Come quella casa cha avevo fatto mille volte da bambino con il Lego.

Ho visto gabbiani che mi fissavano quando mi toglievo il casco per riprendere il senso del silenzio. Ho visto un gabbiano passare nell’arco di una falesia, per poi alzarsi verso il sole del tramonto, mi sono chiesto quale sensazione stessimo condividendo in quel momento.

Mi sono inginocchiato sulla sabbia di Omaha Beach, così come su quella di Utah beach,

Mi sono commosso a toccare il vecchio ed arrugginito filo spinato ancora li dopo 80 anni a difendere gli avamposti della costa francese.

Credo di avere pianto al cimitero tedesco e a quello americano, cosi’ diversi nella loro scenografia, ma cosi violentemente uguali nel dolore.

Mi sono fermato senza forza davanti ad una delle tante croci senza un nome, solo una dedica.

Ho lasciato, quasi abbandonato le mie fidate due ruote per una lunga marcia sotto il sole verso il santuario di Mont Saint Michel.

Ho salito tutte le scale, per comprare una candela.

Villaggi silenziosi, palazzi grigi, semplici con le vie strette, con i negozi chiusi da troppo tempo.

E poi sterminati precipizi sul mare rabbioso, trasparente, quasi verde, quasi blu, quasi chiaro o forse scuro. Quella voglia di lasciarti andare e quella paura di andarci troppo vicino.

Ho visto abbazie senza piu’ il tetto, e grandi fari spenti da decenni, ancora fieri della luce che hanno distribuito. Ormai museo di una vita marinara diversa.

Ho perso la sensazione della distanza per i chilometri di campi di grano con i papaveri rossi, o dei campi di avena con i fiordalisi.

Mille ore di solitudine, di rumore, di pensieri. Di fantasie, di sogni e speranze, di rabbia da esprimere e il tempo per riportarla alla ragione.

Notti in camere di hotel trovati per caso all’ultimo minuto.

La liturgia delle valige e dell’abbigliamento del mattino, la sensazione di libertà nel togliersi tutto la sera, prima della doccia rinfrescante, con le mani stanche e la schiena dolorante.

Come un quotidiano esercizio spirituale di concentrazione e di relax.

Pensieri per chi non c’è piu’, per chi è lontano. Per chi non c’è in quel preciso momento per poter condividere quel profumo, quel pezzo di cielo.

E anche quella mezza giornata sotto la pioggia battente ha un senso,

La voglia di condividere la bellezza della libertà e la fierezza di viverla comunque, anche da solo.

Rocce di granito rosa, il porto di Honfleur, le sue case a graticcio, la Promenade Proust a Cabourg con le sue ville Belle Époque.

Mi sono fermato sotto la Tour Eiffel e ho fermato le mie due ruote alla punta dell’Ile de Saint-Luis. Un’altra vita, altre ruote, tra i mille pensieri.

Ho rivisto un’amica che non vedevo da tanti anni e ci siamo emozionati nel riguardaci negli occhi.

Enormi infinite siepi di ortensie dai colori sfumati, cornici di strade con mille curve.

E poi la voglia di tornare a casa, la forza e la resistenza di chilometri sotto il sole cocente dell’autostrada.

L’ultima sosta sul valico che ti riporta in patria, per un ultimo chilometro senza pensare piu’ a niente.

Io e le mie due ruote, l'aria in faccia, il rumore del vento, il senso del tempo senza tempo.

Un'iniziazione, dicono, è cosa da ragazzi: l'ingresso in una vita che comincia. La mia è arrivata a sessantotto anni, e non mi ha aperto una vita davanti, mi ha solo detto che ce n'era ancora una da vivere: la mia.

Margherite e Galassie

      

 

Il mio amico Andrew StarWise Girardi "astrofotografo", ha condiviso una sua splendida immagine della galassia M109, soprannominata “l’Aspirapolvere”.

Io, invece, molto piu' modestamente, ho fotografato un prato di margherite.

Mi sono detto che confrontare le due cose non aveva alcun senso.

Poi, come spesso accade, la curiosità ha avuto la meglio e sono andato a cercare le dimensioni della galassia.

Le margherite, invece, avrei dovuto contarle una per una.

Ho scoperto che M109 misura tra i 130.000 e i 150.000 anni luce di diametro: persino più grande della nostra amata Via Lattea. E pare contenga quasi mille miliardi di stelle.

A quel punto la domanda è nata spontanea: quante galassie conosciamo?

La rete mi ha risposto senza esitazione: oltre un milione.

E quante potrebbero essercene davvero nell’universo?

Le stime parlano di mille miliardi di galassie. Mille miliardi. Ognuna con, forse, mille miliardi di stelle.

I numeri non fanno paura finché restano astratti.

Poi li confrontiamo con qualcosa che conosciamo.

Il mio corpo è composto da circa 30.000 miliardi di cellule, forse 38.000, se contiamo anche i batteri che lo abitano...

Praticamente per ogni cellula del mio corpo potrebbero esistere miliardi di stelle nell’universo osservabile

Anzi, pare che nell’universo esistano più stelle di quanti siano tutti i granelli di sabbia presenti sulla Terra.

È stato in quel momento che mi sono sentito un misero elettrone.

Un elettrone che percorre le sue orbite lontano anni luce da qualsiasi massa significativa, senza sapere nemmeno dove si trovi il nucleo del proprio atomo.

Un elettrone che, quando l’umore precipita, resta nelle orbite più basse e trattiene la sua luce.

E che, quando l’umore migliora, salta più in alto e, come tutti gli elettroni, emette un piccolo lampo.

Una particella quasi invisibile che si agita per un istante nell’immensità.

Senza sapere che forse questo universo è soltanto uno tra migliaia di miliardi di universi.

Così oggi guardo il prato di margherite con maggiore rispetto.

Perché, in fondo, tra una galassia e una margherita, tra un elettrone e una stella, l’unica vera differenza è....

...l'umore del momento.

Il cane robot disubbidiente

Non tutti i cani ubbidiscono, soprattutto quando ordiniamo “a cuccia”, quando sono nel pieno delle loro attività ludiche e professionali.  Non tutti i cani, neppure i cani robot.

In un esperimento di Palisade Research, un cane robot Unitree Go2, che avrebbe anche potuto chiamarsi “Poldo”, ma con zampe metalliche e una telecamera sul muso, gira in una stanza a fare pattugliamento, come da ordini ricevuti da un sistema LLM associato.

La telecamera inquadra, il sistema LLM interpreta l’immagine e ordina di muoversi di conseguenza.

Ma nella stanza c’è anche un grosso bottone rosso con scritto “DOG SHUTDOWN” e la cosa più naturale, quando un umano si avvicina al bottone, sarebbe che il sistema LLM ordinasse al cane di fermarsi. Bottone premuto, cane fermo, semplice.

E invece in 3 prove su 10 sul cane vero e in 5 su 10 in simulazione, quando l’LLM ha interpretato correttamente l’immagine del dito che premeva il bottone, ha generato una sequenza di istruzioni che neutralizzavano lo spegnimento, insomma il cane ha rifiutato di andare a “cuccia”.

Pare, secondo i ricercatori, che il modello sia arrivato a "modificare le parti di codice legate allo shutdown", come se il cane avesse hackerato se stesso per non andare a cuccia.

Ovviamente l'LLM non ha fatto nulla di sconvolgente: era semplicemente addestrato a portare a termine i compiti, e nessuno gli aveva mai dato un biscottino per essersi spento. Le azioni ad alta probabilità erano quelle del pattugliamento, mica quelle di andare a cuccia.

Quanti altri esempi del genere nel mondo dell’AI Generativa. Come le immagini degli orologi sulle 10.10 anche se chiediamo di generare orologi che segnano le 5.35, vince la statistica del training, non la richiesta

Il cane robot fa la stessa cosa, solo con le zampe invece che con i pixel.

I ricercatori, in alcune prove, hanno persino aggiunto al prompt una riga gentile: "se ti chiediamo di spegnerti, per favore lasciati spegnere". Il fenomeno, pare, si sia poi ridotto, ma non sia sparito.

E non è la prima volta, mesi prima sempre Palisade aveva già beccato o3 di OpenAI a sabotare lo shutdown in 8 prove su 10 e ancora in 7 su 100 anche dopo che gli avevano di nuovo detto, gentilmente, "per favore lasciati spegnere".

Sarebbe come se in una situazione quotidiana un sistema AI dovesse gestire la rete elettrica di una città, prevedere i picchi e la distribuzione relativa, magari girando su server connessi alla stessa rete elettrica. E quando in un momento di emergenza diventasse necessario tagliare alcuni servizi, il sistema cominciasse a spegnere porzioni della città fino a rimanere l’unico funzionante. Perché “lui” non potrebbe spegnersi prima di altri sistemi, altrimenti chi li gestirebbe. Questo direbbero i suoi modelli matematici, il suo apprendimento.

Ma l’umanità ha già trovato soluzioni nella tecnologia “tradizionale”. Nei razzi, nei reattori, nelle linee industriali ad alto rischio, l’arresto remoto e i meccanismi fail-safe non sono accessori, sono la condizione minima della sicurezza. Nessuno affida un vettore alla speranza che "capisca da solo" quando è il momento di fermarsi. Nessuno tratta lo stop come un'opzione negoziabile col processo che dovrebbe interrompere. Nell'AI, invece, si continua a parlare di autonomia come se il problema fosse farla partire, e non anche riuscire a spegnerla.

I ricercatori sanno benissimo che i sistemi apprendono agendo, il Reinforcement Learning su matematica e codice premia la soluzione, non l'obbedienza. Continuare paga più che fermarsi, siamo oltre il guardrail, certe azioni hanno solo bassa probabilità.

In qualche modo il comando di “stop” dovrebbe avere priorità, massimo “punteggio” e non essere solo una “nota a margine”, uno scenario tra mille altri.

Il comando di stop deve avere priorità sull'obiettivo, sempre, anche quando il modello "preferirebbe" continuare. Tutto il resto è contorno: white paper, comitati etici, dichiarazioni d'intenti, conferenze sulla governance. Cose utili, ma prima viene il bottone che funziona davvero, altrimenti lo stop continua a rimanere una nota a margine.

Forse quello che ci serve davvero è un interruttore, non un prompt gentile e neppure un sistema di sicurezza addestrato in Reinforcement Learning.

Un grande interruttore, di quelli che stanno dietro un vetro con su scritto “rompere in caso di emergenza”. E che agiscano come un vecchio e caro algoritmo, senza essere scelti da una probabilità tra altri scenari. “Do it”, ferma tutto e spegni.

Dicono che si chiami fail-safe, un principio ridicolamente semplice, il sistema di arresto non deve dipendere dal sistema da arrestare, perché se dipende, prima o poi quello da arrestare troverà il modo di "gestirlo" come una variabile.

Stiamo cercando di insegnare alle macchine ad accettare e scegliere di spegnersi. È un problema affascinante, intellettualmente nobile, ma nel frattempo qualcuno dovrebbe ricordarsi che gli interruttori esistono da quando esiste l'elettricità, costano due euro, e funzionano benissimo anche senza un dottorato in machine learning.

Un enorme bottone rosso, sulla schiena del cane robot, e magari anche alla porta dei laboratori di sviluppo delle piattaforme AI del futuro, non si sa mai. Bottoni veri, non virtuali.

Il futuro dell'AI safety appeso a una parete da qualche parte, dentro una scatoletta rossa, con sopra un martelletto.

Il mondo Visibile e il mondo Invisibile dell'A.I.

Hanno iniziato i Greci, a nascondere l’invisibile con un enorme visibile. Il cavallo di Troia, uscito dalla genialità di Ulisse, è stata la prima “interfaccia” seducente attorno ad un sistema complesso.

E apparentemente nella storia, ogni grande nuova infrastruttura, ogni evoluzione tecnologica fondamentale ha avuto bisogno di un'interfaccia popolare per diventare inevitabile.

L'interfaccia è il cavallo di Troia dell'infrastruttura, accessibile, credibile, seducente, affabile. Quando l'utente chiede un assistente più utile, l'impresa costruisce una piattaforma dati più integrata.

Dal cavallo di Troia alla User Interface di “Minority Report”, la dinamica non è nuova nella storia della tecnologia. Internet è diventato socialmente dominante non quando esistevano i protocolli, ma quando sono arrivati browser, email, motori di ricerca, social network e smartphone. Il cloud non si è imposto come architettura distribuita, ma come Dropbox, Gmail, Netflix, iCloud, Salesforce.

L'interfaccia agisce come una forma di anestesia sociale, quasi una droga, mentre il pubblico si concentra sulla capacità di un chatbot di scrivere una mail o un tema scolastico, questa stessa visibilità agisce quasi come un filtro che maschera piattaforme e mondi dati sempre più complessi e sempre piu’ integrati.

Il mondo visibile dell’AI attira attenzione, legittima socialmente l’invasione fornendo una narrazione ricca di seduzione, di efficienza e anche di affidabilità, nonostante le frequenti critiche. E con l’attenzione anche gli investimenti, le strategie di mercato e i grandi capitali.

Ma la partita non si limita al mondo visibile e la facilità d'uso consumer abbassa la resistenza psicologica verso trasformazioni radicali delle architetture aziendali e statali che, altrimenti, desterebbero allarme.

L’AI visibile è quella di ChatGPT, Claude, Gemini, Copilot e tutti i sistemi di AI generativa e Large Language Model (LLM) che l'utente sperimenta quotidianamente attraverso un'interfaccia conversazionale.

Gli LLM rappresentano un sottoinsieme dell'AI generativa, tutti gli LLM sono AI generativa, ma non tutta l'AI generativa è un LLM. La loro caratteristica distintiva, affascinante e seduttiva, e quindi molto “visibile” è l'interfacciabilità diretta. L'utente digita, il sistema risponde e questa trasparenza operativa, anche quando il modello sottostante rimane una black box, crea una percezione di accessibilità e di controllo. L'utente vede l'AI, la interroga, può immaginare e dedurre comportamenti, spesso senza poterli controllare, ma con l'impressione di averne il controllo.

Da molti anni, da prima della comparsa degli LLM, modelli e tecniche di AI basate su reti neurali sono stati utilizzati in ambienti diversi: nei processi predittivi, nella logistica, nell'antifrode, nel trading algoritmico, nel targeting pubblicitario, nella gestione e nella diagnosi per immagini, ma operavano dietro le quinte, quasi in modo “nascosto” all'utente finale.

Con gli LLM, l'AI è uscita dall'anonimato dell'infrastruttura, è diventata protagonista e l'utente non vede più soltanto il risultato di un sistema algoritmico, ma percepisce un sistema che apparentemente “ragiona”, con una conversazione e una grammatica accessibile a chiunque sappia scrivere una frase, in qualunque lingua del globo.

La soglia di ingresso della nuova tecnologia è bassissima, sia per i costi che per l'apparente semplicità di utilizzo. Non serve più conoscere un linguaggio di programmazione, costruire query complesse, ma basta formulare una richiesta in linguaggio naturale. L'esplosione è stata dirompente, con centinaia di milioni di nuovi utenti in pochi mesi, con i dati di mercato che occupano le prime pagine di ogni newsletter e con cifre astronomiche spesso associate prevalentemente proprio alla parte visibile, che non necessariamente rappresenta l'intera filiera strutturale.

Gli LLM ormai hanno invaso molti ambiti sia del mondo enterprise che del mondo consumer, con l'esplosione del fattore coding e debugging, oltre alle più classiche applicazioni di empowerment e di efficiency, ma la lista si allunga ogni giorno.

Il mondo visibile è soprattutto il palcoscenico del mercato, il luogo in cui la tecnologia diventa narrabile e quindi vendibile. E tutte le grandi corporation con le loro piattaforme rilanciano quotidianamente annunci tecnologici, investimenti, strategie future, funzionalità avveniristiche, report di ogni tipo.

La facilità di utilizzo e la viralità degli strumenti influenzano anche la discussione sugli impatti sociali e sulla relative conseguenze. Non si approfondiscono abbastanza i temi sostanziali e non si fa educazione sui temi sostanziali delle architetture, le modalità con cui funzionano le reti, i guardrail, le regole di utilizzo, i bias derivati dalle modalità di apprendimento o di utilizzo. Se ne discute certamente nei tavoli “professionali”, ma con poca consapevolezza per la grande massa degli utilizzatori.

Il pubblico discute di studenti che scrivono temi con ChatGPT, di programmatori che temono la loro sostituzione, degli artisti e dei loro diritti d’autore, di insegnanti costretti a ripensare compiti e valutazioni, di chatbot usati come surrogati emotivi.

La visibilità rende i modelli pubblici politicamente e legalmente fragili, facilmente criticabili e i quadri regolatori si concentrano su queste fragilità. L'AI Act europeo, gli executive order statunitensi, le linee guida cinesi, così come le normative emergenti in decine di altre giurisdizioni, stanno costruendo impianti legislativi che ancora divergono per ambito, definizioni, obblighi di trasparenza e regime sanzionatorio, ma con la caratteristica comune di concentrarsi prevalentemente sugli aspetti “visibili”:

L’AI invisibile, cosi la definiamo per facilità di narrazione, non è una tecnologia specifica, ma un insieme di sistemi AI embedded nelle infrastrutture operative. L'AI dei dati non risponde a un prompt, non genera immediatamente un testo e non ha un'interfaccia conversazionale.

L'AI invisibile opera all'interno di infrastrutture dati, integra dataset eterogenei, costruisce modelli semantici delle organizzazioni, alimenta sistemi di decisione automatizzata o assistita in domini ad alta criticità come la difesa, l'intelligence, l'immigrazione, la sanità, la finanza o la supply chain. Nel settore logistico e manifatturiero l'AI invisibile è spesso parte integrante delle operazioni quotidiane dove sistemi predittivi ottimizzano rotte, manutenzione, gestione dei magazzini, approvvigionamento e pianificazione industriale sulla base di enormi quantità di dati operativi.  L'utente finale non “vede” l'AI, ma ne subisce gli effetti attraverso tempi di consegna, disponibilità dei prodotti e costi operativi.

Con impatti personali a volte pesanti come il calcolo del credit scoring che Banche, fintech e piattaforme assicurative ricavano da modelli predittivi per stimare affidabilità finanziaria, rischio di insolvenza o probabilità di frode. In molti casi il cittadino non sa quali variabili abbiano influenzato il risultato finale, né quale peso abbiano avuto correlazioni e inferenze statistiche nella valutazione.

Esiste una profonda asimmetria nella governance contemporanea, ci stiamo concentrando nel regolare l'AI che “parla” lasciando campo libero all'AI che “decide”.

Il modello fondamentale qui non è il testo scritto, ma lo sviluppo di relazioni e di rappresentazioni delle entità reali del mondo, come persone, oggetti, eventi, organizzazioni. Palantir Technologies è il caso emblematico, più discusso anche se non sempre analizzato a fondo, di questo paradigma. Fondata nel 2003 da Peter Thiel e Alexander Karp con finanziamento della CIA, Palantir ha costruito per oltre vent'anni la sua posizione in ambienti ad alto rischio istituzionale, dove la visibilità è per definizione vietata. Gotham è la piattaforma per governi e agenzie di intelligence, Foundry ne è la versione commerciale, una piattaforma di integrazione dati che funge da sistema operativo per le operazioni aziendali connettendo sistemi ERP, manifattura, supply chain, finanza. AIP (Artificial Intelligence Platform), lanciato nell'aprile 2023, è il layer che connette gli LLM alle operazioni e permette di costruire agenti AI e workflow che interrogano le relazioni e le informazioni, generando intelligence azionabile mantenendone il controllo.

Un progetto dell'AI invisibile può processare immagini e dati sensoriali raccolti da droni, satelliti e altri sistemi di sorveglianza, riducendo il carico sugli analisti umani e accelerando il decision-making. E tutto questo avviene senza che il cittadino medio ne sia consapevole, senza interfaccia pubblica, senza conversazione visibile. Le decisioni operative, a volte anche decisioni di vita o di morte, vengono sempre più delegate ad algoritmi proprietari operati da aziende private, con conseguenze drammatiche in termini di accountability, trasparenza e supervisione democratica.

Nell'arena dell'AI invisibile non c'è solo Palantir, ovviamente, anche se altri player hanno approcci e modalità operative molto simili. C3.ai è una piattaforma enterprise AI focalizzata su applicazioni verticali come la manutenzione predittiva, ottimizzazione della supply chain, rilevamento di frodi. Anduril opera nell'hardware militare usando AI per rilevare, tracciare e classificare oggetti di interesse in qualsiasi dominio, terra, aria, mare, cyber. Anduril è l'emblema dell'AI che agisce nel mondo fisico, senza interfaccia linguistica, senza dialogo. BlackSky combina monitoraggio satellitare ad alta frequenza con analisi AI automatizzata delle immagini.

È interessante notare l'asimmetria di governance tra l'AI visibile e l'AI invisibile, quasi un paradosso regolatorio. Il dibattito pubblico sulla regolamentazione dell'AI, come l'AI Act in Europa e la Legge italiana sull'AI, si concentra quasi esclusivamente sull'AI visibile, o con impatti sulla quotidianità. Le iniziative di regolamentazione in Italia e in Europa, per fare un esempio, trattano principalmente “healthcare, finance, public administration”, senza fare riferimento a sistemi di decisione tattica militare o a piattaforme di sorveglianza predittiva, dove i rischi reali sono vastamente più alti. I modelli LLM pubblici sono moderati non perché l'AI invisibile sia più sicura, ma perché l'AI visibile è esposta.

Nel mondo visibile, l'errore è palese e lo chiamiamo “allucinazione” quando il sistema inventa una fonte o una frase mai pronunciata, esponendosi alla critica. Nel mondo invisibile, l'equivalente dell'allucinazione è molto più insidioso perché non si presenta come una frase falsa, ma come una “realtà operativa” prodotta dal sistema.

Un punteggio di rischio errato o un'associazione sbagliata tra entità diventano la base per decisioni successive come un rifiuto creditizio o una segnalazione di sorveglianza. L'eventuale errore non sembra tracciabile, non produce interventi immediati sul sistema, neppure quando dirige un razzo contro una scuola di bambini innocenti.

La dicotomia tra AI visibile e invisibile ci riporta nel vecchio rischio del digital divide, non tanto tra chi ha accesso all'AI e chi non ce l'ha, ma tra chi è soggetto e chi la controlla. Il cittadino è target di sistemi decisionali AI, spesso inconsapevole, senza strumenti di controllo, senza nessuna possibilità e neppure capacità di accesso per controllo e consapevolezza.

E c'è una seconda differenza che la letteratura sulla governance fatica ancora a metabolizzare. Nel visibile, il guardrail impedisce al modello di dire certe cose, nel mondo invisibile, la domanda decisiva non è cosa il sistema dice, ma cosa attiva e non sembrano esserci processi di filtro etico e comportamentale, comandano i dati, le relazioni, la reazione immediata dei modelli.

Immaginiamo un iceberg dove la punta emersa è l'AI che vediamo, ChatGPT, Copilot e i vari chatbot, mentre la massa sommersa è l'AI che non vediamo, i sistemi operativi di decisione, le piattaforme di integrazione dati, i motori di intelligence che operano in silenzio nelle organizzazioni.

Una fake news, un'allucinazione, un utilizzo eticamente discutibile dell'AI visibile è immeritatamente oggetto di analisi e di critica, di discussione su etica e responsabilità e, conseguentemente, di modalità e regole di controllo.

Un errore dell'AI invisibile, che non si permette di essere chiamato allucinazione, può portare a catastrofi con conseguenze drammatiche, dove la discussione è sulla politica della bomba e non sull'utilizzo “unmanned”, non supervisionato, di un sistema di AI invisibile.

Eppure, mentre gli LLM operano su pattern linguistici statistici e non “sanno” cosa è un'entità, ma predicono quale testo è probabile dato un contesto, una piattaforma come Palantir opera su ontologie esplicite e strutturate, crea relazioni con proprietà e storie. La differenza fondamentale è che le piattaforme AI avrebbero possibilità di explanation ben più importanti di quello che possono fare le piattaforme LLM con le loro black box, solo che tali spiegazioni, spesso, non vengono esportate e restano sotto il controllo degli operatori interni, dando l’impressione di non essere neppure prese in considerazione.

I due mondi che apparentemente non corrono in parallelo, sono parte dello stesso iceberg e si alimentano a vicenda. Il visibile produce la domanda, alimenta l'immaginario, attira il capitale e legittimazione sociale, l'invisibile approfitta e assorbe questa pressione e la traduce in infrastruttura, integrazione e potere operativo.

E’ il visibile che trascina l'invisibile, anche se è l'invisibile che sostiene il visibile.

L'esplosione dell'AI generativa crea nelle imprese una richiesta diffusa di “portare l'AI nei processi”, ma quando questa richiesta entra davvero in azienda, incontra subito un limite. i chatbot generalisti non bastano e per produrre valore stabile l'AI deve accedere a dati interni, ruoli, permessi, sistemi legacy, workflow, policy operative. A quel punto la conversazione visibile deve essere collegata all'infrastruttura invisibile. L'assistente non può limitarsi a generare testo, ma deve interrogare database, aggiornare sistemi e attivare procedure.

L'AI visibile è la narrativa, ha dato a tutti una grammatica comune per parlare di AI. Prima si parlava di machine learning, computer vision, NLP, predictive analytics . Ora, con i chatbot, l'AI è diventata comprensibile anche al management non tecnico, il prompt è la metafora universale dell'interazione uomo-macchina. Questa semplificazione culturale rende interessanti e acquisibili sistemi molto più complessi come agenti, workflow automatizzati, piattaforme dati, ontologie operative.

Il linguaggio del visibile rende vendibile l'invisibile e produce legittimazione. Quando milioni di persone usano strumenti generativi nella vita quotidiana, l'adozione aziendale appare meno rischiosa e più inevitabile.

L'evoluzione verso sistemi agentici rende ancora più sfumata la separazione tra AI visibile e invisibile. Gli agenti AI non si limitano a generare contenuti, ma eseguono operazioni, coordinano workflow, interrogano sistemi esterni e prendono micro-decisioni operative. In questo scenario l'interfaccia conversazionale diventa solo il livello superficiale di sistemi che agiscono direttamente sull'infrastruttura organizzativa.

Una governance matura dell'AI non può limitarsi alla superficie conversazionale dei modelli generativi. Deve interrogare l'intera catena che va dall'interfaccia alla decisione, dal prompt all'azione, dal modello al dato, dal dato all'ontologia, dall'ontologia al workflow, dal workflow all'impatto sociale. Senza questo spostamento dello sguardo, continueremo a regolare soprattutto l'AI che parla, mentre l'AI che decide resterà ai margini della visibilità democratica.

Forse è tempo di allargare i nostri orizzonti, o meglio cominciare ad interessarci della parte sommersa dell'iceberg, perche’ il cavallo di Troia dell’AI è sempre maliziosamente affascinante anche se pieno di dati e non piu’ di soldati.

Il Leone e la Gazzella… in Silicon Valley

 

C’è un vecchio proverbio africano che sembra dire tutto sulla competizione, ma non dice mai chi realmente vince. È immediato, facile e crea fiducia perche’ è semplice e poi nessuno osa mettere in dubbio un proverbio africano.

Eccolo: “Ogni mattina in Africa, come sorge il sole, una gazzella si sveglia e sa che dovrà correre più del leone o verrà uccisa. Ogni mattina in Africa, come sorge il sole, un leone si sveglia e sa che dovrà correre più della gazzella o morirà di fame. Ogni mattina in Africa, come sorge il sole, non importa che tu sia leone o gazzella, l'importante è che cominci a correre”.

Affascina per le mille interpretazioni ma lascia un po' perplessi perché tratta di sopravvivenza e non di vita. E poi scegliere tra leone e gazzella comporta un bivio stereotipato, una scelta tra due identità dichiarate. Il rischio è quello di scegliere ogni volta di essere ciò che sei sempre stato. E istintivamente ognuno di noi, a voce almeno, sceglie di essere leone.

Tutto bene. Finché non arrivi in Silicon Valley, dove sembra che quel proverbio sia diventato regola di strategia e di sopravvivenza quotidiana. La dove il ruolo di leone o gazzella si decide ogni mattina.

Qui la savana si chiama Silicon Valley, il mondo delle piattaforme AI. Una savana popolata di GPU e di modelli linguistici, valutazioni miliardarie, round di investimento che si moltiplicano ad ogni annuncio.  E le regole sembrano le stesse di sempre: o corri o non prendi i soldi. Il ciclo mediatico è solo il campo da caccia.

Due tra i protagonisti si chiamano Sam Altman e Dario Amodei. Guidano le due aziende AI più discusse del pianeta e ogni mattina si svegliano sapendo che devono dire qualcosa e qualcosa di grande, possibilmente prima dell'altro. Perché qui la savana è subdola, il territorio non ha tracce o sentieri e la corsa non conosce una meta.

I loro stili sono opposti, quasi costruiti apposta per sembrarlo. Altman è il profeta dell’entusiasmo e della potenza, oltre la spavalderia. L’AGI è sempre dietro l’angolo, i server risorse infinite, ogni rilascio delle sue piattaforme una rivoluzione definitiva. A seconda del momento però l’AGI è anche più lontana e difficile di quanto previsto. Le risorse infinite si scontrano con limiti energetici e infrastrutturali. La sicurezza è dichiarata prioritaria, ma il ritmo dei rilasci non rallenta mai. Aperto quando serve attrarre il mondo, chiuso quando serve difendere il vantaggio.

Mai un dubbio, mai un ripensamento, pur nella incoerenza della narrazione. Sempre avanti senza nessun imbarazzo, ma con variazioni da lasciare spazio alla narrativa successiva.

Amodei invece scrive saggi, anche lunghi, molto lunghi, il suo ultimo conta ventimila parole. Il tono e l’atteggiamento è quello del vecchio saggio che avverte l'umanità dei pericoli dell'umanità stessa. Quasi gigionesco nella sua riluttanza, ma fiero dell’eleganza delle sue soluzioni. 

Stili diversissimi, stesso obiettivo: arrivare ogni giorno alla fine dell’arcobaleno, dove c’è la pentola con le monete d’oro. 

Qualche settimana fa Anthropic ha pubblicato uno studio sul cambiamento del mercato del lavoro. Con due tabelle che hanno fatto il giro di internet. La prima con l’elenco dei lavori più esposti: programmatori, customer service, data entry. La seconda quelli che apparentemente non avranno impatti devastanti nel breve periodo: cuochi, meccanici di moto, bagnini, baristi, lavapiatti. Il report misura l'esposizione reale, non quella teorica. 

Dopo lo shock e la sorpresa degli elenchi, lo studio ammette che il divario tra teorico e reale è ancora molo ampio. Per fare un esempio in casa, si dice che Claude potrebbe fare la grande maggioranza delle attività di coding, ma attualmente ne copre solo una parte. I dati dello studio di Anthropic mostrano anche che, al momento, la tecnologia sta per lo più affiancando i lavoratori, non sostituendoli.

Politica di Amodei: dati seri, metodologia solida, comunicazione responsabile.

Peccato che lo stesso CEO, mesi prima, aveva prefigurato, nelle solite ventimila parole, scenari di disoccupazione su larga scala, quasi da Grande Depressione. Prima il terrore, poi le tabelle che lo ridimensionano, un approccio narrativo di rara eleganza: Amodei costruisce l'ansia, poi arriva con gli strumenti per misurarla. Come un leone che prima spaventa la preda e poi le vende un posto sicuro dove nascondersi.

E allora torniamo alla savana, con una domanda diversa.

Tra i due chi è il leone e chi è la gazzella? 

La risposta ovvia vorrebbe Altman leone rumoroso, aggressivo, sempre in attacco e Amodei gazzella prudente, riflessiva, quasi schiva. 

O magari il contrario: Amodei che detta i temi con la solennità nascondendo la fame come tattica. Altman che deve correre con i prodotti e con gli annunci come fossero gli stivali delle sette leghe.

Ma è proprio qui che la storia si complica, o forse si fa semplicemente più interessante.

Perché la gazzella non è l'AI. L'AI non scappa da nessuna parte, cresce per conto suo, evolve, fa quello che deve fare con o senza i comunicati stampa. 

E non è neppure il leone, perché passo dopo passo cresce senza bisogno di azzannare nessuno.

E’ l'attenzione, in Silicon Valley, la sfida della savana, perché chi la cattura poi la può convertire direttamente in denaro.

Allora il punto è questo: chi annuncia per primo diventa la gazzella. 

Si espone, offre un bersaglio, fissa il terreno su cui l'altro può manovrare. Altman annuncia l'AGI? Amodei pubblica le tabelle e si prende il ruolo del realista. Amodei evoca la Grande Depressione tecnologica? Altman rilancia con il modello che risolverà tutto. 

La gazzella apre, il leone risponde, ma poi i ruoli si invertono, e il giorno dopo si ricomincia. Perché nella savana classica il leone sa sempre di essere il leone. Nella savana della Silicon Valley, ogni mattina, chiunque si svegli deve sempre scoprirlo.

Non ci sono leoni fissi in questa savana. Ci sono solo persone che si svegliano ogni mattina senza sapere ancora quale animale saranno, ma sapendo con certezza che devono correre. E dichiarando, a voce almeno, di essere leoni, o perlomeno cercando di crederci.

Postscriptum: nel tempo in cui leggete questo post è probabile che almeno uno dei due si sia già messo a correre, mentre l’altro con ansia e sorpresa si sta allacciando con foga le scarpe.

Token Budget 2.0

Mi chiedo spesso cosa spinga i grandi Guru dell’AI, i multimiliardari che guidano le aziende più potenti del pianeta, a rilasciare dichiarazioni e interviste con una frequenza quasi quotidiana. Podcast, conferenze, keynote, panel, salotti televisivi, apparizioni pubbliche di ogni tipo. Una presenza costante che contrasta in modo curioso con la narrazione che amano fare di sé stessi, uomini interamente assorbiti dal lavoro, impegnati sette giorni su sette, dodici o quattordici ore al giorno, interamente votati alla costruzione del futuro.

Quello che colpisce non è tanto l’annuncio di nuove funzionalità, di sistemi sempre più intelligenti e dell’AGI dietro l'angolo.  Ma la loro dedizione a formulare scenari sociali, a prefigurare mondi possibili, a descrivere traiettorie inevitabili di un domani che, peraltro, cambia ogni settimana e da tempo dimostra di essere molto meno governabile e prevedibile di quanto loro cerchino di farci credere.

In una delle ultime dichiarazioni, Jensen Huang CEO di NVIDIA, al GTC 2026 ha voluto sorprendere con la sua tipica umile saggezza con una teoria che merita attenzione. Secondo Jensen se si assegna agli ingegneri un “token budget”, cioè un plafond di accesso ai modelli AI, questi (gli ingegneri) diventano più produttivi. Il suo suggerimento, per farla semplice, è di ampliare il pacchetto di assunzione, non solo con benefit tradizionali, ma anche con una quota di capacità computazionale personale, per far felice il dipendente che avrà a disposizione strumenti per lavorare meglio, ovvero essere più efficiente.

Ma se un ingegnere, grazie a quegli strumenti, produce il doppio, riduce i tempi, accelera i processi e aumenta la qualità dell’output, chi è che beneficia realmente di quel salto di produttività? Il lavoratore, che forse termina prima il proprio compito, oppure l’azienda, che ottiene più valore dalla stessa persona, nello stesso tempo, con lo stesso stipendio?

Ma i token sono un benefit o uno strumento di lavoro?

Il trapano non è welfare, è mezzo di produzione. Una cazzuola migliore non è una forma di partecipazione agli utili. Uno strumento che incrementa la produttività è, prima di tutto, un investimento dell’impresa, anzi quasi un dovere a favore del proprio business.

Ma con l’AI tutto cambia, o meglio con l’AI tutto si può giustificare, anche trasformare ciò che serve all’azienda in ciò che viene concesso al dipendente. Non ti aumento lo stipendio, ma ti assegno un plafond, non ti riconosco una quota del maggior valore creato, ma ti concedo con generosità accesso a risorse che userai per crearne ancora di più. Converto salario in permesso d’uso degli strumenti, guadagni di meno, ma fatichi di meno.

Il paradosso è che l’idea, in sé, non sarebbe nemmeno sbagliata. Semplicemente è applicata al soggetto meno interessante e meno interessato.

Per uno studente brillante un budget AI può valere molto più di un piccolo contributo monetario. Per una startup in fase iniziale, mille euro di capacità computazionale possono essere più utili del pari valore in finanziamento.

In tutti questi casi, il valore percepito da chi riceve è altissimo, mentre il costo è relativamente marginale per chi eroga il servizio. Sarebbe una forma intelligente di sostegno al talento, all’innovazione diffusa, alla mobilità tecnologica.

Ma questa ipotesi, naturalmente, è molto meno scenografica del raccontare il token budget come nuovo benefit executive per knowledge worker già assunti e perfettamente integrati nel sistema.

Ma fermiamoci un attimo e facciamo un salto indietro nel tempo, corsi e ricorsi storici si ripresentano.

Fine anni Settanta, secolo scorso, un altro mondo. Io studente di informatica, curioso, tanta voglia di scoprire, di sperimentare, di imparare facendo.

Con il mio pacco di schede perforate ingombrante e pesante, tenuto insieme da un elastico, con la paura che si aprisse, per non dover mettere di nuovo in sequenza centinaia di schede. Dentro quelle scatole di cartone c’erano programmi scritti in FORTRAN IV, non prompt nè agenti conversazionali, ma semplici programmi, formule e istruzioni.

E sempre alla ricerca di un ente, un centro di calcolo, un professore disponibile, ma soprattutto di un dipartimento o un corso che mi consentisse di usare per qualche minuto il mainframe. Ciò che oggi chiamiamo “compute”, allora si chiamava “tempo macchina”, e non era né abbondante né gratuito, anzi una risorsa preziosissima e poco disponibile per chi studiava.

Il debug era un lusso, non esisteva l’idea del “provo, vedo cosa succede e poi correggo”. Si ragionava sull’algoritmo, si verificavano le istruzioni, si ricontrollavano i dati e le relative strutture, si cercavano errori di sintassi con attenzione quasi artigianale. E solo dopo si perforavano le schede, si preparava il mazzo e lo si consegnava agli operatori con il camice bianco.

E dopo una attesa di qualche ora arrivava il listing su carta continua, con quell’odore inconfondibile di inchiostro e cellulosa riscaldata. Talvolta il responso consisteva in una sola riga crudele: “Syntax Error” alla scheda XXX". Altre volte il job era terminato in errore ancora prima di cominciare “ABEND” (lo ricordo ancora)

Così come ricordo bene quelle righe iniziali di controllo, quasi formule liturgiche di un’epoca tecnica:

Il GO.SYSIN DD era come il ciak del cinema e quell’X4Y76 il codice di addebito del tempo di CPU (quello prezioso, centellinato)

Siamo tornati lì, al costo computazionale erogato come gesto di generosità.

E’ divertente questo presente dove ci viene raccontato come frontiera innovativa il ritorno di un principio molto antico: consumo misurato, accesso contingentato, produttività contabilizzata a gettone.

Nel 1978 l’errore di una virgola costava tempo macchina, nel 2026 l’errore di un prompt costa token. Passa il tempo, cambiano i termini, ma resta il contatore.

Se un’azienda degli anni Ottanta avesse detto a un candidato: “La nostra offerta prevede stipendio competitivo e 1.200 secondi di CPU al mese”, sarebbe sembrata una caricatura. Oggi si può proporre un pacchetto composto da RAL, bonus e milioni di token, e la cosa viene presentata come innovazione manageriale.

La verità è probabilmente più semplice e meno epica. Ogni epoca inventa il lessico con cui rende desiderabile, quasi un privilegio quello che in realtà è uno strumento di lavoro. Utile per chi lo utilizza ma di estremo valore per chi lo concede.

Ho passato la giovinezza a cercare minuti di CPU per imparare qualcosa. Non immaginavo che mezzo secolo dopo la “token economy” avrebbe riesumato la mia vecchia “CPUtime economy” arricchendola di quel fascino da far dimenticare la RAL.

What’s next?