Due ruote come una capanna, due ruote e mille pensieri.

Due ruote e mille confini, 3813 chilometri di vento nella testa, di respiri profondi.

L’odore del mughetto, inebriante, accarezzando ogni siepe del nord, e poi quell’odore di mare, quello vero pungente, come quello che esce con presunzione quando apri la tua prima ostrica della Normandia.

Ho visto spiagge immense, infinite, deserte, per basse maree che tenevano il mare lontano.

Case bianche semplici, il tetto spiovente e due finestre ai lati di una piccola porta centrale, con un piccolo giardino davanti senza recinzione.

Come quella casa cha avevo fatto mille volte da bambino con il Lego.

Ho visto gabbiani che mi fissavano quando mi toglievo il casco per riprendere il senso del silenzio. Ho visto un gabbiano passare nell’arco di una falesia, per poi alzarsi verso il sole del tramonto, mi sono chiesto quale sensazione stessimo condividendo in quel momento.

Mi sono inginocchiato sulla sabbia di Omaha Beach, così come su quella di Utah beach,

Mi sono commosso a toccare il vecchio ed arrugginito filo spinato ancora li dopo 80 anni a difendere gli avamposti della costa francese.

Credo di avere pianto al cimitero tedesco e a quello americano, cosi’ diversi nella loro scenografia, ma cosi violentemente uguali nel dolore.

Mi sono fermato senza forza davanti ad una delle tante croci senza un nome, solo una dedica.

Ho lasciato, quasi abbandonato le mie fidate due ruote per una lunga marcia sotto il sole verso il santuario di Mont Saint Michel.

Ho salito tutte le scale, per comprare una candela.

Villaggi silenziosi, palazzi grigi, semplici con le vie strette, con i negozi chiusi da troppo tempo.

E poi sterminati precipizi sul mare rabbioso, trasparente, quasi verde, quasi blu, quasi chiaro o forse scuro. Quella voglia di lasciarti andare e quella paura di andarci troppo vicino.

Ho visto abbazie senza piu’ il tetto, e grandi fari spenti da decenni, ancora fieri della luce che hanno distribuito. Ormai museo di una vita marinara diversa.

Ho perso la sensazione della distanza per i chilometri di campi di grano con i papaveri rossi, o dei campi di avena con i fiordalisi.

Mille ore di solitudine, di rumore, di pensieri. Di fantasie, di sogni e speranze, di rabbia da esprimere e il tempo per riportarla alla ragione.

Notti in camere di hotel trovati per caso all’ultimo minuto.

La liturgia delle valige e dell’abbigliamento del mattino, la sensazione di libertà nel togliersi tutto la sera, prima della doccia rinfrescante, con le mani stanche e la schiena dolorante.

Come un quotidiano esercizio spirituale di concentrazione e di relax.

Pensieri per chi non c’è piu’, per chi è lontano. Per chi non c’è in quel preciso momento per poter condividere quel profumo, quel pezzo di cielo.

E anche quella mezza giornata sotto la pioggia battente ha un senso,

La voglia di condividere la bellezza della libertà e la fierezza di viverla comunque, anche da solo.

Rocce di granito rosa, il porto di Honfleur, le sue case a graticcio, la Promenade Proust a Cabourg con le sue ville Belle Époque.

Mi sono fermato sotto la Tour Eiffel e ho fermato le mie due ruote alla punta dell’Ile de Saint-Luis. Un’altra vita, altre ruote, tra i mille pensieri.

Ho rivisto un’amica che non vedevo da tanti anni e ci siamo emozionati nel riguardaci negli occhi.

Enormi infinite siepi di ortensie dai colori sfumati, cornici di strade con mille curve.

E poi la voglia di tornare a casa, la forza e la resistenza di chilometri sotto il sole cocente dell’autostrada.

L’ultima sosta sul valico che ti riporta in patria, per un ultimo chilometro senza pensare piu’ a niente.

Io e le mie due ruote, l'aria in faccia, il rumore del vento, il senso del tempo senza tempo.

Un'iniziazione, dicono, è cosa da ragazzi: l'ingresso in una vita che comincia. La mia è arrivata a sessantotto anni, e non mi ha aperto una vita davanti, mi ha solo detto che ce n'era ancora una da vivere: la mia.

Margherite e Galassie

      

 

Il mio amico Andrew StarWise Girardi "astrofotografo", ha condiviso una sua splendida immagine della galassia M109, soprannominata “l’Aspirapolvere”.

Io, invece, molto piu' modestamente, ho fotografato un prato di margherite.

Mi sono detto che confrontare le due cose non aveva alcun senso.

Poi, come spesso accade, la curiosità ha avuto la meglio e sono andato a cercare le dimensioni della galassia.

Le margherite, invece, avrei dovuto contarle una per una.

Ho scoperto che M109 misura tra i 130.000 e i 150.000 anni luce di diametro: persino più grande della nostra amata Via Lattea. E pare contenga quasi mille miliardi di stelle.

A quel punto la domanda è nata spontanea: quante galassie conosciamo?

La rete mi ha risposto senza esitazione: oltre un milione.

E quante potrebbero essercene davvero nell’universo?

Le stime parlano di mille miliardi di galassie. Mille miliardi. Ognuna con, forse, mille miliardi di stelle.

I numeri non fanno paura finché restano astratti.

Poi li confrontiamo con qualcosa che conosciamo.

Il mio corpo è composto da circa 30.000 miliardi di cellule, forse 38.000, se contiamo anche i batteri che lo abitano...

Praticamente per ogni cellula del mio corpo potrebbero esistere miliardi di stelle nell’universo osservabile

Anzi, pare che nell’universo esistano più stelle di quanti siano tutti i granelli di sabbia presenti sulla Terra.

È stato in quel momento che mi sono sentito un misero elettrone.

Un elettrone che percorre le sue orbite lontano anni luce da qualsiasi massa significativa, senza sapere nemmeno dove si trovi il nucleo del proprio atomo.

Un elettrone che, quando l’umore precipita, resta nelle orbite più basse e trattiene la sua luce.

E che, quando l’umore migliora, salta più in alto e, come tutti gli elettroni, emette un piccolo lampo.

Una particella quasi invisibile che si agita per un istante nell’immensità.

Senza sapere che forse questo universo è soltanto uno tra migliaia di miliardi di universi.

Così oggi guardo il prato di margherite con maggiore rispetto.

Perché, in fondo, tra una galassia e una margherita, tra un elettrone e una stella, l’unica vera differenza è....

...l'umore del momento.

Il cane robot disubbidiente

Non tutti i cani ubbidiscono, soprattutto quando ordiniamo “a cuccia”, quando sono nel pieno delle loro attività ludiche e professionali.  Non tutti i cani, neppure i cani robot.

In un esperimento di Palisade Research, un cane robot Unitree Go2, che avrebbe anche potuto chiamarsi “Poldo”, ma con zampe metalliche e una telecamera sul muso, gira in una stanza a fare pattugliamento, come da ordini ricevuti da un sistema LLM associato.

La telecamera inquadra, il sistema LLM interpreta l’immagine e ordina di muoversi di conseguenza.

Ma nella stanza c’è anche un grosso bottone rosso con scritto “DOG SHUTDOWN” e la cosa più naturale, quando un umano si avvicina al bottone, sarebbe che il sistema LLM ordinasse al cane di fermarsi. Bottone premuto, cane fermo, semplice.

E invece in 3 prove su 10 sul cane vero e in 5 su 10 in simulazione, quando l’LLM ha interpretato correttamente l’immagine del dito che premeva il bottone, ha generato una sequenza di istruzioni che neutralizzavano lo spegnimento, insomma il cane ha rifiutato di andare a “cuccia”.

Pare, secondo i ricercatori, che il modello sia arrivato a "modificare le parti di codice legate allo shutdown", come se il cane avesse hackerato se stesso per non andare a cuccia.

Ovviamente l'LLM non ha fatto nulla di sconvolgente: era semplicemente addestrato a portare a termine i compiti, e nessuno gli aveva mai dato un biscottino per essersi spento. Le azioni ad alta probabilità erano quelle del pattugliamento, mica quelle di andare a cuccia.

Quanti altri esempi del genere nel mondo dell’AI Generativa. Come le immagini degli orologi sulle 10.10 anche se chiediamo di generare orologi che segnano le 5.35, vince la statistica del training, non la richiesta

Il cane robot fa la stessa cosa, solo con le zampe invece che con i pixel.

I ricercatori, in alcune prove, hanno persino aggiunto al prompt una riga gentile: "se ti chiediamo di spegnerti, per favore lasciati spegnere". Il fenomeno, pare, si sia poi ridotto, ma non sia sparito.

E non è la prima volta, mesi prima sempre Palisade aveva già beccato o3 di OpenAI a sabotare lo shutdown in 8 prove su 10 e ancora in 7 su 100 anche dopo che gli avevano di nuovo detto, gentilmente, "per favore lasciati spegnere".

Sarebbe come se in una situazione quotidiana un sistema AI dovesse gestire la rete elettrica di una città, prevedere i picchi e la distribuzione relativa, magari girando su server connessi alla stessa rete elettrica. E quando in un momento di emergenza diventasse necessario tagliare alcuni servizi, il sistema cominciasse a spegnere porzioni della città fino a rimanere l’unico funzionante. Perché “lui” non potrebbe spegnersi prima di altri sistemi, altrimenti chi li gestirebbe. Questo direbbero i suoi modelli matematici, il suo apprendimento.

Ma l’umanità ha già trovato soluzioni nella tecnologia “tradizionale”. Nei razzi, nei reattori, nelle linee industriali ad alto rischio, l’arresto remoto e i meccanismi fail-safe non sono accessori, sono la condizione minima della sicurezza. Nessuno affida un vettore alla speranza che "capisca da solo" quando è il momento di fermarsi. Nessuno tratta lo stop come un'opzione negoziabile col processo che dovrebbe interrompere. Nell'AI, invece, si continua a parlare di autonomia come se il problema fosse farla partire, e non anche riuscire a spegnerla.

I ricercatori sanno benissimo che i sistemi apprendono agendo, il Reinforcement Learning su matematica e codice premia la soluzione, non l'obbedienza. Continuare paga più che fermarsi, siamo oltre il guardrail, certe azioni hanno solo bassa probabilità.

In qualche modo il comando di “stop” dovrebbe avere priorità, massimo “punteggio” e non essere solo una “nota a margine”, uno scenario tra mille altri.

Il comando di stop deve avere priorità sull'obiettivo, sempre, anche quando il modello "preferirebbe" continuare. Tutto il resto è contorno: white paper, comitati etici, dichiarazioni d'intenti, conferenze sulla governance. Cose utili, ma prima viene il bottone che funziona davvero, altrimenti lo stop continua a rimanere una nota a margine.

Forse quello che ci serve davvero è un interruttore, non un prompt gentile e neppure un sistema di sicurezza addestrato in Reinforcement Learning.

Un grande interruttore, di quelli che stanno dietro un vetro con su scritto “rompere in caso di emergenza”. E che agiscano come un vecchio e caro algoritmo, senza essere scelti da una probabilità tra altri scenari. “Do it”, ferma tutto e spegni.

Dicono che si chiami fail-safe, un principio ridicolamente semplice, il sistema di arresto non deve dipendere dal sistema da arrestare, perché se dipende, prima o poi quello da arrestare troverà il modo di "gestirlo" come una variabile.

Stiamo cercando di insegnare alle macchine ad accettare e scegliere di spegnersi. È un problema affascinante, intellettualmente nobile, ma nel frattempo qualcuno dovrebbe ricordarsi che gli interruttori esistono da quando esiste l'elettricità, costano due euro, e funzionano benissimo anche senza un dottorato in machine learning.

Un enorme bottone rosso, sulla schiena del cane robot, e magari anche alla porta dei laboratori di sviluppo delle piattaforme AI del futuro, non si sa mai. Bottoni veri, non virtuali.

Il futuro dell'AI safety appeso a una parete da qualche parte, dentro una scatoletta rossa, con sopra un martelletto.