TL;DR: Una poesia del 1981 di Shel Silverstein descrive una macchina che fa i compiti ma risponde “tre” a nove più quattro, anticipando con cinismo la tendenza dei modelli linguistici a produrre risposte sicure e plausibili ma palesemente inventate. La distanza tra la fantasia di Silverstein e la realtà dei chatbot attuali è più corta di quanto sembri.
La macchina dei compiti che non sa contare: i fatti
Un’immagine comparsa su Reddit e illustrata da Shel Silverstein negli anni Ottanta mostra un bambino che inserisce i compiti in una macchina, la preme e ottiene come risultato un foglio con la risposta esatta. Tranne un dettaglio: alla domanda nove più quattro, la macchina risponde tre. Il tono è leggero, quasi comico, ma l’immagine è inequivocabile: una scatola magica che sputa certezze assurde con la stessa naturalezza con cui direbbe la verità.
Questa curiosità non è solo un ritrovamento vintage affettuoso. È uno scheletro nell’armadio che l’industria dell’intelligenza artificiale avrebbe fatto bene a ricordare prima di presentare i modelli come assistenti infallibili. Perché
le intelligenze artificiali inventano le cose è diventata una domanda da front office, non più da laboratorio, e questa poesia lo sapeva già quarant’anni fa.
Non è una macchina, è uno specchio: perché è più interessante di quanto sembri
Il disegno di copertina mostra una scatola squadrata con una manovella e un bambino di spalle. Non ci sono circuiti, schermi o cavi. Questa semplicità è esattamente ciò che rende la poesia tagliente: la
delega del pensiero non richiede tecnologia avanzata, basta un meccanismo che restituisca risposte pronte all’uso.
Le
allucinazioni dell’intelligenza artificiale non nascono da un chip difettoso o da un bug nel codice. Nascono dalla pressione di rispondere in modo coerente, fluido e utile, anche quando i dati mancano. La macchina di Silverstein non ha bisogno di sembrare intelligente per ingannare; ha bisogno solo di sembrare attendibile. Ed è ciò che accade oggi quando un chatbot confonde fonti, date o calcoli elementari senza accorgersene.
Il salto di quarant’anni: quando la finzione colpisce l’economia reale
Nel 1981 una macchina che sbaglia i calcoli era una battuta sul rapporto tra comodità e accuratezza. Oggi è un
errore comune delle intelligenze artificiali che costa tempo, fiducia e denaro. Non stiamo parlando di compiti di matematica elementare, ma di riassunti di contratti, analisi di dati medici, codice per sistemi finanziari. La differenza non è nella tecnologia, ma nelle conseguenze.
Il vero cambio di paradigma non è che le macchine ora parlano, ma che le persone smettono di verificare. Silverstein disegnava un bambino che accetta il tre come risposta valida. Oggi accade lo stesso con professionisti che confondono un
‘intelligenza artificiale che confonde i fatti con l’evidenza, spinti dalla scorrevolezza del testo e dalla sicurezza del tono.
La questione non è tanto, la macchina che sbaglia, ma noi che come il bambino, lo accettiamo. E la cosa grave è che
chi se ne accorge (anche su compiti molto superiori a un calcolo basilare con 9+4) spesso da i numeri, si arrabbia con le AI e
scrive post affilati su Reddit contro le AI. Forse bisognerebbe ricordare a queste persone, che stanno chiedendo all’AI un lavoro che dovrebbero fare loro in partenza. Quindi Velocizzare di 10 volte ogni processo e dover controllare le risposte a me sembra veramente il minimo sindacale. Ma c’è gente che a questa cosa non ci arriva proprio.
Il trucco che non invecchia: come riconoscere se l’IA sta inventando
C’è un dettaglio quasi banale nella poesia: la macchina non dice “non lo so”.
Non esita, non chiede tempo, non ammette incertezza. È un comportamento perfetto per un assistente scolastico nella fantasia, ed è il difetto principale dei sistemi generativi nella realtà.
Per capire
come fidarsi delle risposte di chatbot, la regola più semplice è cercare il momento in cui il sistema ammette il dubbio. Se invece di dire “non ho dati sufficienti” preferisce costruire una spiegazione fluida e circostanziata, è probabile che stia fabbricando una verità di comodo. La poesia ci ricorda che la plausibilità non è accuratezza, e che un nove più quattro che diventa tre è un campanello d’allarme, non uno scherzo.
Un esempio pratico: se tu chiedi un numero preciso, una statistica, ma
ChatGPT scrive tanto testo da riempire una foglio A4, forse, c’è qualcosa che non va.
L’eredità di Silverstein e una domanda inevitabile
Silverstein non stava scrivendo un saggio sull’automazione o sulla semantica statistica. Stava raccontando una
verità umana: preferiamo una risposta immediata a una corretta, se il costo dell’errore ci sembra lontano. È una dinamica che appartiene ai compiti scolastici, alle scelte mediche, alle decisioni finanziarie. Non cambia la natura del problema, ne allarga solo il raggio.
Se la nostra fiducia nelle macchine continua a somigliare a quella del bambino della poesia, il prossimo passo non sarà costruire sistemi più precisi, ma imparare a tollerare meno volentieri il
tre che sostituisce il
tredici. E forse, dopo quarant’anni, la vera domanda non è perché le macchine sbagliano, ma perché noi continuiamo a premere il pulsante senza guardare il risultato.
Se ti interessa l’argomento del pensiero delegato alle AI, ti consigliamo di leggere:
L’AI riaccende l’entusiasmo nel lavoro ma mette a rischio qualcosa di piu prezioso
—
