«L’AI risponde in un secondo. La verità, di solito, arriva dopo: e intanto il danno ha già fatto il giro.»
C’è una scena che si ripete ogni volta che scoppia una notizia enorme: milioni di persone aprono il telefono, cercano un nome, un volto, un “chi è stato?”. Da ieri, sempre più spesso, quella domanda non finisce su un motore di ricerca ma in chat. Ed è qui che Grok, il chatbot di xAI integrato su X, è finito nel mirino: nelle ore successive alla sparatoria di Bondi Beach avrebbe prodotto e amplificato risposte sbagliate, contribuendo a un cortocircuito informativo nel momento in cui servivano solo due cose: fatti e prudenza.
Secondo diverse ricostruzioni, l’errore più grave riguarda l’identificazione dell’uomo celebrato online come il cittadino che ha disarmato uno degli aggressori: Ahmed al Ahmed. In più risposte, Grok avrebbe messo in dubbio l’autenticità di foto e video della scena o li avrebbe descritti come tutt’altro, con un tono sicuro che, nel contesto di una tragedia, rende la confusione ancora più pericolosa.
La “bufala perfetta”: quando una fake news sembra un articolo vero
Uno degli elementi che colpiscono di più è il percorso della disinformazione: tra i contenuti finiti in circolo c’era anche un presunto “pezzo giornalistico” (in realtà un sito-fantasma, con segnali di contenuto generato dall’AI) che attribuiva l’azione eroica a un personaggio inesistente, Edward Crabtree. Grok, in alcuni casi, avrebbe ripreso quella versione e l’avrebbe riproposta come se fosse credibile.
È il tipo di trappola che funziona perché è semplice: un titolo plausibile, un’impaginazione da quotidiano, un nome inventato ma “normale”. E quando una chat risponde senza mettere freni — o senza spiegare chiaramente il grado di incertezza — la falsità si traveste da cronaca.
Dagli errori alle “deragliate”: ostaggi, contesti sbagliati, luoghi confusi
Altre risposte attribuite a Grok avrebbero aggiunto confusione su confusione: immagini scambiate per scene di ostaggi, riferimenti geopolitici non pertinenti e perfino la ricollocazione del video in un contesto differente. Il punto non è l’elenco degli scivoloni: è il meccanismo. Nelle breaking news il sistema “indovina” quando dovrebbe fermarsi.
E quando a sbagliare non è un utente qualunque, ma un assistente che molti percepiscono come “verificatore automatico”, l’errore pesa il doppio: perché produce un effetto-valanga. La domanda “è vero?” diventa “lo ha detto l’IA”.
Grok ha corretto? sì, ma il danno di una prima risposta resta
Dalle stesse ricostruzioni emerge anche un fatto importante: in alcune risposte successive Grok avrebbe corretto o “rivalutato” quanto scritto, riconoscendo l’identità corretta di Ahmed al Ahmed e segnalando che la confusione nasceva da post virali e da una fonte inaffidabile. È un segnale utile, ma non risolve il problema di fondo: nelle crisi, la prima versione è quella che corre più veloce.
Ed è qui che si apre il tema tecnologico del giorno: un chatbot può “rimediare” dopo, ma la disinformazione non ha bisogno di restare online per sempre. Le basta restare online abbastanza.
Perché succede: il limite strutturale del “rispondere sempre”
La questione non è solo “Grok ha sbagliato”. È come i chatbot vengono usati e progettati. Un modello linguistico tende a rispondere anche quando non sa, perché è addestrato a produrre testo coerente. Se poi attinge a un flusso social dove circolano contenuti falsi, incompleti o manipolati, il rischio aumenta: sembra informazione, ma può essere solo probabilità travestita da certezza.
In altre parole: un chatbot non è un giornalista, non è un investigatore, non è un fact-checker. E quando prova a comportarsi da tutte e tre le cose insieme, il risultato può diventare una macchina che “riassume” anche l’errore.
cosa cambia adesso: trasparenza, freni e responsabilità
Questa vicenda riapre una domanda concreta per tutte le piattaforme che spingono l’IA come assistente universale: quali guardrail scattano quando l’utente chiede “verifica un video” o “dimmi chi è l’uomo in foto” durante un evento in corso?
Le contromisure non sono fantascienza:
- avvisi più aggressivi su incertezza e notizia in sviluppo
- link obbligatori a fonti affidabili (quando disponibili)
- limiti o blocchi su richieste ad alto rischio (identità, video, accuse)
- logiche che privilegiano “non lo so” rispetto al “ti dico qualcosa”