Perché l'AI inventa le risposte: come accorgertene

In due righe

L'AI inventa perché è addestrata a rispondere sempre, non ad ammettere di non sapere.
I segnali tipici: percentuali senza fonte, citazioni inesistenti, link rotti, calcoli sbagliati.
La regola: nessun output non verificabile esce dall'azienda o guida una decisione.
Le allucinazioni si riducono con grounding, fonti e verifica umana, ma non si azzerano.

L'intelligenza artificiale inventa le risposte perché è progettata per rispondere sempre, non per ammettere di non sapere. Genera il testo prevedendo la parola successiva più probabile: quando i dati non bastano, produce comunque una risposta plausibile ma falsa. Il fenomeno si chiama allucinazione, cioè una risposta che contiene dati falsi o fuorvianti presentati come fatti, e non è eliminabile del tutto. Per una PMI la regola è una sola: mai usare un output non verificabile per una decisione o per un documento che esce dall'azienda. I segnali per accorgertene in tempo sono sotto.

Cos'è un'allucinazione dell'AI, in una frase

L'allucinazione, detta anche confabulazione, è una risposta generata da un'intelligenza artificiale che contiene dati falsi o fuorvianti presentati come fatti. La differenza rispetto all'errore umano è netta: un tecnico sbaglia perché ha letto male o si è distratto, la macchina costruisce una risposta che non ha alcun appiglio nella realtà. Non percepisce male: compone male, e lo fa con una sicurezza che rende l'errore difficile da riconoscere.

Perché l'intelligenza artificiale inventa le risposte

La causa di fondo è che il modello è addestrato a indovinare piuttosto che ad ammettere di non sapere. I numeri lo confermano. Uno studio del 2023 riportato dalla voce di Wikipedia sulle allucinazioni ha misurato tassi di errore dal 3 al 27% a seconda del modello, e una ricerca EBU e BBC citata dalla stessa voce ha trovato che il 45% delle risposte generate presentava almeno un problema significativo. Tra il 2023 e il 2025 sono stati documentati quasi 90 casi di allucinazioni in tribunali, con atti legali che citavano sentenze inesistenti.

Uno studio OpenAI ripreso da Geopop aggiunge una misura concreta: gpt-5-thinking-mini ammette di non sapere nel 52% dei casi, contro l'1% della versione precedente, e sbaglia nel 26% dei casi contro il 75%.

Come spiega Il Post, il motivo tecnico sta nella tokenizzazione, cioè la scomposizione del testo in unità più piccole. Un LLM, ossia un large language model, non conosce la verità: stima la parola successiva più probabile. Anthony Moser, citato nella voce di Wikipedia, lo dice in modo netto: i modelli sono strutturalmente indifferenti alla verità. Va aggiunta una spinta commerciale: un'AI che risponde troppo spesso "non lo so" viene abbandonata, quindi i produttori la spingono a indovinare.

Come ti accorgi che una risposta è inventata

La prova è sempre la stessa: chiedere la fonte, aprirla e controllare il numero. I segnali sotto sono la spia che il controllo va fatto subito. I numeri nella colonna centrale sono esempi, non rilevazioni.

Segnale	Esempio concreto	Cosa fare
Percentuale o data senza fonte	«Il 68% delle PMI usa l'AI»	Chiedi la fonte, aprila, controlla il numero
Citazione o sentenza inesistente	Una legge o una sentenza che non trovi da nessuna parte	Cerca il testo originale su una fonte ufficiale
Link o URL che non si apre	Una pagina che restituisce errore	Apri ogni link prima di citarlo
Calcolo che non torna	Un margine o una somma sbagliata	Rifai il conto su un foglio di calcolo
Sicurezza eccessiva su fatti verificabili	Una risposta categorica su un dato discutibile	Verifica su una fonte indipendente
Nome o entità improbabile	Uno strumento o una norma che non conosci	Cerca il nome esatto prima di usarlo

Se anche uno solo di questi segnali compare, fermati e verifica. Non importa quanto la risposta sia ben scritta.

Lo strumento

Delera Agent AI costruisce agenti su misura sui processi che oggi ti portano via ore ogni settimana.

Scopri Delera Agent AI

La regola per usare l'AI senza rischi in azienda

La regola si basa su una sola distinzione: cosa esce dall'azienda e cosa resta dentro. Tre livelli.

Livello	Cosa può fare l'AI da sola	Cosa richiede verifica o divieto
Sicuro	Bozze interne, riassunti di testi forniti, brainstorming, riformulazioni	Nessun vincolo, ma i numeri vanno comunque controllati se entrano in una decisione
Da verificare	Numeri, fatti, nomi, norme, date, prezzi, condizioni contrattuali	Apri la fonte, rifai il conto, controlla sulla documentazione aziendale
Vietato	Risposte ai clienti, documenti esterni, calcoli decisionali senza controllo	Non far uscire niente finché un umano non ha letto e confermato

Questa griglia non è prudenza eccessiva: è la differenza tra usare l'AI come assistente e lasciarla diventare la voce dell'azienda.

Un esempio lavorato: quando la risposta esce verso un cliente

Facciamo un conto su un'azienda tipo, un caso ipotetico dichiarato. Mettiamo un'azienda di impiantistica con 12 dipendenti e circa 2 milioni di fatturato. Ha attivato un agente AI per rispondere alle richieste dei clienti. Su una richiesta di un componente, l'agente scrive che la consegna avverrà in 10 giorni e che il prezzo di listino è 1.850 euro. Peccato che nessuno dei due dati esista: il componente arriva in 25 giorni e costa 1.420 euro. Il cliente aspetta una consegna impossibile, contesta l'ordine, e qualcuno in azienda perde mezza giornata per ricostruire cosa è successo. Sarebbero bastati due minuti di controllo sulla fonte prima di far uscire il messaggio.

Come ridurre il rischio delle allucinazioni

Le allucinazioni non si azzerano, ma si riducono parecchio con quattro mosse.

Dai al modello solo il materiale su cui deve basarsi. Questa pratica si chiama grounding: invece di chiedere una risposta generale, incolli il listino, la scheda tecnica o il contratto e chiedi di lavorare solo su quello.
Chiedi le fonti e aprile una per una. Se la fonte non esiste, non si apre o non conferma, la risposta non si usa.
Rifai i conti su un foglio di calcolo. L'AI può impostare il ragionamento, ma la somma deve tornare su un foglio di calcolo.
Tieni un umano nel loop su tutto ciò che esce dall'azienda. Una bozza interna può essere imperfetta; un messaggio al cliente no.

Se fate rispondere a un agente AI verso i clienti, fatelo lavorare solo su materiale aziendale verificato. Delera costruisce agenti AI su misura con questa impostazione.

Domani mattina, prima di usare una risposta dell'AI, controlla una sola cosa: apri la fonte e verifica il numero. Se la fonte non c'è, la risposta non esce. È un gesto da due minuti che evita la maggior parte dei danni.

Domande frequenti

Perché l’intelligenza artificiale inventa le risposte?

Perché è progettata per rispondere sempre e genera il testo prevedendo la parola successiva più probabile, non perché conosce la risposta. Quando i dati di addestramento sono incompleti o ambigui, riempie i vuoti con contenuti plausibili ma falsi. A questo si aggiunge l’incentivo commerciale: un’AI che ammette spesso di non sapere viene abbandonata, quindi i produttori la spingono a indovinare.

Come faccio a capire se una risposta è inventata?

Controlla i segnali: percentuali o date senza fonte, citazioni o sentenze che non trovi da nessuna parte, link che non si aprono, calcoli che non tornano, sicurezza eccessiva su fatti verificabili. La prova è sempre la stessa: apri la fonte dichiarata e verifica il numero. Se la fonte non esiste o non conferma, la risposta non va usata.

Le allucinazioni dell’AI si possono eliminare?

No. Secondo diversi ricercatori sono un limite intrinseco dei modelli di linguaggio: si possono ridurre, non azzerare. Tecniche come il grounding, la ricerca sul web e modelli che ammettono di non sapere riducono gli errori, ma un output va sempre verificato quando conta. Per questo la supervisione umana su ciò che esce dall’azienda resta la regola.

Posso usare l’AI per rispondere ai clienti?

Sì, ma solo con un controllo umano su ciò che esce, oppure con un sistema che risponde esclusivamente sulla base di materiale che hai fornito e verificato. Il rischio non è l’AI in sé: è lasciare che una risposta inventata arrivi al cliente. Le bozze interne e i riassunti di testi tuoi sono sicuri; i messaggi esterni vanno riletti.

L’AI sbaglia anche nei calcoli?

Sì, spesso. I modelli scompongono il testo in token e non trattano i numeri come una calcolatrice, quindi su somme, margini e percentuali possono sbagliare con sicurezza. Per qualsiasi calcolo che conta usa un foglio di calcolo, e usa l’AI solo per impostare il ragionamento.

Fonti