Hai mai chiesto a un chatbot una fonte, un dato o una citazione, e scoperto poi che semplicemente non esisteva? Non è un bug isolato: è un fenomeno con un nome preciso, e capire come funziona ti aiuta a usare questi strumenti in modo più sicuro.
Cos’è nel dettaglio
Un’allucinazione è quando un modello di intelligenza artificiale generativa produce un’informazione falsa, inventata o non verificabile, ma la presenta con lo stesso grado di sicurezza con cui presenterebbe un’informazione corretta. Può trattarsi di una citazione bibliografica inesistente, una data sbagliata, un fatto storico distorto, o persino un link a una pagina web che non esiste.
Perché succede
I modelli linguistici non “sanno” le cose nel senso in cui le sappiamo noi: generano testo prevedendo, parola dopo parola, quale sequenza è statisticamente più plausibile in base a quello che hanno imparato durante l’addestramento. Quando l’informazione richiesta è rara, ambigua o assente dai dati di addestramento, il modello può comunque generare una risposta plausibile nella forma ma falsa nel contenuto, invece di dire semplicemente “non lo so”.
Come proteggerti
Non esiste un modo per eliminare del tutto questo rischio, ma puoi ridurlo concretamente:
- Verifica sempre dati, numeri, citazioni e riferimenti prima di usarli in un contesto importante.
- Su argomenti dove ti serve un’informazione aggiornata e verificabile, preferisci strumenti che citano le fonti in tempo reale (come Perplexity) invece di chatbot generalisti.
- Diffida di risposte troppo dettagliate su argomenti molto specifici o di nicchia: è proprio lì che il rischio di allucinazione è più alto.
- Chiedi esplicitamente al modello di segnalare quando non è sicuro di un’informazione, anche se questo non elimina il problema alla radice.