Allucinazioni dell’AI: cosa sono e come eliminarle?

Cosa sono le allucinazioni dell’AI?

Per esempio, se chiediamo all’AI i numeri REA di 20 aziende di Milano con ricavi in crescita, potremmo ottenere un elenco apparentemente logico e completo. Eppure tutti i numeri indicati potrebbero essere inventati.

L’aspetto insidioso delle allucinazioni è proprio questa parvenza di coerenza: le risposte sembrano convincenti e l’AI non esprime alcun dubbio. Ecco perché le interfacce dei modelli linguistici invitano a verificare cifre e fatti riportati.

Da dove nascono le allucinazioni dell’AI?

Le allucinazioni si verificano quindi soprattutto in tre situazioni:

• mancanza di dati (la causa principale: il modello tira a indovinare);
• prompt impreciso (il modello colma le lacune);
• compito troppo complesso (il modello cerca di fare tutto insieme).

Non è soltanto un problema dei modelli linguistici, ma anche dell’accesso ai dati. Le allucinazioni non sono quindi eventi del tutto spontanei e incontrollabili: spesso derivano da condizioni su cui è possibile intervenire.

Come eliminare le allucinazioni dell’AI?

Per prevenire le allucinazioni, occorre dare all’AI accesso diretto a dati strutturati. In un ambiente del genere, i modelli linguistici riescono a interpretare meglio le informazioni, prendere decisioni e trarre conclusioni.

Le tre soluzioni seguenti rispondono a questa esigenza, con diversi livelli di complessità.

Preparare un file di dati

Fornire dati già pronti è la soluzione più semplice per ridurre concretamente le allucinazioni. In questo modo lasciamo meno spazio all’AI per «inventare» ciò che manca.

Chi è alle prime armi spesso tratta un modello linguistico come se fosse, allo stesso tempo, un motore di ricerca, una pipeline ETL e uno strumento di estrazione dei dati. Il problema è che, se un unico compito richiede di raccogliere, ripulire e standardizzare i dati, si rischia di superare la finestra di contesto e di aumentare drasticamente la probabilità di allucinazioni.

Per questo conviene suddividere la raccolta dei dati in più prompt circoscritti e controllare, passo dopo passo, che l’AI non riporti informazioni false. Può sembrare noioso e richiedere tempo, ma permette di costruire una base solida su cui i modelli linguistici possono esprimere il loro vero potenziale: lavorare sui dati disponibili.

Utilizzare un’API

Collegarsi a un’API è una soluzione più avanzata: consente di accedere ai dati in modo più rapido e scalabile, mantenendoli aggiornati. Se preparare un file equivale a consegnare un secchio d’acqua, un’API è come aprire un rubinetto.

Quando ChatGPT, Claude o Gemini cercano informazioni online, il processo non è così diverso da quello di una persona: i modelli linguistici consultano contenuti pubblicati su siti esterni, come Reddit o Wikipedia, e formulano una risposta.

Con questo metodo, però, non abbiamo la certezza che i contenuti siano corretti e aggiornati. Fonti diverse possono usare criteri non uniformi, riferirsi a periodi differenti o contenere errori e opinioni. Un’API supera questo limite offrendo una fonte di dati ripuliti, stabile e interrogabile via software.

Per esempio, l’API di Monitly offre accesso a statistiche di tutto il mondo tramite collegamenti diretti a fonti come ISTAT, Eurostat, World Bank, WHO e IMF, oltre a molte altre. Anziché cercare informazioni su siti diversi, l’AI può interrogare direttamente l’API e ricevere i dati più recenti, facilitandone l’analisi e l’interpretazione.

Collegarsi tramite MCP

Collegare l’AI tramite MCP (Model Context Protocol) permette ai modelli linguistici di accedere direttamente a file, fogli di calcolo, codice e applicazioni. Questa soluzione riduce sensibilmente il rischio di allucinazioni, perché mette a disposizione dati già pronti su cui il modello può lavorare.

Per esempio, Compabase, una piattaforma di dati aziendali, ha reso disponibile un server MCP che permette all’AI di verificare rapidamente le aziende italiane. Se chiediamo i numeri REA di 20 aziende di Milano con ricavi in crescita, anziché informazioni inventate possiamo ottenere un elenco coerente e verificato. Non è perché il modello sia diventato improvvisamente «più intelligente»: prima non aveva accesso a quei dati, mentre ora può eseguire una semplice query SQL sul database e ricevere risultati concreti.

In altre parole:

Senza MCP:

• alcune aziende non esistono;
• i dati finanziari sono arbitrari;
• i numeri REA sono inventati.

Con MCP:

• il modello interroga il database;
• restituisce record specifici;
• il risultato della query è deterministico.

Naturalmente, le allucinazioni non scompaiono se continuiamo a chiedere al modello di elaborare e combinare una quantità eccessiva di dati. Se però predisponiamo un ambiente con una struttura definita, dati disponibili in tempo reale e un margine di interpretazione limitato, l’AI smette di indovinare e inizia ad analizzare informazioni concrete.