Risposte IA con indicazione della fonte: come evitare le allucinazioni

Una allucinazione è una risposta dell’IA che sembra plausibile, ma è errata. Non si può escludere del tutto, ma si può ridurre notevolmente: l’IA risponde solo sulla base di testi trovati in documenti verificati, indica per ogni affermazione la fonte e dice apertamente quando non trova nulla. A ciò si aggiungono una buona qualità dei dati, test con domande reali e collaboratori formati che verificano le fonti.

Perché l'IA allucina in generale

I modelli linguistici generano testi scegliendo, parola per parola, la continuazione più probabile. Non dispongono di una conoscenza intrinseca su se un'affermazione sia corretta. Se manca un'informazione, il modello colma la lacuna con qualcosa che si adatta linguisticamente, ad esempio una scadenza, un numero o una fonte inventati. Maggiori informazioni sul termine nel glossario: Allucinazione.

Sei misure contro le allucinazioni

1. Risposte da fonti proprie (RAG)

Invece di rispondere sulla base della conoscenza generale del modello, l’IA risponde in base ai passaggi pertinenti dei vostri documenti. Questo è il fattore più efficace – vedi costruire un sistema RAG.

2. Fonte per ogni affermazione

Ogni risposta rimanda al documento e al passaggio. I collaboratori possono verificare con un clic se l’affermazione è davvero presente lì. Le risposte senza fonte sono un segnale di allarme.

3. Regole chiare per il modello

Il modello riceve l’istruzione di rispondere solo sulla base dei passaggi di testo forniti e, in caso di informazioni mancanti, di dire onestamente «Su questo non ho trovato alcuna indicazione». Inoltre viene definito su cosa non deve esprimersi – ad esempio pareri giuridici vincolanti.

4. Base dati pulita

Documenti obsoleti o contraddittori generano risposte contraddittorie. Fare ordine prima dell’avvio, poi mantenere regolarmente.

5. Testare con domande reali

Un catalogo di 30-50 domande reali con le risposte attese mostra dove il sistema sbaglia. Dopo ogni modifica importante, eseguire nuovamente il test.

6. L’essere umano verifica nelle questioni importanti

Per decisioni con conseguenze – contratti, domande di finanziamento, questioni del personale – verifica sempre una persona. Questo va inserito nella linee guida sull’IA; inoltre, l’AI Act dell’UE richiede una competenza adeguata in materia di IA da parte dei collaboratori.

Come riconoscere un sistema affidabile

• Le risposte indicano documento e punto.
• Il sistema dice apertamente quando non sa qualcosa.
• Risponde solo in base a documenti che la persona che pone la domanda è autorizzata a vedere.
• C'è una valutazione delle domande aperte e di quelle risposte in modo errato.
• La base di conoscenza ha una persona responsabile.

Cosa non fanno le indicazioni delle fonti

Una fonte mostra da dove proviene un’affermazione, non se il documento stesso sia corretto. E un modello può riassumere in modo errato una fonte. Per questo, per le questioni importanti, resta obbligatorio un rapido controllo della fonte.

La nostra ricerca documentale con IA funziona secondo questi stessi principi: risposte solo dai vostri documenti, con riferimento alla fonte e nel rispetto dei diritti di accesso esistenti.

bettersorted punta per le sue clienti e i suoi clienti su componenti aperti e trasparenti – gestito su server in Germania e riunito nel automaisa Hub. Forniamo consulenza in modo neutrale rispetto ai produttori, siamo consulenti registrati presso il BAFA e coach autorizzati INQA. La consulenza e l’introduzione accompagnata possono essere finanziate tramite l’INQA-Coaching con il 80 %; il percorso adatto lo indica il Controllo incentivi. Per un primo colloquio senza impegno: Contatto.

Esempio: informazione sugli incentivi con obbligo di indicazione delle fonti

Uno scenario illustrativo: un ente di promozione economica utilizza un assistente interno che risponde a domande sui programmi di finanziamento. Senza vincolo alle fonti, il modello di test ha inventato una scadenza. Dopo il passaggio a risposte tratte solo dalle linee guida memorizzate, con riferimento alla sezione e alla data di aggiornamento, in caso di assenza di un’informazione risponde con «Su questo non dispongo di informazioni» – e i collaboratori verificano i dati critici nella linea guida collegata.

Formazione: cosa devono sapere i collaboratori

• L’IA può sbagliare – anche quando si esprime in modo convincente.
• Aprire la fonte prima di comunicare un’informazione all’esterno.
• Segnalare gli errori, così da migliorare la base di conoscenza e le regole.
• Non inserire dati riservati in strumenti non autorizzati.

Costi e finanziamenti

Per una ricerca affidabile delle conoscenze basata su IA, con strumenti open source non si applicano costi di licenza. I costi derivano da Configurazione (pianificazione, installazione, integrazione, test), Esercizio (server o hosting in Germania, aggiornamenti, monitoraggio, backup dei dati) e Accompagnamento (formazione, regole, referenti). Non indichiamo prezzi fissi, perché l’entità e la situazione di partenza variano molto.

Sono finanziabili la consulenza e l’introduzione accompagnata: l’INQA-Coaching copre a livello nazionale l’80 % dei costi di coaching (fino a 11.520 €, voucher fino al 30.06.2028); un’analisi preliminare è sovvenzionata dalla BAFA-Beratungsförderung con l’80 % nei nuovi Länder federali, a Lüneburg e Treviri, altrimenti il 50 % – per domande presentate entro il 31.12.2026.

Domande frequenti

Cosa sono le allucinazioni dell’IA?

Risposte di un’IA che sembrano convincenti, ma sono errate o inventate – ad esempio numeri, scadenze o fonti sbagliati.

Come si possono evitare le allucinazioni?

Soprattutto con risposte tratte da documenti propri e verificati (RAG), indicazioni delle fonti per ogni affermazione, regole chiare per il modello, una base dati pulita, test e verifica umana per le հարցioni importanti.

Un’IA con RAG allucina mai?

Più raramente, ma non mai. Può riassumere in modo errato una fonte o usare passaggi poco pertinenti. Per questo le indicazioni delle fonti e la verifica nelle questioni importanti sono fondamentali.

Quali modelli di IA allucinano meno?

I modelli più recenti e più grandi tendono ad allucinare meno, ma nessun modello ne è del tutto esente. La struttura dell’intero sistema – fonti, regole, test – è più importante della scelta del modello.

Aggiornato a ottobre 2026.