Allucinazione

Non si tratta di un difetto di singoli modelli, ma di una conseguenza del loro funzionamento: generano la continuazione più plausibile, non quella dimostrabilmente corretta. Per questo le allucinazioni non si possono disattivare, ma solo contenere. Contro questo fenomeno sono efficaci soprattutto tre cose: vincolare la risposta ai propri documenti (vedi RAG), indicare le fonti in modo visibile e far decidere a una persona tutto ciò che ha effetti giuridici.