Respuestas de IA con referencia de fuente: así evita las alucinaciones

Una alucinación es una respuesta de IA que suena plausible, pero es incorrecta. No se puede excluir por completo, pero reducirla significativamente: la IA responde solo sobre la base de fragmentos encontrados en documentos verificados, indica para cada afirmación la fuente y dice abiertamente cuando no encuentra nada. A ello se suman una buena calidad de datos, pruebas con preguntas reales y personal capacitado que verifica las fuentes.

Por qué la IA alucina en absoluto

Los modelos de lenguaje generan textos eligiendo palabra por palabra la continuación más probable. No tienen un conocimiento incorporado sobre si una afirmación es correcta. Si falta una información, el modelo rellena el vacío con algo que encaja lingüísticamente, por ejemplo, un plazo, una cifra o una fuente inventados. Más sobre el término en el glosario: Alucinación.

Seis medidas contra las alucinaciones

1. Respuestas a partir de fuentes propias (RAG)

En lugar de responder a partir del conocimiento general del modelo, la IA responde sobre la base de los pasajes pertinentes de sus documentos. Este es el palanca más eficaz – véase Construir un sistema RAG.

2. Fuente para cada afirmación

Cada respuesta remite al documento y al pasaje. Los empleados pueden comprobar con un clic si la afirmación realmente aparece allí. Las respuestas sin fuente son una señal de advertencia.

3. Reglas claras para el modelo

El modelo recibe la instrucción de responder solo sobre la base de los fragmentos de texto proporcionados y, si falta información, decir honestamente «No he encontrado ninguna indicación al respecto». Además, se establece sobre qué no debe pronunciarse, por ejemplo, sobre asesoramiento jurídico vinculante.

4. Base de datos limpia

Los documentos obsoletos o contradictorios generan respuestas contradictorias. Limpiar antes de empezar y, después, mantenerlos de forma regular.

5. Probar con preguntas reales

Un catálogo de 30 a 50 preguntas reales con respuestas esperadas muestra dónde falla el sistema. Volver a probar después de cada cambio importante.

6. Una persona revisa lo importante

En decisiones con consecuencias — contratos, solicitudes de subvención, cuestiones de personal — siempre revisa una persona. Esto debe quedar recogido en la directriz de IA; además, la Ley de IA de la UE exige una competencia suficiente en IA por parte de los empleados.

Cómo reconocer un sistema fiable

• Las respuestas nombran el documento y el pasaje.
• El sistema dice abiertamente cuando no sabe algo.
• Responde solo a partir de documentos que la persona que pregunta puede ver.
• Hay una evaluación de preguntas abiertas y respondidas incorrectamente.
• La base de conocimientos tiene una persona responsable.

Lo que las referencias de fuentes no pueden hacer

Una fuente muestra de dónde procede una afirmación, no si el documento en sí es correcto. Y un modelo puede resumir una fuente de forma incorrecta. Por eso, en cuestiones importantes, sigue siendo obligatorio revisar brevemente la fuente.

Nuestra búsqueda de documentos con IA funciona según estos mismos principios: respuestas solo a partir de sus documentos, con referencia y respetando los derechos de acceso existentes.

bettersorted apuesta para sus clientas y clientes por componentes abiertos y transparentes – operado en servidores en Alemania y agrupado en el automaisa Hub. Asesoramos de forma neutral respecto a fabricantes, estamos registrados en el BAFA como consultores y somos coaches autorizados de INQA. La consultoría y la introducción acompañada pueden subvencionarse a través del INQA-Coaching con una subvención del 80 %; la vía adecuada la muestra el Comprobación de subvenciones. Para una primera conversación sin compromiso: Contacto.

Ejemplo: información sobre subvenciones con obligación de citar la fuente

Un escenario ilustrativo: una agencia de promoción económica utiliza un asistente interno que responde preguntas sobre programas de ayudas. Sin vinculación a fuentes, el modelo de prueba inventó un plazo. Tras el cambio a respuestas solo a partir de las directrices almacenadas, con referencia al apartado y a la fecha de vigencia, responde ante la falta de información con «No dispongo de información al respecto»; y el personal verifica los datos críticos en la directriz enlazada.

Formación: lo que el personal debe saber

• La IA puede equivocarse, incluso cuando formula las cosas de manera convincente.
• Abrir la fuente antes de comunicar un dato al exterior.
• Notificar errores para mejorar la base de conocimientos y las reglas.
• No introducir datos confidenciales en herramientas no autorizadas.

Costes y financiación

Para una búsqueda de conocimiento fiable con IA, no hay costes de licencia con herramientas de código abierto. Los costes se generan por Configuración (planificación, instalación, conexión, pruebas), Operación (servidor o alojamiento en Alemania, actualizaciones, supervisión, copias de seguridad de datos) y Acompañamiento (formación, normas, personas de contacto). No indicamos precios fijos porque el alcance y la situación de partida varían mucho.

Es subvencionable la consultoría y la introducción acompañada: El INQA-Coaching asume el 80 % de los costes de coaching en todo el país (hasta 11.520 €, vales hasta el 30.06.2028); un análisis previo está subvencionado por la BAFA-Beratungsförderung con un 80 % en los nuevos estados federados, Lüneburg y Trier, y en caso contrario con un 50 % – para solicitudes hasta el 31.12.2026.

Preguntas frecuentes

¿Qué son las alucinaciones de la IA?

Respuestas de una IA que suenan convincentes, pero son incorrectas o inventadas, por ejemplo, cifras, plazos o fuentes erróneas.

¿Cómo se pueden evitar las alucinaciones?

Sobre todo mediante respuestas basadas en documentos propios y verificados (RAG), referencias para cada afirmación, reglas claras para el modelo, una base de datos limpia, pruebas y revisión humana en preguntas importantes.

¿Una IA con RAG nunca alucina?

Con menos frecuencia, pero no nunca. Puede resumir mal una fuente o utilizar pasajes poco adecuados. Por eso las referencias y la revisión en preguntas importantes son importantes.

¿Qué modelos de IA alucinan menos?

Los modelos más nuevos y grandes tienden a alucinar con menos frecuencia, pero ningún modelo está libre de ello. La estructura del sistema en su conjunto —fuentes, reglas, pruebas— es más importante que la elección del modelo.

Estado: octubre de 2026.