Comprobando las respuestas de la IA: alucinaciones

Las respuestas de la IA son más fiables por empleados con cuatro preguntas: ¿Es verificable cada número, cada cita y cada nombre? ¿Realmente responde la respuesta a la pregunta? ¿Está actualizada? ¿Y sería responsable de ello con mi nombre? Los modelos de lenguaje pueden proporcionar información que suena convincente pero inventada. Estas alucinaciones no son un error raro, sino una propiedad de la tecnología.

Por tanto, cualquiera que utilice IA en su trabajo diario necesita una habilidad por encima de todas: leer el resultado de forma crítica. Este artículo muestra cómo reconocer alucinaciones y cómo es una comprobación rápida.

Por qué la IA inventa cosas

Un modelo de lenguaje genera texto eligiendo palabra por palabra probablemente apropiada. No "sabe" si una afirmación es verdadera. Si carece de información, llena el vacío con algo que suena plausible. Así es como se crean párrafos, estudios, citas o premios inventados. Más sobre esto en el glosario bajo Alucinaciones.

Señales de advertencia de alucinaciones

Cifras muy precisas sin fuente, como "73,4% de las empresas..."
Párrafos, juicios o normas que no puedes consultar
Citas de personas sin cita
Enlaces que no existen o que apuntan a otra cosa
Declaraciones sobre tu empresa que la IA ni siquiera puede saber
Respuestas a preguntas sobre eventos actuales cuando la herramienta no está buscando en la web

El examen de cuatro preguntas

Pregunta	Lo que haces
¿Verificable?	Compara números, nombres, párrafos y citas con la fuente original
¿Adecuado?	¿El texto responde a la pregunta formulada o a una similar?
¿Actualmente?	¿La información sigue siendo válida? Las leyes, precios y plazos cambian
¿Responsable?	¿Se lo daría a clientes o a superiores?

Para la mayoría de los mensajes de texto cotidianos, esta comprobación dura solo unos minutos. En el caso de estados legales, médicos o financieros, es obligatorio antes de que algo salga de casa.

Donde las pruebas son especialmente importantes

Aplicación	Riesgo	Examen
Ayuda con la formulación de tus propios textos	Grave	Leer, comprobar el sonido
Resumen de un documento existente	Medio	Empareja muestras con el original
Hechos, cifras, cuestiones legales	Alto	Comprobar cada información con una fuente
Decisiones sobre las personas	muy alto	La IA solo como ayuda, la decisión la toma un humano

Cómo reducir las alucinaciones en primer lugar

Dar material en vez de dejar que la IA responda de memoria.
Prohíbe expresamente añadir: "Usa solo la información del texto."
Pide fuentes y ábrelas tú mismo.
Utiliza herramientas citadas por fuentes que accedan a tus propios documentos.

Cómo se construyen sistemas de IA que respaldan sus respuestas con fuentes se explica en el artículo IA Respuestas con Citación de Fuentes. En el lado del usuario, un buen prompt ayuda: consulta Aprender a escribir prompts.

El control humano también es una cuestión de responsabilidad

Cualquiera que transmita un resultado de IA es responsable de él. Esto se aplica tanto a los clientes como a internamente. Por tanto, la Ley de IA de la UE se basa en la competencia en IA: Según el art. 4, las empresas que utilizan IA deben tomar medidas que apoyen la competencia de sus empleados, lo que incluye saber dónde se equivoca la IA. El artículo Competencia de IA según el art. 4 explica la obligación.

Pruebas de práctica en equipo

La mejor manera de reconocer alucinaciones es experimentarlas tú mismo. En nuestra formación en IA para empresas, los participantes comprueban las respuestas de IA a preguntas de su propio campo de trabajo y aprenden cuándo un resultado es bueno y cuándo no, con un certificado de participación como documentación.

Financiación: La formación pura normalmente no está subvencionada por el coaching INQA, ya que el programa promueve la consultoría. Si la introducción de la IA se acompaña íntegramente como coaching INQA, el gobierno federal cubrirá el 80% de los costes de consultoría de hasta 1.200 € por día durante un máximo de 12 días. La comprobación de financiación muestra qué programas son adecuados para ti.

Preguntas frecuentes

¿Qué es una alucinación de IA?

Una afirmación convincente pero falsa o inventada de un modelo de lenguaje, como un párrafo inexistente o un número inventado. Surge porque el modelo produce textos probables sin verificar los hechos.

¿Cómo sé si una respuesta de la IA es correcta?

Comprobando números, nombres, citas e información legal de la fuente original y comprobando si la respuesta encaja con la pregunta y está actualizada. Esta comprobación es indispensable para afirmaciones importantes.

¿Se pueden evitar las alucinaciones por completo?

No, pero redúcimelo significativamente: mediante material proporcionado, la instrucción de no añadir nada y herramientas que respalden las respuestas con fuentes de tus propios documentos.

¿Quién es responsable de respuestas incorrectas con IA?

Cualquiera que transmita un resultado de IA es responsable de ello. Por lo tanto, un humano siempre debe comprobar y decidir sobre las declaraciones con consecuencias para clientes o empleados.