KI-svar med källhänvisning: Så undviker du hallucinationer

En Hallucination är ett AI-svar som låter plausibelt men är fel. Det går inte att utesluta helt, men starkt minska: AI:n svarar endast utifrån hittade textavsnitt ur granskade dokument, anger för varje påstående källan och säger öppet när den inte hittar något. Dessutom kommer god datakvalitet, tester med verkliga frågor och utbildade medarbetare som granskar källor.

Varför AI överhuvudtaget hallucinerar

Språkmodeller skapar texter genom att välja den mest sannolika fortsättningen, ord för ord. De har ingen inbyggd kunskap om huruvida ett påstående stämmer. Saknas en uppgift fyller modellen luckan med något som passar språkligt – till exempel en påhittad deadline, siffra eller källa. Mer om begreppet i ordlistan: Hallucination.

Sex åtgärder mot hallucinationer

1. Svar från egna källor (RAG)

I stället för att svara utifrån den allmänna modellkunskapen svarar KI:n med stöd av de relevanta avsnitten i era dokument. Det är den mest effektiva hävstången – se Bygg ett RAG-system.

2. Källa till varje påstående

Varje svar hänvisar till dokument och avsnitt. Medarbetare kan med ett klick kontrollera om påståendet faktiskt står där. Svar utan källa är en varningssignal.

3. Tydliga regler för modellen

Modellen får instruktionen att endast svara utifrån de tillhandahållna textavsnitten och, om information saknas, ärligt säga ”Dazu habe ich keine Angabe gefunden”. Dessutom fastställs vad det inte ska uttala sig om – till exempel bindande juridiska utlåtanden.

4. Ren databas

Föråldrade eller motstridiga dokument ger motstridiga svar. Rensa upp före start och underhåll sedan regelbundet.

5. Testa med verkliga frågor

En katalog med 30 till 50 verkliga frågor med förväntade svar visar var systemet hamnar fel. Testa igen efter varje större ändring.

6. Människa granskar vid viktiga ärenden

Vid beslut med konsekvenser – avtal, ansökningar om stöd, personalfrågor – granskar alltid en människa. Det hör hemma i AI-riktlinjen; EU:s AI Act kräver dessutom tillräcklig AI-kompetens hos medarbetarna.

Hur du känner igen ett tillförlitligt system

• Svaren anger dokument och plats.
• Systemet säger öppet när det inte vet något.
• Det svarar endast utifrån dokument som den frågande personen får se.
• Det finns en utvärdering av öppna och felaktigt besvarade frågor.
• Kunskapsbasen har en ansvarig person.

Vad källhänvisningar inte kan göra

En källa visar var ett påstående kommer ifrån – inte om dokumentet i sig är korrekt. Och en modell kan sammanfatta en källa felaktigt. Därför är en snabb kontroll i källan fortfarande obligatorisk vid viktiga frågor.

Vår AI-dokumentsökning arbetar enligt just dessa principer: svar endast från era dokument, med hänvisning och med beaktande av befintliga åtkomsträttigheter.

bettersorted använder för sina kunder öppna, insynsbara byggstenar – driftas på servrar i Tyskland och samlat i automaisa Hub. Vi ger tillverkaroberoende rådgivning, är registrerad rådgivare hos BAFA och auktoriserad INQA-coach. Rådgivning och guidad införande kan finansieras via INQA-Coaching med 80 %; den lämpliga vägen visas av stödkontrollen. För ett förutsättningslöst första samtal: Kontakt.

Exempel: stödutlåtande med källkrav

Ett illustrativt scenario: En näringslivsutvecklingsorganisation använder en intern assistent som svarar på frågor om stödprogram. Utan källanknytning hittade testmodellen på en tidsfrist. Efter övergången till svar endast utifrån de lagrade riktlinjerna, med hänvisning till avsnitt och versionsdatum, svarar den vid saknad uppgift med ”Jag har ingen information om detta” – och medarbetarna kontrollerar kritiska uppgifter i den länkade riktlinjen.

Utbildning: Vad medarbetare behöver veta

• AI kan ha fel – även när den formulerar sig övertygande.
• Öppna källan innan en uppgift lämnas vidare.
• Rapportera fel så att kunskapsbas och regler kan förbättras.
• Ange inga konfidentiella uppgifter i verktyg som inte är godkända.

Kostnader och stöd

För en tillförlitlig KI-baserad kunskapssökning tillkommer inga licenskostnader för open source-verktyg. Kostnader uppstår för Införande (planering, installation, anslutning, tester), Drift (server eller hosting i Tyskland, uppdateringar, övervakning, dataskydd) och Stöd (utbildning, regler, kontaktpersoner). Vi anger inga fasta priser eftersom omfattning och utgångsläge varierar kraftigt.

Bidragsberättigad är rådgivningen och den ledsagade införandet: INQA-Coaching täcker 80 % av coachningskostnaderna i hela landet (upp till 11.520 €, checkar till 30.06.2028); en föregående analys subventioneras av BAFA-Beratungsförderung med 80 % i de nya förbundsländerna, Lüneburg och Trier, annars 50 % – för ansökningar till och med 31.12.2026.

Vanliga frågor

Vad är KI-hallucinationer?

Svar från en KI som låter övertygande men är felaktiga eller påhittade – till exempel felaktiga siffror, tidsfrister eller källor.

Hur kan man undvika hallucinationer?

Framför allt genom svar från egna, granskade dokument (RAG), källhänvisningar till varje påstående, tydliga regler för modellen, en ren databas samt tester och mänsklig granskning vid viktiga frågor.

Hallucinerar en AI med RAG aldrig?

Mer sällan, men inte aldrig. Den kan sammanfatta en källa fel eller använda svagt relevanta avsnitt. Därför är källhänvisningar och granskning vid viktiga frågor viktiga.

Vilka AI-modeller hallucinerar minst?

Nyare, större modeller hallucinerar i regel mer sällan, men ingen modell är fri från det. Utformningen av hela systemet – källor, regler, tester – är viktigare än modellvalet.

Uppdaterad: oktober 2026.