Bygga ett RAG-system i företaget: process, kostnader, typiska fel

En RAG-system (Retrieval Augmented Generation) besvarar frågor utifrån era egna dokument: Det delar upp underlag i korta avsnitt, gör dem tillgängliga via Embeddings innehållsmässigt sökbar och låter en språkmodell endast utifrån de hittade avsnitten svara – med källhänvisning. Uppbyggnaden följer sex steg. De vanligaste felen är dålig datakvalitet, saknade åtkomsträttigheter och ingen test med verkliga frågor.

Hur ett RAG-system fungerar

Grundidén: I stället för att ”lära” en språkmodell er företagskunskap ger man den vid varje fråga de relevanta textavsnitten. Modellen formulerar svaret, fakta kommer från era underlag. Mer om begreppet i ordlistan under RAG; varför detta oftast är bättre än att finjustera, förklaras i RAG eller Fine-Tuning?.

Uppbyggnaden i sex steg

1. Klargör mål och frågor

Vem ska fråga vad? Medarbetare inom service, i administrationen, nya kollegor? Samla 30 till 50 verkliga frågor från vardagen. Ni avgör vilka dokument som behövs och de används senare som test.

2. Välj och rensa datakällor

Handböcker, riktlinjer, avtal, produktinformation, FAQ. Sortera bort föråldrade versioner och dubbletter – motstridiga dokument leder till motstridiga svar.

3. Förbered dokumenten

Texter läses från PDF-filer, Word-filer eller skanningar (vid skanningar via textigenkänning) och delas upp i avsnitt. Avsnittens storlek påverkar kvaliteten kraftigt: för små avsnitt saknas kontext, för stora blir sökningen inexakt.

4. Gör sökbar

Varje avsnitt omvandlas till en embedding och lagras i en vektordatabas – tillsammans med källa och åtkomsträttigheter.

5. Generera svar

Vid en fråga söks de relevanta avsnitten fram och ges till språkmodellen med tydliga regler: svara endast utifrån detta, ange källor, erkänn när något är okänt. Mer om detta: AI-svar med källangivelse.

6. Testa, införa, underhålla

Låt de insamlade frågorna besvaras, utvärdera svaren och justera vid behov. Läs därefter in nya dokument regelbundet och analysera öppna frågor.

Vad ett RAG-system kostar

Det finns inga fasta priser; de viktigaste kostnadsdrivarna är:

• Datamängd och -kvalitet: Rensning och bearbetning är ofta den största arbetsinsatsen.
• Antal källor: Varje anslutning (enhet, Nextcloud, DMS, wiki) kräver konfiguration.
• Behörighetskoncept:Vem får se vad? Ju finare, desto mer arbetskrävande.
• Modell och drift:egen GPU-server, modelltjänst i Tyskland eller moln – se Värd för AI-modeller i enlighet med GDPR.
• Underhåll:pågående inläsning av nya dokument och analys.

De vanligaste felen

• ”Allt in”: Ofiltrerade enheter med gamla versioner försämrar svaren.
• Inga rättigheter: Om systemet visar personalakter eller ledningsdokument för alla är det ett dataskyddsproblem.
• Inget test: Utan riktiga frågor vet ingen om systemet hjälper.
• Ingen källhänvisning: Utan källor kan medarbetare inte kontrollera svaren.
• Bara teknik, ingen process: Vem underhåller dokumenten? Vem analyserar öppna frågor?
• Skannade PDF-filer utan textigenkänning: Innehållet förblir osynligt.

Färdig lösning eller egen utveckling?

Många verktyg har redan RAG inbyggt – till exempel Nextcloud Context Chat, Open WebUI eller Paperless-ngx. För företag med många källor och behörighetskrav lönar sig en genomtänkt lösning som vår AI-dokumentsökning. Hur uppsättningen går till i detalj beskrivs i Konfigurera AI-dokumentsökning.

bettersorted förlitar sig för sina kunder på öppna, insynsbara byggstenar – driftade på servrar i Tyskland och samlade i automaisa Hub. Vi ger leverantörsneutral rådgivning, är registrerad rådgivare hos BAFA och auktoriserad INQA-coach. Rådgivning och stödd införande kan finansieras till 80 % via INQA-Coaching; den lämpliga vägen visas av Förder-Check. För ett förutsättningslöst första samtal: Kontakt.

Exempel: RAG i kundtjänsten hos en återförsäljare

Ett illustrativt scenario: En teknisk grossist har hundratals datablad, monteringsanvisningar och garantivillkor. Innesäljteamet söker dagligen efter svar på kundfrågor. Ett RAG-system läser in dokumenten, tar hänsyn till vilka underlag som endast är interna och besvarar frågor med hänvisning till datablad och sida. Efter fyra veckors test med 50 verkliga frågor släpps det till innesäljteamet; öppna frågor utvärderas varje vecka.

Mäta framgång

• Andel korrekt besvarade testfrågor
• Andel svar med korrekt källa
• Tidsbesparing vid typiska sökuppgifter
• Vanligaste frågorna utan svar – indikationer på saknade dokument

Kostnader och stöd

Kostnaderna för ett RAG-system består av tre delar: Uppstart (planering, installation, anslutning, tester), löpande drift (server eller hosting, uppdateringar, övervakning, säkerhetskopiering) och stöd till medarbetarna (utbildning, regler, kontaktpersoner). Vi anger inga fasta priser eftersom omfattning och utgångsläge varierar kraftigt. Själva programvaran medför inga licenskostnader för open source-lösningar.

Det är inte tekniken som finansieras, utan Rådgivning och stödd införande: Genom INQA-Coaching täcker staten 80 % av coachningskostnaderna i hela landet (upp till 11 520 €, checkar till 30.06.2028). En förberedande analys kan subventioneras via BAFA-Beratungsförderung – med 80 % i de nya förbundsländerna, Lüneburg och Trier, annars 50 %, för ansökningar till 31.12.2026. För investeringar erbjuder vissa delstater egna program – se Finansieringsmöjligheter för företag i Tyskland.

Vanliga frågor

Vad är ett RAG-system?

Ett system som besvarar frågor utifrån egna dokument: det söker efter relevanta textavsnitt och låter en språkmodell formulera ett svar endast utifrån dessa, helst med källhänvisning.

Hur lång tid tar det att bygga upp ett RAG-system?

Ett pilotprojekt med få, välskötta källor är ofta möjligt inom några veckor. Den största tidsfaktorn är oftast att rensa upp och bearbeta dokumenten.

Kan ett RAG-system ta hänsyn till åtkomsträttigheter?

Ja, om rättigheterna sparas vid inläsningen och kontrolleras vid varje sökning. Det bör planeras in från början.

Behöver ett RAG-system en egen AI?

Nej. Språkmodellen kan köras lokalt, hos en tysk modelltjänst eller i molnet. För känsliga dokument rekommenderas lokal bearbetning eller bearbetning hos en tjänst som är hostad i Tyskland.

Status: oktober 2026.