RAG med IONOS AI Model Hub: Dokumentsökning helt från Tyskland

IONOS AI Model Hub kan användas för att upprätta en AI-dokumentsökning baserad på RAG-principen, vars språk och inbäddningsmodeller körs i tyska datacenter. Du driver vektordatabasen, såsom Qdrant, och applikationen på dina egna servrar i Tyskland. Detta innebär att varken dokument eller frågor lämnar det tyska rättsområdet.

Många företag vill göra sin kunskap sökbar via AI, men undviker amerikanska tjänster. Den här artikeln visar en arkitektur som helt och hållet ligger i Tyskland. RAG förklarar grunderna i RAG på enkla termer.

Byggstenarna

Så här fungerar en förfrågan

1. En anställd ställer en fråga i chattgränssnittet.
2. Frågan omvandlas till en vektor via AI Model Hub.
3. Qdrant söker efter lämpliga sektioner – filtrerade efter arbetstagarens rättigheter.
4. Valfritt omvärderar en omrankare träffarna.
5. De bästa avsnitten följer med frågan till språkmodellen i AI Model Hub.
6. Svaret kommer tillbaka med källan.

Vilka modeller är lämpliga

• Embeddings: För tyska texter krävs en flerspråkig modell, såsom bge-m3 (€0,02 per miljon tokens) eller paraphrase-multilingual-mpnet-base-v2 (€0,01).
• Reranker: Qwen3-VL-Reranker-8B (€0,04 per miljon tokens) förbättrar träffordningen.
• Språkmodell: Mistral Small 24B som en lågkostnads allround, gpt-oss-120b eller Llama 3.3 70B för mer krävande svar.

Nettopriser enligt IONOS prislista, per oktober 2026. Mer om detta i artikeln IONOS AI Model Hub Prices.

Varför vektordatabasen i sig drivs

Enligt prislistan listar IONOS de tidigare "Dokumentsamlingarna" som ett gammalt erbjudande som inte längre är tillgängligt för nya distributioner. För nya projekt driver vi därför vektordatabasen själva – med Qdrant på en server i Tyskland. Detta har fördelar: full kontroll över filter och auktorisationer, hybridsökning och ingen risk att byta om erbjudandet ändras igen.

Dataskydd

IONOS uppger att de driver AI Model Hub i Tyskland i enlighet med GDPR och inte använder kunddata för utbildning. För att använda det behöver du ett databehandlingsavtal med IONOS; dina egna åtgärder gäller för de delar du själv använder. Artikeln AI dokumentsökning och GDPR beskriver vad som är viktigt.

Ansträngning realistiskt uppskattad

Modellkostnaderna är låga; arbetet ligger i att koppla dokumentkällorna, den rimliga decompositionen, auktorisationer och tester. Detta är precis vad vår AI-dokumentsökning är: byggd med IONOS AI Model Hub, Qdrant och n8n, som drivs i Tyskland.

Rådgivning och medföljande genomförande är berättigad till finansiering: Genom INQA-coaching täcker den federala regeringen 80 % av konsultkostnaderna på upp till 1 200 euro per dag i upp till 12 dagar, det vill säga upp till 11 520 euro i subvention. I Mecklenburg-Vorpommern och de andra nya delstaterna är BAFA-konsultfinansiering också berättigad till 80 % fram till 31.12.2026 (50 % i de gamla delstaterna). Finansiering ges till konsultation, inte mjukvara. Finansieringskontrollen visar vilket program som passar.

Vanliga frågor

Kan jag driva ett RAG-system helt och hållet i Tyskland?

Ja. Röst- och inbäddningsmodeller körs i IONOS AI Model Hub i tyska datacenter, vektordatabas och applikationer på servrar i Tyskland.

Erbjuder IONOS sin egen vektordatabas?

Enligt prislistan är de tidigare dokumentsamlingarna inte längre tillgängliga för nya distributioner. För nya projekt rekommenderas en självstyrd vektordatabas som Qdrant.

Vilken inbäddningsmodell är lämplig för tyska texter?

En flerspråkig modell som bge-m3 eller parafraserat-flerspråkig-mpnet-base-v2. Rent engelska modeller ger sämre träffar för tyska dokument.

Hur mycket kostar ett RAG-system med IONOS att driva?

Modellkostnaderna ligger ofta i cent- till låga eurointervallet per månad för typisk användning. Dessutom finns servrar för vektordatabas och applikation samt underhåll.

Vill du göra din företagskunskap sökbar med AI från Tyskland? Kontakta oss via kontaktsidan.