RAG sistemi kurmak: süreç, maliyetler, tipik hatalar

Kısaca en önemli bilgiler

RAG, soruları yanıtlar kendi belgelerinizden – kaynak belirtimiyle.
Altı adım: Sorular, kaynaklar, hazırlama, indeksleme, yanıtlar, test ve bakım.
En büyük maliyet unsuru: Veri hazırlama ve yetki konsepti.
En sık yapılan hata: filtrelenmemiş sürücüler ve yetki yapısı olmayan ortamlar.

Bir RAG sistemi (Retrieval Augmented Generation) soruları kendi belgeleriniz temelinde yanıtlar: Belgeleri kısa bölümlere ayırır, bunları Embedding'ler içerik açısından aranabilir hale getirir ve bir dil modelinin yalnızca bulunan bölümlerden kaynak göstererek yanıt vermesini sağlar. Yapı altı adımdan oluşur. En yaygın hatalar kötü veri kalitesi, eksik erişim izinleri ve gerçek sorularla test yapılmamasıdır.

Bir RAG sistemi nasıl çalışır

Temel fikir: Bir dil modeline şirket bilginizi “öğretmek” yerine, her soruda ona uygun metin bölümleri verilir. Model yanıtı oluşturur, gerçekler ise sizin belgelerinizden gelir. Terim hakkında daha fazla bilgi için sözlükte RAG; bunun neden çoğu zaman yeniden eğitmekten daha iyi olduğunu RAG mı Fine-Tuning mi? bölümünde açıklıyoruz.

Altı adımda kurulum

1. Hedefi ve soruları netleştirin

Kim neyi soracak? Servisteki çalışanlar, idaredekiler, yeni çalışma arkadaşları mı? Günlük işlerden 30 ila 50 gerçek soru toplayın. Hangi belgelerin gerektiğini siz belirlersiniz ve bunlar daha sonra test olarak kullanılır.

2. Veri kaynaklarını seçin ve düzenleyin

Kılavuzlar, yönergeler, sözleşmeler, ürün bilgileri, SSS. Eski sürümleri ve kopyaları ayıklayın – çelişkili belgeler çelişkili yanıtlara yol açar.

3. Belgeleri hazırlayın

Metinler PDF’lerden, Word dosyalarından veya taramalardan okunur (taramalarda metin tanıma ile) ve bölümlere ayrılır. Bölümlerin boyutu kaliteyi büyük ölçüde etkiler: çok küçük olursa bağlam eksik kalır, çok büyük olursa arama isabetsizleşir.

4. Aranabilir hale getirme

Her bölüm bir embedding’e dönüştürülür ve bir vektör veritabanında kaynak ve erişim haklarıyla birlikte saklanır.

5. Yanıtlar oluşturma

Bir soru geldiğinde, uygun bölümler aranır ve açık kurallarla dil modeline verilir: yalnızca bu temele dayanarak yanıt ver, kaynakları belirt, bilmediğini kabul et. Daha fazlası: Kaynak gösterimli yapay zeka yanıtları.

6. Test etme, devreye alma, bakım

Toplanan soruların yanıtlanmasını sağlamak, yanıtları değerlendirmek, gerekli düzeltmeleri yapmak. Ardından düzenli olarak yeni belgeleri içe aktarmak ve açık soruları analiz etmek.

Bir RAG sisteminin maliyeti

Sabit fiyatlar yoktur; en önemli maliyet etkenleri şunlardır:

Veri miktarı ve kalitesi: Temizleme ve hazırlama çoğu zaman en büyük çabadır.
Kaynak sayısı: Her bağlantı (sürücü, Nextcloud, DMS, wiki) kurulum gerektirir.
Yetki konsepti:Kim neyi görebilir? Ne kadar ayrıntılı olursa, o kadar zahmetli olur.
Model ve işletim: kendi GPU sunucusu, Almanya’da model hizmeti veya bulut – bkz. Yapay zeka modellerini DSGVO’ya uygun şekilde barındırmak.
Bakım: yeni belgelerin sürekli içe aktarılması ve değerlendirilmesi.

En sık yapılan hatalar

„Her şeyi içeri al“: Filtrelenmemiş sürücülerdeki eski sürümler, yanıtların kalitesini düşürür.
Yetki yok: Sistem personel dosyalarını veya yönetim belgelerini herkese gösteriyorsa, bu bir veri koruma sorunudur.
Test yok: Gerçek sorular olmadan, sistemin yardımcı olup olmadığı bilinmez.
Kaynak belirtilmemiş: Kaynaklar olmadan çalışanlar yanıtları kontrol edemez.
Sadece teknoloji, süreç yok: Belgeleri kim güncelliyor? Açık soruları kim değerlendiriyor?
Metin tanıma olmadan taranmış PDF’ler: İçerikler görünmez kalır.

Hazır çözüm mü, yoksa kendin mi kurarsın?

Birçok araç RAG’i zaten beraberinde getirir – örneğin Nextcloud Context Chat, Open WebUI veya Paperless-ngx. Çok sayıda kaynak ve yetki gereksinimi olan şirketler için, bizim KI-Dokumentensuche gibi iyi planlanmış bir çözüm değerlidir. Kurulumun ayrıntılı olarak nasıl ilerlediğini KI-Dokumentensuche einrichten açıklar.

Teknolojiye ilgi duyanlar için

Tipik yapı taşları: OCR’li belge ayrıştırıcı, embedding modeli, vektör veritabanı (örn. Qdrant), dil modeli, orkestrasyon.
Hibrit arama (embedding’ler artı klasik anahtar kelime araması) çoğu zaman yalnızca embedding’lerden daha iyi sonuçlar verir.
Bir Reranker bulunan bölümleri dil modeline gitmeden önce bir kez daha önem sırasına göre sıralar.

bettersorted, müşterileri için açık, şeffaf bileşenler kullanır – Almanya’daki sunucularda çalıştırılır ve automaisa Hub içinde bir araya getirilir. Üreticiden bağımsız danışmanlık veriyoruz, BAFA’ya kayıtlı danışmanız ve yetkili INQA-Coach’uz. Danışmanlık ve eşlikli uygulamaya alma INQA-Coaching kapsamında %80 oranında desteklenebilir; uygun yolu Destek Kontrolü gösterir. Bağlayıcı olmayan bir ilk görüşme için: İletişim.

Örnek: Bir satıcının müşteri hizmetlerinde RAG

Açıklayıcı bir senaryo: Teknik ürünler satan bir toptancının yüzlerce veri sayfası, montaj talimatı ve garanti koşulu vardır. İç satış ekibi her gün müşteri sorularına yanıt arar. Bir RAG sistemi belgeleri okur, hangi dokümanların yalnızca dahili olduğunu dikkate alır ve soruları veri sayfası ile sayfa numarasına atıf yaparak yanıtlar. 50 gerçek soruyla dört haftalık testin ardından sistem iç satış ekibinin kullanımına açılır; açık sorular haftalık olarak değerlendirilir.

Başarıyı ölçmek

Test sorularının doğru yanıtlanma oranı
Doğru kaynakla yanıtların oranı
Tipik arama görevlerinde zaman tasarrufu
Yanıtsız kalan en sık sorular – eksik belgelere işaret eder

Maliyetler ve destek

Bir RAG sisteminin maliyeti üç bölümden oluşur: Kurulum (Planlama, kurulum, entegrasyon, testler), sürekli işletim (sunucu veya barındırma, güncellemeler, izleme, veri yedekleme) ve çalışanların desteklenmesi (eğitim, kurallar, muhatap kişiler). Sabit fiyatlar belirtmiyoruz, çünkü kapsam ve başlangıç durumu büyük ölçüde değişir. Açık kaynak çözümlerde yazılımın kendisi lisans maliyeti oluşturmaz.

Desteklenen teknoloji değil, Danışmanlık ve eşlik eden uygulama: INQA-Coaching kapsamında federal hükümet, koçluk maliyetlerinin %80’ini ülke genelinde karşılar (11.520 €’ya kadar, çekler 30.06.2028’e kadar). Önceden yapılacak bir analiz, BAFA-Beratungsförderung üzerinden desteklenebilir – yeni federal eyaletlerde, Lüneburg ve Trier’de %80, diğer yerlerde %50 oranında; 31.12.2026 tarihine kadar yapılan başvurular için. Yatırımlar için bazı eyaletler kendi programlarını sunar – bkz. Almanya'daki şirketler için destek imkanları.

Sıkça sorulan sorular

RAG sistemi nedir?

Kendi belgelerine dayanarak soruları yanıtlayan bir sistemdir: Uygun metin bölümlerini arar ve bir dil modelinin yanıtı yalnızca bunlardan oluşturmasına izin verir; ideal olarak kaynak gösterimiyle.

Bir RAG sisteminin kurulumu ne kadar sürer?

Az sayıda, iyi bakımlı kaynakla bir pilot çalışma çoğu zaman birkaç hafta içinde mümkündür. En büyük zaman faktörü genellikle belgelerin düzenlenmesi ve işlenmeye hazırlanmasıdır.

Bir RAG sistemi erişim yetkilerini dikkate alabilir mi?

Evet, yetkiler içe aktarım sırasında birlikte kaydedilir ve her aramada kontrol edilirse. Bu, en baştan planlanmalıdır.

Bir RAG sistemi kendi yapay zekâsına ihtiyaç duyar mı?

Hayır. Dil modeli yerel olarak, bir Alman model hizmetinde veya bulutta çalışabilir. Hassas belgeler için yerel veya Almanya’da barındırılan işleme önerilir.

Durum: Ekim 2026.

Şirkette RAG sistemi kurmak: süreç, maliyetler, tipik hatalar