RAG basitçe açıklanıyor: Yapay zekâ kendi belgeleriyle

RAG (Retrieval Augmented Generation, Türkçe yaklaşık olarak „geri çağırma ile genişletilmiş metin üretimi“) bir yöntemdir; burada bir yapay zekâ, yanıt vermeden önce kendi belgeleriniz içinde uygun metin bölümlerini arar ve yanıtını tam olarak bu bölümlere dayandırır. Böylece kılavuzlar, sözleşmeler, yönergeler veya proje dokümanlarıyla ilgili soruları yanıtlayabilir ve kaynağı belirtebilir; üstelik dil modeli verilerinizle eğitilmek zorunda kalmaz.

Neden yalnızca bir dil modeli yeterli değildir

Bir Sprachmodell gibi ChatGPT yalnızca eğitim verilerinde yer alanları bilir. Sizin iç belgelerinizi bilmez. Buna rağmen ona seyahat masrafları yönergenizi sorarsanız, en kötü durumda kulağa makul gelen bir yanıt uydurur, buna sözde bir Halüsinasyon. RAG, modele her soru için ilgili metin bölümlerini sağlayarak bu sorunu çözer.

RAG üç adımda böyle çalışır

Hazırlama (bir kez ve sürekli) : Belgeleriniz bölümlere ayrılır ve yalnızca tam kelimelere göre değil, anlamına göre aranabilecek şekilde indekslenir. Bu sırada kimin hangi belgeyi görebileceği de kaydedilir.
Arama (her soruda): Birisi bir soru sorduğunda, sistem yalnızca bu kişinin erişebildiği belgelerden, içerik açısından en uygun bölümleri bulur.
Yanıtlar: Dil modeli soruyla birlikte bulunan bölümleri alır ve bunlardan, kaynak belgelere atıf yaparak bir yanıt oluşturur.

Belirleyici nokta şudur: Model, genel bilgisinden değil, sizin belgelerinizden yanıt verir. Uygun bir şey bulamazsa, tahmin etmek yerine bunu söylemelidir.

RAG, Fine-Tuning mi yoksa basit arama mı?

Yaklaşım	Ne olur	İçin uygun	Sınırlar
Anahtar kelime araması	belirli terimlerle tam eşleşen belgeleri bulur	bilinen dosya adları ve terimler	cevap yok, yalnızca sonuç listeleri
RAG	uygun bölümleri arar ve kaynakla birlikte bir yanıt oluşturur	kurum içi bilgiye ilişkin sorular, güncel belgeler	kalite belgelere ve aramaya bağlıdır
Fine-Tuning	Model kendi verilerinizle yeniden eğitilir	Üslup, uzman dili, sabit formatlar	zahmetli, bilgi eskir, kaynak belirtilmez

Kurumsal bilgiyle ilgili sorular için RAG neredeyse her zaman daha iyi bir tercihtir: Yeni belgeler hemen bulunabilir ve her yanıt kaynağı üzerinden doğrulanabilir.

KOBİ’ler RAG’yi ne için kullanır

Dahili bilgi arama: Çalışanlar, iş arkadaşlarını bölmek yerine süreçler, yönergeler veya önceki projeler hakkında soru sorar. Bkz. İç belgeleri saniyeler içinde bulun.
Müşteri hizmetleri: Bir Yapay zeka sohbet botuMüşteri sorularını ürün bilgileriniz ve SSS’nize dayanarak yanıtlar.
Çok sayıda belgeye sahip uzmanlık alanları: hukuk büroları, bakım, idare veya teknik; bkz. Vergi danışmanlığı büroları için yapay zekâ belge araması.
Oryantasyon: Yeni çalışanlar, yanıtları orijinal belgeye atıfla kendileri bulur.

RAG’de önemli olan nedir

Belge kalitesi: Güncel olmayan veya birbiriyle çelişen belgeler yanlış yanıtlara yol açar. Önceden düzenleme yapmak faydalıdır.
Erişim yetkileri: Arama, sistemlerinizdeki yetkileri devralmalıdır; böylece kimse yapay zeka üzerinden normalde açamayacağı belgeleri görmez.
Kaynak bilgisi: Her yanıt, kullanılan belgeleri içermelidir; böylece kontrol edilebilir.
Veri koruma ve barındırma: Arama ve dil modeli nerede çalışıyor? Hassas veriler için, Almanya’da veya kurum içinde işletilebilen modeller değerlendirilebilir, bkz. KI-Modelle DSGVO-konform hosten.
Eksikliklerde dürüstlük: İyi bir sistem, bir cevap uydurmak yerine “buna dair bir şey bulamadım” der.

Danışmanlık ve eşlik edilen uygulama desteklenebilir: INQA-CoachingFederasyon, günlük 1.200 €’ya kadar olan danışmanlık maliyetlerinin %80’ini, en fazla 12 gün için, yani en fazla 11.520 € hibe olarak karşılar. Mecklenburg-Vorpommern ve diğer yeni eyaletlerde 31.12.2026 tarihine kadar BAFA-Beratungsförderung da %80 oranında mümkündür (eski eyaletlerde %50). Desteklenen danışmanlıktır, yazılım değil. Hangi programın uygun olduğunu Förder-Check gösterir.

Sıkça sorulan sorular

RAG ne anlama gelir?

RAG, Retrieval Augmented Generation anlamına gelir. Bir yapay zekâ, yanıt vermeden önce belirlenmiş bir doküman koleksiyonunda uygun metin bölümlerini arar ve yanıtını bu temelde, çoğunlukla kaynak göstererek oluşturur.

RAG’de yapay zekâ modeli benim verilerimle eğitilir mi?

Hayır. RAG’de belgeleriniz yalnızca aranır ve ilgili soruya uygun bölümler birlikte kullanılır. Modelin kendisi değiştirilmez. Bir sağlayıcının girdileri kendi eğitimi için kullanıp kullanmadığı sözleşmede netleştirilmelidir.

RAG yanlış cevaplar verebilir mi?

Evet, belgeler hatalı veya güncel değilse ya da arama uygun olmayan bölümler bulursa. Bu nedenle kaynak bilgileri önemlidir; böylece cevaplar kontrol edilebilir. RAG olmayan bir dil modeline kıyasla uydurma cevap riski belirgin şekilde azalır.

RAG ile Fine-Tuning arasındaki fark nedir?

Fine-Tuning’de bir model kendi verilerinizle yeniden eğitilir, RAG’de ise her soru için belgeler aranır. RAG daha günceldir, kaynakları belirtir ve kurumsal bilgi için genellikle daha uygundur; Fine-Tuning ise daha çok stil ve uzmanlık dili için uygundur.

Sonraki adım

Bizim Yapay zekâ doküman arama çözümümüz RAG kullanır, erişim izinlerinizi devralır ve Almanya’daki sunucularda çalışır. Kurulumun nasıl ilerlediğini yazı açıklar Yapay zekâ doküman araması kurun. Terim açıklaması sözlükte RAG.