Kaynak göstererek KI yanıtları: Halüsinasyonları böyle önlersiniz

Bir halüsinasyon, kulağa makul gelen ancak yanlış olan bir yapay zekâ yanıtıdır. Bunu tamamen dışlamak mümkün değildir, ancak belirgin şekilde azaltmak: Yapay zekâ yalnızca temelinde yanıt verir denetlenen belgelerde bulunan metin parçaları, her ifade için kaynağı belirtir ve bir şey bulamadığında bunu açıkça söyler. Buna ek olarak iyi veri kalitesi, gerçek sorularla yapılan testler ve kaynakları kontrol eden eğitimli çalışanlar vardır.

Yapay zekâ neden hiç halüsinasyon görür

Dil modelleri, metinleri kelime kelime en olası devamı seçerek üretir. Bir ifadenin doğru olup olmadığına dair yerleşik bir bilgileri yoktur. Bir bilgi eksik olduğunda model, boşluğu dil açısından uygun bir şeyle doldurur — örneğin uydurulmuş bir son tarih, sayı veya kaynakla. Terim hakkında daha fazlası için sözlüğe bakın: Halüsinasyon.

Halüsinasyonlara karşı altı önlem

1. Kendi kaynaklarından yanıtlar (RAG)

Genel model bilgisinden yanıt vermek yerine, yapay zekâ belgelerinizdeki uygun bölümlere dayanarak yanıt verir. Bu, en etkili kaldıraçtır – bkz. RAG sistemi kurmak.

2. Her ifadeye kaynak

Her yanıt belgeye ve ilgili bölüme atıfta bulunur. Çalışanlar tek bir tıklamayla ifadenin gerçekten orada yer alıp almadığını kontrol edebilir. Kaynaksız yanıtlar bir uyarı işaretidir.

3. Model için net kurallar

Model, yalnızca sağlanan metin parçalarına dayanarak yanıt vermesi ve bilgi eksikliği durumunda dürüstçe „Dazu habe ich keine Angabe gefunden“ demesi için talimat alır.yalnızca sağlanan metin parçalarına dayanarak yanıt vermesi ve bilgi eksikliği durumunda dürüstçe „Dazu habe ich keine Angabe gefunden“ demesi için talimat alır. Ayrıca, hangi konularda görüş bildirmemesi gerektiği de belirlenir – örneğin bağlayıcı hukuki görüşler.

4. Temiz veri tabanı

Güncel olmayan veya çelişkili belgeler çelişkili yanıtlar üretir. Başlamadan önce temizleyin, ardından düzenli olarak bakımını yapın.

5. Gerçek sorularla test etme

30 ila 50 gerçek sorudan oluşan ve beklenen yanıtları içeren bir katalog, sistemin nerede hata yaptığını gösterir. Her büyük değişiklikten sonra yeniden test edin.

6. Önemli konularda insan kontrolü

Sözleşmeler, teşvik başvuruları, personel konuları gibi sonuç doğuran kararlarda her zaman bir insan kontrol eder. Bu, KI-Richtlinie'ye dahil edilmelidir; ayrıca EU AI Act, çalışanların yeterli yapay zekâ yetkinliğini de şart koşar.

Güvenilir bir sistemi nasıl tanırsınız

• Yanıtlar belgeyi ve ilgili yeri belirtir.
• Sistem, bir şey bilmediğinde bunu açıkça söyler.
• Yalnızca soruyu soran kişinin görme yetkisi olan belgelerden yanıt verir.
• Açık ve yanlış yanıtlanmış soruların bir değerlendirmesi vardır.
• Bilgi tabanının sorumlu bir kişisi vardır.

Kaynak gösteriminin sağlayamadıkları

Bir kaynak, bir ifadenin nereden geldiğini gösterir; belgenin kendisinin doğru olup olmadığını değil. Ve bir model bir kaynağı yanlış özetleyebilir. Bu nedenle, önemli sorularda kaynağa kısa bir bakış atmak zorunlu olmaya devam eder.

Bizim KI-Dokumentensuche tam olarak bu ilkeler doğrultusunda çalışır: Yalnızca belgelerinizden gelen yanıtlar, kaynak gösterimiyle ve mevcut erişim yetkilerine uygun şekilde.

bettersorted, müşterileri için açık, incelenebilir bileşenler – Almanya’daki sunucularda çalıştırılır ve automaisa Hub içinde bir araya getirilir. Üreticiden bağımsız danışmanlık veriyoruz, BAFA’ya kayıtlı danışmanız ve yetkili INQA-Coach’uz. Danışmanlık ve eşlik edilen uygulama INQA-Coaching %80’e kadar desteklemek; uygun yolu Destek Kontrolü gösterir. Bağlayıcı olmayan bir ilk görüşme için: İletişim.

Örnek: Kaynak belirtme yükümlülüğü ile destek bilgisi

İllüstratif bir senaryo: Bir ekonomik kalkınma kurumu, teşvik programlarıyla ilgili soruları yanıtlayan dahili bir asistan kullanıyor. Kaynaklara bağlılık olmadan test modeli bir son tarih uydurdu. Yalnızca kayıtlı yönergelerden, bölüm ve güncel tarih referansıyla yanıt verecek şekilde geçiş yapıldıktan sonra, bilgi eksik olduğunda „Buna ilişkin elimde bir bilgi yok“ diye yanıt veriyor – ve çalışanlar kritik bilgileri bağlantılı yönergede kontrol ediyor.

Eğitim: Çalışanların bilmesi gerekenler

• Yapay zeka yanılabilir – ikna edici biçimde ifade etse bile.
• Bir bilgi dışarı aktarılmadan önce kaynağı açın.
• Hataları bildirin; böylece bilgi tabanı ve kurallar iyileştirilsin.
• Gizli verileri onaylanmamış araçlara girmeyin.

Maliyetler ve teşvikler

Güvenilir bir yapay zekâ bilgi araması için açık kaynak araçlarda lisans maliyeti oluşmaz. Maliyetler Kurulum (planlama, kurulum, entegrasyon, testler), İşletim (Almanya'da sunucu veya barındırma, güncellemeler, izleme, veri yedekleme) ve Eşlik (eğitim, kurallar, iletişim kişileri). Sabit fiyatlar belirtmiyoruz, çünkü kapsam ve başlangıç durumu büyük ölçüde değişir.

Desteklenebilir olan danışmanlık ve eşlikli uygulamadır: INQA-Coachingkoçluk maliyetlerinin %80’ini ülke genelinde karşılar (11.520 €’ya kadar, çekler 30.06.2028’e kadar); önceden yapılan bir analiz BAFA danışmanlık desteği ile yeni eyaletlerde, Lüneburg ve Trier’de %80, diğer yerlerde ise %50 oranında desteklenir – 31.12.2026’ya kadar yapılan başvurular için.

Sıkça sorulan sorular

Yapay zeka halüsinasyonları nedir?

Bir yapay zekanın ikna edici görünen ancak yanlış ya da uydurma olan yanıtlarıdır – örneğin yanlış sayılar, son tarihler veya kaynaklar.

Halüsinasyonlar nasıl önlenebilir?

Özellikle kendi doğrulanmış belgelerinden gelen yanıtlarla (RAG), her ifade için kaynak gösterimiyle, model için net kurallarla, temiz bir veri tabanıyla, testlerle ve önemli sorularda insan kontrolüyle.

RAG kullanan bir yapay zekâ hiç halüsinasyon üretmez mi?

Daha seyrek, ama hiç değil. Bir kaynağı yanlış özetleyebilir veya zayıf uyumlu bölümleri kullanabilir. Bu nedenle kaynak gösterimi ve önemli sorularda kontrol önemlidir.

Hangi yapay zekâ modelleri en az halüsinasyon üretir?

Daha yeni ve daha büyük modeller genellikle daha seyrek halüsinasyon üretir, ancak hiçbir model bundan tamamen muaf değildir. Genel sistemin yapısı – kaynaklar, kurallar, testler – model seçiminden daha önemlidir.

Durum: Ekim 2026.