RAG nedir? Bilgi getirme destekli üretim ile şirket verisini yapay zekâya bağlamak
RAG'ın işleyişi, belgelerin parçalanması ve vektör arama, ne zaman kullanılmalı, kalite için ipuçları, erişim yetkileri ve sık yapılan hatalar.
Yazan: Editör Ekibi
RAG (Retrieval-Augmented Generation, bilgi getirme destekli üretim), bir dil modelinin cevap vermeden önce ilgili bilgileri şirket belgelerinden veya veri tabanlarından bulup kullanmasını sağlayan yöntemdir. Modelin eğitim verisinde olmayan, güncel veya şirkete özel bilgilerle doğru cevap üretmesinin en yaygın yoludur.
Nasıl çalışır?
- Hazırlık: Belgeler anlamlı parçalara bölünür ve her parça, anlamını temsil eden bir sayısal vektöre dönüştürülür.
- Arama: Kullanıcı soru sorduğunda, sorunun vektörüne en yakın parçalar bulunur (genellikle anahtar kelime aramasıyla birlikte).
- Üretim: Bulunan parçalar soruyla birlikte modele verilir; model cevabı bu bağlama dayanarak üretir ve kaynak gösterir.
Ne zaman kullanılır?
- Şirket içi dokümanlar, politikalar ve bilgi bankaları üzerinde soru-cevap
- Müşteri destek asistanları; bkz. YZ ile müşteri hizmetleri
- Hukuk, sağlık, finans gibi alanlarda belge analizi
- Sık değişen ürün ve fiyat bilgisi
Bilgi değişkense ve kaynak gösterilmesi gerekiyorsa RAG, ince ayara göre genellikle daha uygun ve ucuzdur.
Kalite için ipuçları
- Parçalama: Çok küçük parçalar bağlamı kaybeder, çok büyükler gürültü ekler; başlık ve bölüm yapısını koruyun.
- Hibrit arama: Anlamsal arama ile anahtar kelime aramasını birleştirin; ürün kodları ve özel isimler için önemlidir.
- Yeniden sıralama: Bulunan sonuçları ikinci bir adımla en alakalı olana göre sıralayın.
- Kaynak gösterme: Cevaplarda hangi belgeye dayanıldığını gösterin.
- "Bilmiyorum" diyebilme: Bağlamda bilgi yoksa modelin bunu belirtmesini isteyin; bkz. halüsinasyon rehberi.
Erişim yetkileri ve gizlilik
Kullanıcı yalnızca görme yetkisi olan belgelerden cevap almalıdır. Yetkileri arama aşamasında uygulayın. Kişisel veri içeren belgelerde KVKK gerekliliklerini değerlendirin; bkz. YZ ve KVKK rehberi.
Ölçüm
Doğru belgeyi bulma oranı ve cevap doğruluğunu ayrı ayrı ölçün; sorun çoğu zaman üretimde değil, aramadadır; bkz. model değerlendirme rehberi.
Sonuç
RAG, şirket bilgisini yapay zekâya güvenli ve güncel şekilde bağlamanın en pratik yoludur. İyi bir arama altyapısı, iyi bir RAG sisteminin yarısıdır.
Bu rehber genel bilgilendirme amaçlıdır; hukuki, mali veya yatırım tavsiyesi değildir. Güncel şartlar için resmî kaynaklara ve uzmanlara danışın.
