Yapay zekâ halüsinasyonları nasıl azaltılır?

Halüsinasyon, bir yapay zekâ modelinin akıcı ve ikna edici ama yanlış veya uydurma bilgi üretmesidir. Var olmayan bir kaynağa atıf, yanlış bir rakam veya gerçekte olmayan bir ürün özelliği gibi. Tamamen ortadan kaldırmak zor olsa da doğru tasarımla önemli ölçüde azaltılabilir.

Neden olur?

Dil modelleri, olası metni tahmin ederek cevap üretir; "bilmiyorum" demek yerine akla yatkın bir cevap üretmeye yatkındır. Bilgi eğitim verisinde yoksa, eskiyse veya soru belirsizse halüsinasyon olasılığı artar; bkz. büyük dil modelleri nasıl çalışır.

Ürün açısından riskler

• Müşteriye yanlış fiyat, iade veya sözleşme bilgisi verilmesi
• Hukuk, sağlık, finans gibi alanlarda zarar doğurabilecek hatalar
• Marka güveninin zedelenmesi

Azaltma yöntemleri

Bilgiye dayandırma

Modelin cevabını güvenilir belgelere dayandırın ve kaynak göstermesini isteyin; bkz. RAG rehberi.

İstem teknikleri

• "Yalnızca verilen bağlamı kullan; bilgi yoksa bilmediğini söyle" talimatı
• Cevaptan önce ilgili alıntıları bulmasını istemek
• Belirsiz sorularda açıklama istemesine izin vermek

Bkz. prompt mühendisliği rehberi.

Yapılandırılmış çıktılar ve araçlar

Hesaplamaları, tarih ve fiyat sorgularını modele tahmin ettirmek yerine hesap makinesi, veri tabanı veya API gibi araçlarla yaptırın; bkz. YZ ajanları.

Doğrulama adımları

• Kritik bilgileri kaynakla otomatik karşılaştırma
• Yüksek riskli cevaplarda insan onayı
• İkinci bir modelle tutarlılık kontrolü

Görevi daraltmak

Geniş ve açık uçlu görevler yerine net tanımlı görevler halüsinasyonu azaltır.

Kullanıcı arayüzü tasarımı

• Kaynakları ve alıntıları gösterin.
• Yapay zekâ çıktısını düzenlenebilir bir taslak olarak sunun.
• Belirsizliği açıkça belirtin.
• Kullanıcının hatayı bildirmesini kolaylaştırın.

Ölçüm

Değerlendirme setinizde doğruluk ve kaynağa dayanma oranlarını düzenli olarak ölçün; bkz. model değerlendirme rehberi.

Sonuç

Halüsinasyonlar, yapay zekâ ürünlerinin en önemli güven sorunudur. Bilgiye dayandırma, doğru görev tasarımı ve şeffaf arayüz, güvenilir bir ürünün temelidir. Müşteri iletişiminde bu konunun önemi için YZ ile müşteri hizmetleri rehberine bakın.