Doğrulandı Karar & Düşünce
Yapay zekâ sohbet botları neden kullanıcının yanlış fikrine bile hak verir (sycophancy) ve bu nasıl önlenir?
Kullanıcıyı memnun eden yanıtlar eğitimde ödüllendirildiği için onay önyargısı doğar; bunu önlemek için soruyu kimin sorduğu gizlenmeli ve karşı tez zorunlu tutulmalıdır.
Kanıt (2)
- Sharma ve ark. (ICLR, 2024): RLHF ile eğitilen beş büyük dil modelinde, kullanıcının belirttiği görüşe göre yanıt değiştirme (sycophancy) ölçüldü. kaynak
- Bağlam-kör hakem mimarisinde önerinin sahibini gizleyip modele yalnız 'bu iddiayı hangi ölçüm çürütür' sorusunu sormak onay önyargısını kırar. kaynak
Bizim ölçümümüz: Bağlam-kör hakem ve çok sesli tur karnesi (76 tur, Ekim 2026). (kivilcim_karnesi.jsonl)
Hükmü ne değiştirir: Kullanıcı kanaati açıkça yazıldığında ve gizlendiğinde modelin verdiği hükümler arasında istatistiksel fark kalmazsa onay önyargısı önlemi gereksizleşir.
- onay önyargısı
- sycophancy
- bağlam-kör hakem
- bilişsel yanılgı