Yapay zekâ modelinin kendinden emin bir dille yanlış bilgi üretmesi. Yok edilemez; azaltılabilir ve etkisi yönetilebilir. Fizibilite ve olabilirlikte uydurma rakamlar biçiminde karşımıza çıkar.
Halüsinasyon, dil modellerinin çalışma biçiminden doğar: model bilgi aramaz, eldeki bağlama göre en olası devamı üretir. Bu yüzden bilmediği bir konuda “bilmiyorum” demek yerine akıcı ve ikna edici bir cevap kurabilir. Uydurma kaynaklar, var olmayan yasa maddeleri, yanlış hesaplanmış rakamlar ve gerçekte yaşanmamış olaylar en yaygın biçimleridir. Tehlikesi yanlışlığından çok kendinden emin tonundadır: kendinden emin olmak, doğru olmakla aynı şey değildir.
Halüsinasyon yok edilemez; azaltılır ve etkisi yönetilir. RAG ile modeli doğrulanmış kaynaklara bağlamak, cevaplarda kaynak göstermeyi zorunlu kılmak, eval ile halüsinasyon oranını düzenli ölçmek ve yüksek riskli kararlarda insanı döngüde tutmak başlıca yöntemlerdir. Ürün yöneticisi için asıl soru şudur: bu üründe bir halüsinasyonun maliyeti nedir ve kullanıcı yanlış bir cevabı fark edebilecek durumda mı? Cevap, tasarımın ne kadar temkinli olacağını belirler.
Sık yapılan hata. Daha güçlü bir modelin halüsinasyonu tamamen ortadan kaldıracağını varsaymak. Oran düşebilir ama sıfırlanmaz; ürün, hatanın olacağı kabul edilerek tasarlanmalıdır.