Halüsinasyon
Diğer adları: Hallucination, Yapay zeka halüsinasyonu, Uydurma
Halüsinasyon, bir büyük dil modelinin kaynaklarda bulunmayan, yanlış veya tamamen uydurma bir bilgiyi doğruymuş gibi akıcı ve kendinden emin bir dille üretmesine verilen addır; bir marka hakkında yanlış adres veya hizmet bilgisi vermek de buna girer.
Büyük dil modelleri bilgiyi bir veritabanından okur gibi getirmez; metinde en olası devamı tahmin ederek cevap üretir. Model bir konuda yeterli ve tutarlı bilgiye sahip değilse, boşluğu makul görünen ama yanlış bilgiyle doldurabilir. Cevabın akıcı olması, doğru olduğu anlamına gelmez.
Markalar için riski
Halüsinasyon yalnızca genel bilgi sorularında olmaz. Bir firma hakkında da yanlış bilgi üretilebilir:
- Var olmayan bir şube ya da hizmet
- Eski bir adres veya telefon numarası
- Firmayı aynı adlı başka bir firmayla karıştırmak
- Uydurma bir kuruluş yılı veya kurucu adı
Bu tür hatalar potansiyel müşteriyi yanlış yere yönlendirebilir.
Nasıl azaltılır?
Halüsinasyonu tamamen önlemek site sahibinin elinde değildir. Ama modelin doğru bilgiye ulaşmasını kolaylaştırmak mümkündür:
- Temel bilgileri (ad, adres, hizmetler) sitede açık ve tek bir yerde yazmak
- Bu bilgileri yapısal veri ile işaretlemek
- Dış kaynaklarda (rehberler, sosyal profiller) aynı bilgileri kullanmak
- Arama yapan modellerin siteye erişebilmesini sağlamak (RAG)
Örnek
Bir asistana bir kliniğin çalışma saatleri sorulduğunda, klinik sitesinde bu bilgi yoksa model başka bir kliniğin saatlerini ya da genel bir tahmini söyleyebilir. Saatlerin sitede açıkça yazması ve openingHours ile işaretlenmesi bu riski azaltır.