Explainable AI (XAI, açıklanabilir yapay zeka), bir yapay zeka sisteminin verdiği kararın nedenlerinin insan tarafından anlaşılabilir biçimde ortaya konabilmesidir. “Bu işlem neden şüpheli işaretlendi?”, “Bu fiyat neden önerildi?” sorularına cevap verebilen sistemler açıklanabilirdir.
Kullanıcı güveni: açıklaması olmayan öneri uygulanmaz. Denetim ve uyum: KVKK ve sektörel düzenlemeler kararın gerekçesini isteyebilir. Hata ayıklama: modelin yanlış öğrendiği kalıp ancak açıklamayla görülür.
Klasik modellerde özellik önem skorları (SHAP, LIME), karar kuralları ve örnek tabanlı açıklamalar. LLM tabanlı sistemlerde kaynak gösterme (RAG), adım adım gerekçe üretimi ve araç çağrı kayıtları. Ajan sistemlerinde her kararın hangi veriyle, hangi araçla ve hangi gerekçeyle alındığının denetim izinde tutulması.
Anomali tespiti, human-in-the-loop, halüsinasyon, KVKK ve yapay zeka.
