XAI, “Explainable Artificial Intelligence” kelimelerinin kısaltmasıdır. Yani Türkçesiyle “Açıklanabilir Yapay Zeka” anlamına gelir. XAI, yapay zeka modellerinin karar verme sürecinde izledikleri mantığı açıklayarak, bu kararların nasıl ve neden alındığını anlamamızı sağlamak için kullanılan bir yaklaşımdır. Bu sayede, yapay zekanın verdiği kararlar daha şeffaf hale gelir ve insanların yapay zekayı daha iyi anlamaları sağlanır.
XAI, özellikle kritik kararlar alınan alanlarda (örneğin sağlık, finans, güvenlik vb.) kullanıldığında son derece önemlidir.