説明可能なAI（XAI）とは、AIモデルが予測や判断を行った際に、その結果に至るプロセスや根拠を人間が理解・納得できるように説明する技術やアプローチのことです。複雑なディープラーニングなどのブラックボックス問題を解消し、医療や金融などの高い信頼性が求められる分野で、AIの透明性と安全性を確保するために重視されています。
説明可能なAI（XAI）とは
説明可能なAI（XAI）とは、人工知能（AI）が導き出した予測や判断のプロセス・根拠を、人間が理解可能な形で提示・説明できるようにする技術や手法の総称です。
詳しく解説
近年のディープラーニング（深層学習）の発展により、AIの予測精度は飛躍的に向上しました。しかし、数千万から数億に及ぶパラメータを持つ複雑なモデルは、内部の判断プロセスが人間には解釈できない「ブラックボックス」となってしまう問題が生じています。このような背景から、AIの意思決定プロセスを透明化し、社会的受容性や信頼性を高めるために説明可能なAI（XAI）の研究開発が活発化しました。XAIは、特定のモデルに依存せず判断根拠を推定する「LIME」や「SHAP」などの手法（モデル非依存型）や、モデル自体を人間が解釈しやすく設計する手法（内在的解釈可能モデル）などに分類され、AIシステムが法律や倫理基準に準拠していることを示す手段としても極めて重要です。
具体例・使われ方
説明可能なAI（XAI）は、社会的に大きな影響を与える意思決定の現場で広く導入されています。例えば、医療診断AIにおいて、画像からがんの疑いがあると判定した際に、画像のどの領域が判断の決め手（特徴量重要度）になったのかを医師に視覚的に示すことで、診断の信頼性を向上させます。また、金融機関の融資審査AIでは、融資が却下された理由を顧客に対して明確に説明し、不当なバイアス（偏見）による不利益でないことを証明するために活用されます。
似た用語との違い
混同されやすい概念として「解釈可能なAI（Interpretable AI）」があります。解釈可能なAIは、線形回帰や決定木のように、モデルそのものの構造がシンプルで、処理プロセスを直接人間が理解できる仕組みを指します。これに対して説明可能なAI（XAI）は、複雑でそのままでは理解できないディープラーニングなどのモデルに対しても、後付けのアルゴリズム（LIMEやSHAPなど）を用いて、予測の根拠や特徴量重要度を人間が理解できるように「説明を生成する」技術も含んだ、より広義の概念です。
注意点
説明可能なAI（XAI）を導入する際の注意点として、提示された「説明」が必ずしもAIの真の内部ロジックを100%正確に表しているとは限らない点が挙げられます。LIMEやSHAPなどは近似モデルを用いて根拠を提示するため、時に実際とは異なる説明を出力するリスクがあります。また、説明性を高めようとモデルを単純化しすぎると、今度はAIの予測精度自体が低下するという「説明性と精度のトレードオフ」も存在します。説明を過信せず、AIの限界を理解した上で人間が最終判断を下す必要があります。