インフラ・運用
説明可能AI（XAI）とは？意味・仕組みをわかりやすく解説
せつめいかのうえーあい / Explainable AI ／ 最終更新日：2026年7月7日
30秒でわかる定義
説明可能AI（XAI）とは、AIモデルが『なぜその予測・判断を下したのか』を人間が理解できる形で示す技術・考え方です。ブラックボックス化しやすい機械学習モデルの判断根拠を可視化し、信頼性・公平性・説明責任を担保するために重要になります。
仕組み・基本の流れ
- 1予測に対して各特徴量がどれだけ寄与したかを算出する（SHAP・LIME等）
- 2画像なら判断の根拠となった領域をヒートマップで可視化する（Grad-CAM等）
- 3モデル全体の傾向（グローバル説明）と、個別予測の理由（ローカル説明）を使い分ける
- 4説明を人間が確認し、モデルの妥当性・バイアスを点検する
実務でのポイント：金融の与信・医療・採用など、判断の根拠が問われる（説明責任のある）領域で特に重要です。AIガバナンス・規制（EU AI Act等）の観点からも需要が高まっています。精度と説明性はトレードオフになる場合があり、用途に応じたバランスが求められます。
関連する用語
このスキルを活かせる職種と年収は？
説明可能AI（SHAP/LIME等）のスキルは、金融・医療・公共など説明責任が問われる領域のML案件で需要が高まっています。AIガバナンス人材の差別化ポイントになります。
よくある質問
Q. なぜ説明可能AIが必要なのですか？
A. AIの判断を業務で使う際、『なぜその結論か』を説明できないと、誤りの検証・公平性の確認・説明責任が果たせないためです。特に与信・医療・採用など人に影響する領域では、根拠の提示が信頼と法令順守の前提になります。
Q. SHAPとLIMEの違いは？
A. どちらも個別予測の根拠を説明する手法です。SHAPは協力ゲーム理論に基づき各特徴量の寄与を一貫性のある形で算出し、LIMEは対象の予測周辺を単純なモデルで近似して説明します。SHAPはより厳密、LIMEは軽量という特徴があります。