説明可能なAI（XAI）とは？せつめいかのうなえーあい
説明可能なAI（XAI）とは、AIが出した判断について、その根拠を人間が理解できる形で示す技術と考え方の総称。深層学習は精度が高い一方で判断の過程を読み取りにくく、融資審査や医療のように理由の説明が求められる場面では使いにくい。シラバスではAI利活用の留意事項として、ヒューマンインザループ（人間が判断の過程に加わる仕組み）などと並べて置かれている。
最終更新：2026-10-09
基本情報を最短で暗記・合格する →背景
予測が当たるかどうかだけを基準にすると、判断を受けた側は納得も反論もできない。個人情報の保護やAIの規制をめぐる議論でも、自動的に下された判断には説明を求められる方向へ進んでいる。精度の追求だけでは実務に載せられない領域があるため、根拠を示す手立てを別に用意する必要が生まれた。
具体例
融資を断ったモデルについて「延滞回数と年収の項目が結論に強く効いた」と項目ごとの寄与度を示す、画像診断で判断の決め手になった部位を色で塗り分ける、といった形になる。そもそも構造が読めるモデル、たとえば条件の分かれ道を木の形にたどって判断する決定木や、項目ごとの影響の大きさを数値で示して確率を予測するロジスティック回帰を選ぶことも、この考え方に沿った答えの1つ。
試験での引っ掛け
説明できることと精度が高いことは両立するとは限らず、読みやすい単純なモデルほど精度が落ちる傾向がある。示されるのは項目と結果の相関であって、因果関係の証明ではない。人間が判断に関与するヒューマンインザループとは目的が近いが別の用語なので、名称で区別する。
関連用語
出典・参考
公式シラバスの8 経営戦略 ＞ 1. ビジネスシステム ＞ (4) AI（Artificial Intelligence：人工知能）の利活用に掲載されている用語です。
解説は資格暗記が独自に作成しています。過去問の出典は各問題に記載のとおりです。