XAI（説明可能なAI）は、AIモデルの判断根拠を人間が理解できる形で示す技術である。従来のAIはブラックボックスで、内部でどのような計算プロセスを経るか不透明であった。しかし、XAIではその意思決定プロセスを可視化することで、なぜその結論に至ったか明確に説明できる。ここでは、XAIへの理解をさらに深めるべく、その歴史と注目される背景に関して解説していく。

XAIの歴史

XAIが注目されるきっかけは、2017年にDARPA（アメリカ国防高等研究計画局）が発表した、AIの説明可能性に関する研究プロジェクトである。それ以前にもAIの説明可能性の研究は始まっていたものの、このプロジェクトから研究が本格化した。

日本国内では2018年の「人工知能技術戦略実行計画」（内閣府）で説明可能なAI開発を重要施策に位置づけた。

また、2018年の「AI利活用原則案」（総務省）では透明性の原則に、2024年の「科学技術・イノベーション白書」（文部科学省）では信頼できるAIについて言及されている。

XAIが注目される背景

AIシステムは高精度で予測できても、誤った判断を行った場合の原因究明は困難であった。これは判断に至ったプロセスがブラックボックス化しており、判断根拠の説明やエラーに至った要因を分析しづらいことが原因である。

しかし、XAIでは判断過程が明確な「ホワイトボックス」であるため人間が解釈しやすく、エラーに至った要因も分析しやすい。そのため、AIに対する不信感を軽減し、AI技術を社会に導入する一助になっている。

ここでは、XAIを活用する必要性について、三つの項目で解説していこう。

意思決定プロセスの透明化

AIの予測プロセスに影響を与えた特徴量（モデルへの入力データ）が明確になるため、ビジネスでどのような根拠を基に判断が行われたかが可視化される。透明性が向上することで、利用者やステークホルダーがAIの結果をより信頼でき、AIシステムの導入に対する心理的な障壁を下げられる。

ビジネスリスクの軽減

AIの判断プロセスを把握できるため、不正確な予測や偏りある結果をいち早く発見し、潜在的なリスクを抑制できる。特に、融資や医療診断などリスク管理が重要な業務においては、不適切な決定でビジネス上の損失を防げるため、XAIの重要性が高いと言えるだろう。

業務改善への活用

AIの予測結果と併せて予測時に重要であった特徴量を特定することで、要因分析が可能である。例えば営業活動では、成約につながりやすい顧客属性を特定し、営業プロセスの効率化や見込み客の選び方を高い精度で実現できる。

XAIの大きな課題は導入・運用にコストが必要であることだろう。XAI技術は予測結果に説明情報を付加する分、従来のAIよりもコストが発生しがちである。モデル構築や予測処理を実行するには、多大な計算リソースが必要で、それには専門知識と時間を要する設計作業が求められる。

運用にもリソースが必要で、大規模データや高度なアルゴリズムの使用時には高性能なコンピューター処理能力と大容量メモリーが欠かせない。このように、導入・運用ともにXAIを用いることで、コストの負担が増大することは、企業の課題と言える。

また、XAIは世界各国が注力する先端技術で、一企業だけでは研究の推進に限界がある。そのため、XAIの技術を発展させるには、多様な企業や研究機関が協力することが不可欠となり、研究・開発のハードルが非常に高い。

XAIを研究するには高度な専門知識とリソースが必要で、複数分野の専門家同士で連携する必要が出てくる場面も多い。そのため透明性の向上にはさまざまなアルゴリズム開発が必要で、あらゆる業界で協力し、XAIの研究と実用化に取り組まなければならない。

最後にXAIの二つの手法について解説する。

大域的な説明

大域的な説明（Global Explanation）は、ニューラルネットワークなど複雑なモデルを決定木や線形モデルなど解釈しやすい手法で近似させる方法である。これにより予測プロセス全体を可視化できる。

本手法はモデル内部の構造やデータ全体における傾向を把握したい場面で活用され、モデルの判断時に重視されている特徴量を特定でき、全体的な動作パターンの把握が可能である。

局所的な説明

局所的な説明（Local Explanation）は、特定の単一データに焦点を当て、そのデータの予測結果に影響を与えた特徴量や関連する学習データを明示する手法である。

本方法ではモデルの中身は説明できないものの、個別のデータで予測根拠を知りたい場面で活用できる。各データの予測結果に寄与した特徴量や学習データを特定したい場合に有用である。

意思決定プロセスがブラックボックス化している従来のAIでは、説明責任への対応は困難であった。しかし、XAIを活用すれば意思決定プロセスを透明化し、信頼性の向上や業務の品質向上・効率化につながる。

自社のクライアントには、AIへの信頼性を高める手段として、XAIの活用を提案してみるのも良いだろう。