ITとか鳥とか

技術のこととか。飼鳥(オカメインコ)のこととか。気になったこととか。

説明可能なAI

4種類の説明可能AI

説明可能AIは4種類に分けられる。

①大域的な説明

  • 複雑なモデルを単純なモデルに近似する。
  • あるいは、可読性の高い解釈可能なモデルで表現する方法。
  • 全体を説明することになるため、個々の説明には適さない。

手法・ツール例

LIME

  • 特徴量について、値を変化させたときに出力結果がより大きく変わるものが重要であると考える。
  • 説明対象モデルの周りで線形モデルを作る。
  • 画像認識AIに使われる。

SHAP

  • アプローチはLIMEと同じ。
  • 表データを処理するAIに使われる。

Anchors

  • 説明対象モデルの周りで領域モデルを作る。

Grad-CAM

②局所的な説明

  • 特定の入力に対する予測の根拠を提示する方法。
  • 個々の説明になるため、全体の説明は難しい。

手法・ツール例

  • Born Again Trees
  • defragTrees
  • Feature Importance

③説明可能なモデルの設計

  • そもそも、最初から可読性の高いモデルで表現する方法。
  • 比較的な単純なモデルを適用するため、推論の精度が損なわれることがある。

手法・ツール例

④深層学習モデルの説明

  • 深層学習モデル、画像認識モデルの説明方法。
  • アプローチは「②局所的な説明」に該当。

手法・ツール例

  • 勾配ベースのハイライト法
  • Interpretability Beyond Feature Attribution
  • This Looks Like That
  • Generating Visual Explanations

参考