説明可能なAI（XAI）について、教科書とか・・・

　最近、説明可能なAI（XAI)が流行っている。

　説明可能なAIとは、機械学習によるモデルの予測などで、なぜその予測をしたのかがわかるようにしたAIのこと。

　回帰や決定木の場合は、そうなった理由はわかるけど、ディープラーニングの場合、中身がブラックボックスなのでどうしてそういう予測になったかわからない。そこで、それを説明する必要が生じる。この説明技術がXAI

　今日は、その教科書などを、メモメモ

---

■概要

　概要を見るならここ！

【記事更新】私のブックマーク「機械学習における解釈性（Interpretability in Machine Learning）」

https://www.ai-gakkai.or.jp/resource/my-bookmark/my-bookmark_vol33-no3/

■教科書

↑にかかれているけど、教科書は

Interpretable Machine Learning

A Guide for Making Black Box Models Explainable.

https://christophm.github.io/interpretable-ml-book/index.html

日本語訳は、

Interpretable Machine Learning

A Guide for Making Black Box Models Explainable.

https://hacarus.github.io/interpretable-ml-book-ja/index.html

■わかりやすい本

機械学習を解釈する技術〜予測力と説明力を両立する実践テクニック 森下 光之助 技術評論社

 読みやすい。PFI、PD、ICE、SHAP が紹介されている

（LIMEは説明ないけど）

■サーベイ論文

A Survey Of Methods For Explaining Black Box Models

Riccardo Guidotti, Anna Monreale, Salvatore Ruggieri, Franco Turini, Dino Pedreschi, Fosca Giannotti

てなかんじです。