モデルを実践的に学び「説明可能なAI」に至る道を開く『解釈可能なAI』発売

今日のAIシステムが抱える問題の一つに、AIはデータを入力するだけで何らかの予測はしてくれるものの、「どのようにモデルが動作し、どのように予測に至ったのか」わからないことがある。

こうした問題に対し、AIシステム内の原因と結果の関係を理解する（＝解釈可能性を高める）ためのアプローチに焦点を当て、解釈する方法を実践的に説明した一冊が『解釈可能なAI 機械学習モデルの解釈手法を実践的に理解する』。

同書はマイナビ出版から9月19日に発売予定であり、具体的な例と実践を通して、AIシステムの構築と機械学習モデルの解釈手法を学べる内容となっている。

同書は2022年5月刊行『Interpretable AI：Building explainable machine learning systems』（Ajay Thampi著、Manning 出版）を日本語訳したもの。

• 『解釈可能なAI 機械学習モデルの解釈手法を実践的に理解する』（Ajay Thampi (著)、松田晃一 (翻訳)、定価：4,983円

具体的には、線形回帰、ロジスティック回帰、決定木、一般化加法モデル（GAM）といった解釈性の高いホワイトボックスモデルから、ランダムフォレストやブースティングツリーなどのアンサンブルツリー、ニューラルネットワークといった解釈の難しいブラックボックスモデルまで、機械学習モデルの解釈手法とPythonによる実装を網羅的に解説している。　

解釈手法は、システムの透明性を高め、公平で堅牢なAIシステムを構築するための強力なツールとなる。また、「なぜ、そのモデルは別の予測ではなくこの予測をしたのか」という「なぜ」に答え「説明可能なAI」に至るための重要な基礎となる。

また同書は、現実感のある具体的な題材をもとに、システムの構築から、そのシステムの解釈まで、開発の流れを追いながら実践的に学べる構成になっている。最終パートでは、さらに公平性とバイアス、そして「説明可能なAI」にも焦点を当て、これらの課題の解決のために「解釈可能なAI」がどのように役立つのかについても解説している。

第7章ではテキストからの特徴量の抽出を扱っているが、英語を対象としているため、日本語翻訳版では同じ処理を日本語に適用できるよう、その方法を解説した巻末付録（執筆 松田晃一）も収録している。

翻訳者からの一言

本書の優れているところは、単に解釈手法を説明するのではなく、解釈の対象となる具体的なシステムを構築し、それを対象として解釈手法を適用しながら実践的に手法を説明するというステップを踏んでいる点である。

例えば、第2章では糖尿病の進行度を患者の年齢、性別、BMIなどのデータから予測するモデルを作成し、その結果を、解釈手法を用いて分析している。ここでは糖尿病の進行度の予測モデルのプログラムと、その結果、解釈するためのプログラムが説明されている。つまり、モデルの開発手法と解釈手法が同時に学べる。

どの章も、（1）具体的な機械学習のタスクの説明、（2）それを解決するモデルの作成、（3）その結果に対する解釈手法の適用方法とその説明という構成になっている。（1）で扱われているタスクの事例はリアリティがあるため、読んでいて面白く、どんどん先が読みたくなるはず。面白いだけでなく、ここで扱われている手法はそのまま、業務で開発されているシステムにも適用できるだろう。