6/22(水)に学生ゼミ第7回を行い、深層学習第9章「説明と可視化」についてM1の片山が発表しました。
ブラックボックスのような深層学習モデルへの入力は出力にどの程度影響を与えるかを可視化する手法をいくつか学びました。
特にSHAP（SHapley Additive exPlanations）については、ゲーム理論の報酬計算から、仮定や画像例の特徴まで議論をしました。
影響関数（influence function）の式の導出をまだよく理解できていない部分もありますが、議論を通して多くの式の意味をより理解できるようになると思います。
次回は実装の回です。実装結果をお楽しみに！
投稿者｜邱