地域/情報研究室

7/27(水)に、研究室ゼミを行い、M2の河内・木村とD2の邱が研究の進捗について報告しました。

私は発表内容の流れや説明すべきことについて、先生に指摘いただきました。学生から様々な質問をいただき、課題の特徴や今後の発展を整理して説明できるようになったと思います。

木村はガウス過程についてわかりやすく説明し、河内は3D地図更新の背景から提案手法をきちんと整理して発表しました。

今後も引き続き努力してまいります！

投稿者 | 邱

7月13日（水）に第10回学生ゼミを行いました。

今回は河内さんから『深層学習』第12章「生成モデル」についての発表がありました。
変分オートエンコーダーを本では省略されていた部分も含めて丁寧に説明されており、今学期の講義で学んだ内容に対する理解をより一層深めることができました。

夏学期の学生ゼミはこれにて終了となります。
皆さん、お疲れ様でした！

投稿者 | 片山

7月6日（水）に第9回学生ゼミが行われ、『深層学習』第7章の内容について木村・邱が発表しました。

邱からは注意機構とその応用であるTransformerについての紹介があり、注意機構の解釈や辞書学習との対比について議論しました。木村からはグラフニューラルネットワークの系譜についての紹介があり、Spectral Graph CNNからChebNet、その近似モデルとしてのGCNの解釈や、グラフの同型性について議論しました。

来週は河内が生成モデルの発表を担当します。

投稿者 | 河内

6/29(水)に第8回学生ゼミを行いました。今回は事前課題として今までの本ゼミで学習したことを踏まえ全員がCNNあるいはRNN(LSTM及びGRU)を実装し、発表しました。
CNNグループではCIFAR-10を対象に各々が素朴なモデルからデータ増強や正則化、転移学習(Fine-tuning等)といった様々な手法を試し、精度がどう向上するのかを実験しました。
RNNグループでは株価予測課題に対し、1つのモデルを基準として各ハイパーパラメータを調整した際に学習はどう変化するのかを検証しました。
それぞれのチームが課題を解く中で学んできた事の整理や実際に実装上どのような効果があるのかについての理解が深められたかと思います。

次回は邱さんが注意機構とトランスフォーマーについて、木村がグラフニューラルネットワークについて発表を行う予定です。

投稿者｜木村

6/22(水)に学生ゼミ第7回を行い、深層学習第9章「説明と可視化」についてM1の片山が発表しました。

ブラックボックスのような深層学習モデルへの入力は出力にどの程度影響を与えるかを可視化する手法をいくつか学びました。

特にSHAP（SHapley Additive exPlanations）については、ゲーム理論の報酬計算から、仮定や画像例の特徴まで議論をしました。
影響関数（influence function）の式の導出をまだよく理解できていない部分もありますが、議論を通して多くの式の意味をより理解できるようになると思います。

次回は実装の回です。実装結果をお楽しみに！

投稿者｜邱