受講概要
受講対象 データサイエンティスト 機械学習エンジニア 研究者 大学院学生 この他、スパース推定を克服したい、スキルとしたいという方。 予備知識 RまたはPythonのプログラムの概略がわかること、統計学を勉強したことがあること。 習得知識 1)線形回帰のLasso 2)ロジスティック回帰のLasso 3)Graphical Lasso などの機械学習の技法と、数理科学的なアプローチ 講師の言葉 スパース推定は、大学の講義やテキストが少なく、奥が深いので、独学が難しい。拙書「スパース推定100問 with R/Python」(共立出版)なども、初学者であれば、独力で読み通すことは難しい。 また、演習といってもパッケージにデータを放り込むだけあれば、本質を把握するとはほど遠い。 本セミナーでは、数式だけではなく、スクラッチのプログラムを追って、論理的に検証していく。話を聞いて知識を得るというよりは、手を動かして本質を把握するようにしたい。特に、1日の研修で、エキスパートとして活躍できるような、きっかけをつかむことができたら、と考えている。 受講者の声 ・普段聞けないスパース推定分野の話が聞けて、理解が深まりました。有意義なセミナーでした。 ・自分の知識不足で、理解が十分できない部分もあったが、実例の説明(実際のコード)などを説明してくださったので復習で補いたいと思います。 ・事前知識不足により講義の場で十分に理解することは困難でしたが、資料や書籍、動画を公開してくださったおかげで理解のための復習ができそうです。ありがとうございました。
プログラム
1 線形回帰 1.1 線形回帰 1.2 劣微分 1.3 Lasso 1.4 Ridge 1.5 Lasso とRidge を比較して 1.6 elastic ネット 1.7 λ の値の設定 2 一般化線形回帰 2.1 線形回帰のLasso の一般化 2.2 値のロジスティック回帰 2.3 多値のロジスティック回帰 2.4 ポアッソン回帰 2.5 生存時間解析 3 グループLasso 3.1 グループ数が1 の場合 3.2 近接勾配法 3.3 グループLasso 3.4 スパースグループLasso 3.5 オーバーラップグループLasso 3.6 目的変数が複数個ある場合のグループLasso 3.7 ロジスティック回帰におけるグループLasso 3.8 一般化加法モデルにおけるグループLasso 4 Fused Lasso 4.1 Fused Lasso の適用事例 4.2 動的計画法によるFused Lasso の解法 4.3 LARS 4.4 Lasso の双対問題と一般化Lasso 4.5 ADMM 5 グラフィカルモデル 5.1 グラフィカルモデル 5.2 グラフィカルLasso 5.3 疑似尤度を用いたグラフィカルモデルの推定 5.4 Joint グラフィカルLasso 6 行列分解 6.1 特異値分解 6.2 Eckart-Youngの定理 6.3 ノルム 6.4 低階数近似のスパースの適用 7 多変量解析 7.1 主成分分析(1):SCoTLASS 7.2 主成分分析(2):SPCA 7.3 K-means クラスタリング 7.4 凸クラスタリング 質疑応答 講師紹介 略歴 平成元年 早稲田大学大学院博士課程 修了 平成元年 早稲田大学 助手 平成4年 青山学院大学 助手 平成6年 大阪大学理学部 講師 平成10年 同大学院理学研究科 准教授 平成28年 同基礎工学研究科 教授 (現職) Uncertainty in Artificial Intelligence (UAI) 1993で、 ベイジアンネットワークの研究成果を発表(国内研究者で初とされる) 主要著書 ベイジアンネットワーク入門(培風館、2009年) 確率的グラフィカルモデル(共立出版、2016年)植野真臣他と共著 機械学習の数理100問シリーズ(共立出版、2020年); 統計的機械学習の数理100問with R 、 統計的機械学習の数理100問with R/Python、スパース推定100問with R/Python Statistical Learning with Math and R/Python (Springer, 2020) 学会等 日本統計学会 日本行動計量学会 日本計算機統計学会 人工知能学会 日本数学会