1. 確率モデルの近似法 2. エントロピーとKLダイバージェンス 2.1. エントロピー pとrの分布 qとrの分布 2.2. KLダイバージェンス 3. 変分ベイズ 3.1. 変分下界 3.2. 分解による近似分布の計算 4. 変分混合ガウス分布 4.1. 事前分布の定義 1. 確率モデルの近…

D - Patisserie ABC 高橋君はプロのパティシエになり, AtCoder Beginner Contest 100 を記念して, 「ABC洋菓子店」というお店を開いた. ABC洋菓子店では, $N$ 種類のケーキを売っている.各種類のケーキには「綺麗さ」「おいしさ」「人気度」の $3$つの値を持…

タイムラインでRustという言語についての話題で盛り上がっていたので試しにABC100のA-C*1を解いてみることにした． D問題については構造体とtraitやownership関係でイザコザして解けなかった．後程に解答を見て学習してみたいところ． D問題: fgjiutx.hatena…

エビデンス近似 先日の記事日記(8/5):初心に帰ってベイズ線形多項式回帰(1) - 日記帳では，線形回帰に対してベイズ的な取り扱いを導入しましたが，ハイパーパラメータにあたる$\alpha,\beta$をあらかじめ決める必要があり，完全にベイズ的な取り扱いである回…

時刻 したこと 10:00 起床 14:00 PRML7章 17:00 Rails環境構築 関連ベクトルマシン(RVM) gist.github.com 関連ベクトルマシン(RVM)ガウス過程と似た方法で，重みパラメータが無限大に発散することによってそのパラメータの事後分布を0近辺に集中させることで…

日 やったこと 8/07 ベイズ線形回帰のエビデンス近似 8/08 ガウス過程の学習と実装(PRML) 8/09 休息の日とarchive 8/10 GPとNNとarXiv PRMLを6章まで読み進めた．理解はまだできていない． 8/9はCiv5を終始やってた．ちょっと30分やる予定だったが，気付いた…

最終更新:2018/08/10 書籍 機械学習 Python機械学習プログラミング 達人データサイエンティストによる理論と実践 (impress top gear) 作者: Sebastian Raschka,株式会社クイープ,福島真太朗 出版社/メーカー: インプレス 発売日: 2016/06/30 メディア: 単行…

時刻 行動 10:00 起床 13:00 外出 17:00 読書など ベイズ線形回帰 おとといの記事日記(8/2):初心に帰って回帰分析 - 日記帳では，線形回帰モデルのパラメータを最尤推定というアプローチで決めた． しかしながら，このモデルでは過学習を抑えるために正則化…

時刻 行動 11:00 起床 14:00 帰省開始 15:00 日吉駅発 18:00 土浦駅着 22:00 PRML読書 帰省するだけで結構疲れて辛いものがある． PRML 1.1. 例:多項式曲線フィッティング ベイズ理論ばっかり載ってるイメージのPRMLだけど最初の数ページは普通の回帰分析の…

時刻 行動 7:50 起床 10:00 バ始 19:00 バ終 21:00 帰宅 21:30 PRML読書 22:00 VAE実装の続き Kerasを使ってVAEを実装する． 原著論文:[1312.6114] Auto-Encoding Variational Bayes まとめ殴り書き:#10 Auto-Encoding Variational Bayes - HackMD 実装Noteb…