numpyのufuncの説明を読んで，何かちょろっと書きたい気分になったので書いた．相変わらずの生産性0．実行すると適当に乱数でデータを生成し，混合ガウス分布のパラメータを推定した後，負担率に応じて色分け． ufuncのルールをある程度理解したので，3次以…

ちんたら読んでたら半年かかった．相変わらず本を読むのが遅くて悲しい*1． 感想とか 読む前は機械学習についての知識がサッパリで「よく分からんけどコンピュータで知的なことが出来れば楽しそうだ」ぐらいのノリで読み始めた．読んでて面白かったので，進…

入力にはOldFaithful間欠泉データ集合を用いた. データは標準入力から読み込むようにした. 図はK=6の場合. 混合係数の期待値は2つ以外ほぼ0になったので満足. 初期値m=0だとおかしくなるのは, パラメータの初期値がそれぞれ等しい要素を持つようにすると, 負…

ちょっとコード書こうかなーと思ったけど別エントリでまた後日. ->書いた以下感想とか 変分ベイズは以下の理解でいい…んだよね 確率モデルを適用するには事後分布p(Z|X)が欲しい Ex: 予測分布はp(x|X)=∫p(x|Z)p(Z|X)dZ p(Z|X)を計算できない場合は近似したい…

逐次的疎ベイジアン学習アルゴリズムの前に、普通にαの値を(7.116)で更新していくコードでも書くか→動かない... というのでハマっていた。いくらやってもαが0に収束してしまう。。。 元の論文を斜め読みするに、こちらはwの更新式がちょっと違う感じ(?) とい…

5月も残り僅か... 新歓や講義も落ち着き始めたのでPRMLを再開。今回は7章後半の関連ベクトルマシン(Relevance Vector Machine)。 感想とか p57に「モデル(7.78)を用いた場合は, 計画行列Φは,...」のところで、自分はN×(N+1)の行列(1列目は全て1、残りのN×Nは…

SMO法はPRMLに名前はあるけど詳細が無かったので、別の本*1買ってきて読んで理解した気分になったのでコードを書いてみた。コードはpythonで書いたのだが、アルゴリズム的に行列の計算が全く無かった。 実際に試した対象は学習データが200程度だったので、sc…

タイトルの通り。紙の上で行列とかごにょごにょやるのもいいけど、Emacsたんとキャッキャウフフしたくなったでござる。パーセプトロン #!/usr/bin/python # -*- coding: utf-8 -*- from scipy import * import matplotlib.pyplot as plt if __name__ == '__m…