Twitter APIの仕様変更のため、「いいね」の新規取得を終了いたしました

黒木玄 Gen Kuroki

@genkuroki

  • いいね数 389,756/311,170
  • フォロー 995 フォロワー 14,556 ツイート 293,980
  • 現在地 (^-^)/
  • Web https://genkuroki.github.io/documents/
  • 自己紹介 私については https://twilog.org/genkuroki と https://genkuroki.github.io と https://github.com/genkuroki と https://github.com/genkuroki/public を見て下さい。
Favolog ホーム » @genkuroki » 2016年10月02日
並び順 : 新→古 | 古→新

2016年10月02日(日)

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 昨日、ベイズ統計は怪しくないよという話を延々とした。 twitter.com/genkuroki/stat...

事前分布を主観的に決めて単純にベイズ更新するだけだと「怪しい」と思われて当然なのですが、学習モデル+事前分布やベイズ更新の結果の予測精度を測る方法がある。

タグ: 数楽

posted at 07:49:16

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 統計モデルの予測精度計測の基礎はモデルと真の確率分布の間のKullback-Leibler情報量であり、真の確率分布の代わりに観測されたデータのみを使って近似値を求める手段を作ればモデルの性能を測ることができる。事前分布の取り方の良し悪しもそのようにして評価される。

タグ: 数楽

posted at 07:55:39

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 「主観的に事前分布を決めてベイズ更新を続けるだけ」のような印象を持たせるようなベイズ統計の解説は有害だと思う。事前分布の取り方が適切であったかどうかも含めて、KL情報量の近似値(真の分布が不明でもサンプルデータから計算可能)を用いて評価されることになる。

タグ: 数楽

posted at 08:04:08

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 「ベイズ統計」は流行語のようになっているんですね。数学的な興味から色々調べていた段階では気付いてなかった。ググると「こういう解説って有害じゃないか?」と感じられる解説が多数見付かる一方で、適切で読んでためになる解説が少数見付かる感じ。

タグ: 数楽

posted at 08:07:14

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 ググれば簡単に見付かるので具体例は挙げないが、典型的なパターンは「ベイズ統計に関する怪しげな解説」と「ベイズ統計は怪しいと言われているという話」がワンセットになっているもの。マッチポンプか?

タグ: 数楽

posted at 08:11:53

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 ググって確認すると解説の出発点からすでに怪しいものがかなりある。ベイズの定理に疑わしいところは一切ないのに疑いを持たせるようなことが書いてあったり、ベイズ更新の有効性がベイズの定理から論理的に出て来ないのにその辺を曖昧にすませていたり、そんな解説で理解がすすむはずがない。

タグ: 数楽

posted at 08:16:24

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 分析で得られた結果がどの程度の「誤差」を含んでいるかを気にすることが統計学の基本原則なのに、ベイズ統計については「パラメーターの事前分布・事後分布の形で主観を取り込んだ点が優れている。しかし、主観を取り込んだ点が怪しいと言われている」が典型的パターン。明らかに変だよね。

タグ: 数楽

posted at 08:25:51

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 ググっただけでは確認し切れないのですが、流行語としての「ベイズ統計」の一般向けの解説本にはひどいものが多いのではないかと推測されます。

タグ: 数楽

posted at 08:28:07

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 ベイズ統計についておかしな解説が容易に出て来やすい理由の1つは、適切な仮定のもとでベイズ更新が有効に働く理由が数学的に難しい話だからだと思います。難しい話なのでトンデモを見抜ける人が少なくなってしまう。

タグ: 数楽

posted at 08:35:32

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 実際にベイズ学習を使っている人はおかしなことが起これば大抵の場合に気付くと思うので大丈夫だと思うのですが、事前分布を予測精度の目安になる指標(情報量規準)が良いものに変更して予測精度を上げる方法を知らずに損している人はいても不思議ではないと思いました。

タグ: 数楽

posted at 09:19:58

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 サンプルデータに基いてより適切な事前分布を選ぶ例が watanabe-www.math.dis.titech.ac.jp/users/swatanab... の下の方の「具体的な例」にあります。iPhoneな人はドルフィンブラウザを入れると文字化けせずに読めます。

タグ: 数楽

posted at 09:26:53

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 AさんとBさんは学習モデルの取り方については合意した。しかし、Aさんは事前分布φを推し、Bさんは事前分布ψを推した。論争になった。さてどうするべきか?

ベイズ統計では事前分布を主観で選ぶのでどうしようもないと考えるのは誤り。予測精度の指標の良さで決着をつけられる。

タグ: 数楽

posted at 09:52:41

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 続き。実際にはサンプルを用いて二人の事前分布よりもより予測精度の高い事前分布を見つけることができるだろう。学習モデルの改定に至るかもしれない。

「主観だから訂正の必要はない」となるものが含まれていれば非科学的であることが確定してしまうが、そんなことは当然ない。

タグ: 数楽

posted at 09:56:26

非公開

タグ:

posted at xx:xx:xx

黒木玄 Gen Kuroki @genkuroki

16年10月2日

@kapfarvel_kayak 事前分布がデルタ分布だったりするとまずいのですがあります。ただしベイズ学習が使われている多くのケースでは難しい話になる。そういう話が繰り返し引用している渡辺澄夫さんのウェブサイトにあります。 watanabe-www.math.dis.titech.ac.jp/users/swatanab... #数楽

タグ: 数楽

posted at 10:11:24

黒木玄 Gen Kuroki @genkuroki

16年10月2日

@kapfarvel_kayak #数楽 仮に複数の推定法のどれを使っても推定結果がサンプルサイズ→∞で真の分布に収束するとしても、現実には有限サイズの同一サンプルから作った推定結果(確率分布になる)の予測精度の適切な指標を計算することが大事になります。

タグ: 数楽

posted at 10:49:36

黒木玄 Gen Kuroki @genkuroki

16年10月2日

@kapfarvel_kayak #数楽 n→∞で、ベイズ推定(事後分布の取り方もほぼ任意)でも最尤推定でも同じように真の確率分布に収束し、漸近的に正規分布になるケースでも、その様子がn=10000でも見えない例が watanabe-www.math.dis.titech.ac.jp/users/swatanab... にあります。

タグ: 数楽

posted at 11:00:40

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 ベイズ更新のサンプルサイズn→∞での漸近挙動については、渡辺澄夫著『ベイズ統計の理論と方法』 www.amazon.co.jp/dp/4339024627 があります。AICとBICについての解説も含まれているので最尤法についての理解を深めるために読んでもいいかも。

タグ: 数楽

posted at 14:58:24

Slit Animation @SlitAnimation

16年10月2日

つまようじに
水をたらす、っていう一人遊び。 pic.twitter.com/hIPkEpJxLg

タグ:

posted at 18:26:25

mattyuu@数学超大好きエンジニア @mattyuu123

16年10月2日

昨日はありがとうございましたm(__)m自分の発表分だけで大変恐縮なのですが、昨日の発表をブログにまとめてみましたので、よろしければ見てみてください(^-^)

mattyuu.hatenadiary.com/entry/2016/10/...

#日曜数学会

タグ: 日曜数学会

posted at 19:18:02

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 自明な話。デルタ分布であるような事前分布はベイズ更新で不変。

タグ: 数楽

posted at 19:52:05

Haruhiko Okumura @h_okumura

16年10月2日

これって例の「ベイジアン: たとえそれが不適切でも、すべての問題に対してベイズ推定を使う統計学者のこと」などの箴言集 twitter.com/berobero11/sta...

タグ:

posted at 22:15:19

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 ベイズ WAIC を検索するとRを使った計算法の解説がいくつか見つかりますね。
www.google.co.jp/search?q=%E3%8...

タグ: 数楽

posted at 22:39:06

黒木玄 Gen Kuroki @genkuroki

16年10月2日

機械学習とベイズ推論、モデルの妥当性について - Togetterまとめ togetter.com/li/591577 @togetter_jpさんから #数楽

タグ: 数楽

posted at 22:53:27

黒木玄 Gen Kuroki @genkuroki

16年10月2日

#数楽 ベイズ統計についておかしなことを言っていない人を探すにはWAICなどのキーワードは役に立つ感じ。

タグ: 数楽

posted at 23:56:45

@genkurokiホーム
スポンサーリンク
▲ページの先頭に戻る
ツイート  タグ  ユーザー

User

» More...

Tag

» More...

Recent

Archive

» More...

タグの編集

掛算 統計 超算数 Julia言語 数楽 JuliaLang 十分 と教 モルグリコ 掛け算

※タグはスペースで区切ってください

送信中

送信に失敗しました

タグを編集しました