黒木玄 Gen Kuroki
- いいね数 389,756/311,170
- フォロー 995 フォロワー 14,556 ツイート 293,980
- 現在地 (^-^)/
- Web https://genkuroki.github.io/documents/
- 自己紹介 私については https://twilog.org/genkuroki と https://genkuroki.github.io と https://github.com/genkuroki と https://github.com/genkuroki/public を見て下さい。
2016年10月02日(日)
機械学習とベイズ推論、モデルの妥当性について - Togetterまとめ togetter.com/li/591577 @togetter_jpさんから #数楽
タグ： 数楽
posted at 22:53:27
#数楽 ベイズ WAIC を検索するとRを使った計算法の解説がいくつか見つかりますね。
www.google.co.jp/search?q=%E3%8...
タグ： 数楽
posted at 22:39:06
これって例の「ベイジアン: たとえそれが不適切でも、すべての問題に対してベイズ推定を使う統計学者のこと」などの箴言集 twitter.com/berobero11/sta...
タグ：
posted at 22:15:19
mattyuu@数学超大好きエンジニア @mattyuu123
昨日はありがとうございましたm(__)m自分の発表分だけで大変恐縮なのですが、昨日の発表をブログにまとめてみましたので、よろしければ見てみてください(^-^)
mattyuu.hatenadiary.com/entry/2016/10/...
#日曜数学会
タグ： 日曜数学会
posted at 19:18:02
#数楽 ベイズ更新のサンプルサイズn→∞での漸近挙動については、渡辺澄夫著『ベイズ統計の理論と方法』 www.amazon.co.jp/dp/4339024627 があります。AICとBICについての解説も含まれているので最尤法についての理解を深めるために読んでもいいかも。
タグ： 数楽
posted at 14:58:24
@kapfarvel_kayak #数楽 n→∞で、ベイズ推定(事後分布の取り方もほぼ任意)でも最尤推定でも同じように真の確率分布に収束し、漸近的に正規分布になるケースでも、その様子がn=10000でも見えない例が watanabe-www.math.dis.titech.ac.jp/users/swatanab... にあります。
タグ： 数楽
posted at 11:00:40
@kapfarvel_kayak #数楽 仮に複数の推定法のどれを使っても推定結果がサンプルサイズ→∞で真の分布に収束するとしても、現実には有限サイズの同一サンプルから作った推定結果(確率分布になる)の予測精度の適切な指標を計算することが大事になります。
タグ： 数楽
posted at 10:49:36
@kapfarvel_kayak 事前分布がデルタ分布だったりするとまずいのですがあります。ただしベイズ学習が使われている多くのケースでは難しい話になる。そういう話が繰り返し引用している渡辺澄夫さんのウェブサイトにあります。 watanabe-www.math.dis.titech.ac.jp/users/swatanab... #数楽
タグ： 数楽
posted at 10:11:24
非公開
タグ：
posted at xx:xx:xx
#数楽 サンプルデータに基いてより適切な事前分布を選ぶ例が watanabe-www.math.dis.titech.ac.jp/users/swatanab... の下の方の「具体的な例」にあります。iPhoneな人はドルフィンブラウザを入れると文字化けせずに読めます。
タグ： 数楽
posted at 09:26:53
#数楽 昨日、ベイズ統計は怪しくないよという話を延々とした。 twitter.com/genkuroki/stat...
事前分布を主観的に決めて単純にベイズ更新するだけだと「怪しい」と思われて当然なのですが、学習モデル+事前分布やベイズ更新の結果の予測精度を測る方法がある。
タグ： 数楽
posted at 07:49:16
2016年10月01日(土)
非公開
タグ：
posted at xx:xx:xx
非公開
タグ：
posted at xx:xx:xx
非公開
タグ：
posted at xx:xx:xx
#数楽 私は昨日RStanを入れたばかりで何もいじっていないのでよくわかっていないのですが、WAICとWBICの計算例をすでに持っている人がいるなら、その手順を是非とも公開して欲しいものだと思います。WAICについては www.slideshare.net/simizu706/waic を発見した。
タグ： 数楽
posted at 17:51:35
#数楽 そのWBICに関する渡辺澄夫さんの論文は jmlr.csail.mit.edu/papers/v14/wat... から誰でも無料でダウンロードできます。渡辺澄夫さん自身による解説は watanabe-www.math.dis.titech.ac.jp/users/swatanab... に色々置いてあります。これって実用的な話なんじゃないか？
タグ： 数楽
posted at 17:48:38
#数楽 続き。なんと、逆温度がβ=1/log nの場合が、
モデルの性能評価のために計算したいβ=1の自由エネルギー
F_n^1(x_1,…,x_n)=-log Z_n^1(x_1,…,x_n)
の近似計算に役に立つのです！→ watanabe-www.math.dis.titech.ac.jp/users/swatanab...
タグ： 数楽
posted at 17:29:08
学生が、希薄溶液でのみ成り立つ近似を「基本法則」だとか「真実」だと思い込んでいて溶液論を教える時に悩まれるなんて事があった。化学平衡について教え始めるときに濃厚溶液で起きる事は面倒だから置いておくというのはアリだろうけど、教えた範囲の事が一般的な真実だと思い込まれてると困る。
タグ：
posted at 15:53:01
#掛算 日本の算数教科書が「0は偶数だけど、2の倍数ではない」となっていることに関する証拠は次の連続ツイートにある→ twitter.com/genkuroki/stat...
タグ： 掛算
posted at 15:28:16
#数楽 渡辺澄夫著『ベイズ統計の理論と方法』 www.amazon.co.jp/dp/4339024627 の「初等確率論の基礎」の最終章にKullback-Leibler情報量について簡単な解説がある。KL情報量に関する詳細については→ www.math.tohoku.ac.jp/~kuroki/LaTeX/...
タグ： 数楽
posted at 15:06:03
#数楽 リンク
渡辺澄夫さん著のベイズ統計に関する教科書
www.amazon.co.jp/dp/462781321X
www.amazon.co.jp/dp/4339024627
上の方の連続ツイートの記号法は渡辺澄夫さんのそれに近いものにしたつもり。
タグ： 数楽
posted at 14:46:22
#数楽 リンク
田崎晴明さん著の熱力学と統計力学の教科書
www.amazon.co.jp/dp/4563024325
www.amazon.co.jp/dp/4563024376
www.amazon.co.jp/dp/4563024384
タグ： 数楽
posted at 14:44:20
#数楽 続き。しかし、観測されたデータx_1,…,x_nを用いて、それらを近似値を計算することは可能。そういう話が渡辺澄夫さんのウェブサイトで解説されているわけです。おすすめ！
watanabe-www.math.dis.titech.ac.jp/users/swatanab... (iPhoneならドルフィンブラウザで閲覧できる)
タグ： 数楽
posted at 14:36:46
「適用範囲外である（適用してはいけない）」というのと「適用範囲内だが面倒だから今は教えない」というのは厳然と異なる。後者に対して「そのあたりに将来学ぶべき面倒な要因があるのだ」という事に興味を示す人間は育つ。
タグ：
posted at 12:31:28
「○○については後で考える事にして今は置いておく」という意味で「○○については考えない事にする」というのを、「○○について考えるのは間違いである」と解釈してしまう人は多い。
タグ：
posted at 12:28:23
@find25182902 @kuri_kurita @vecchio_ciao #掛算 そこは微妙で確かに文言は「０については考えないことにします。」なんだけど、０を含んだ数直線を提示して倍数に○をつけさせることで、「０について考えさせて、倍数ではない」と指導しているのが現状。
タグ： 掛算
posted at 12:19:34
@vecchio_ciao @kuri_kurita
↓で報告させていただきました。ご都合悪ければお知らせください。
8254.teacup.com/kakezannojunjo...
タグ：
posted at 12:17:24
@sekibunnteisuu @kuri_kurita
0が2の倍数ではない理由の説明はなく、「他の3、4、5の倍数も0には◯をつけない」とだけ言われたらしいです。
タグ：
posted at 12:14:49
@vecchio_ciao @kuri_kurita あ～やっぱりorz #掛算
中学数学だとなし崩し的に０は倍数のようです。どの段階で０が倍数と教えられるのか不明。
8254.teacup.com/kakezannojunjo...
タグ： 掛算
posted at 12:14:06
@sekibunnteisuu @kuri_kurita
教科書の次のページ「2の倍数にあたる数を◯で囲みましょう」というところで、2の倍数の0に◯をつけた後、消しゴムで消した形成があったので、次男に確認したところ、「0には◯つけないで」と指導があったそうです。 pic.twitter.com/nM4rq4ve2P
タグ：
posted at 12:08:57
@kuri_kurita @vecchio_ciao #掛算 算数教育だと「０はどんな数の倍数でもない」となっているのかどうか、「０は０の倍数である」というのは算数教育界では真なのか偽なのか、私にも分かりませんｗ
算数は難しいｗ
タグ： 掛算
posted at 11:11:14
@kuri_kurita @vecchio_ciao #掛算 ↓の画像から判断すると
twitter.com/vecchio_ciao/s...
「０は偶数だけど２の倍数ではない。だけど２で割り切れる」ということになりますね。
タグ： 掛算
posted at 11:06:07
@kuri_kurita @vecchio_ciao #掛算
ご存じとは思いますが、念のため。
現在の算数教育の世界では、「０は偶数だけど２の倍数でない」ようです。
8254.teacup.com/kakezannojunjo...
タグ： 掛算
posted at 11:03:37
@kuri_kurita
長男は小学校で習った定義を忘れて、自分なりの思考を深めていたわけですが、時々それが正しいのか確認しながら進むことは、何を学ぶにも必要な作業だとわかって良かったね、ということで今朝は一件落着しました。
タグ：
posted at 10:36:12
@vecchio_ciao そういう素朴な感覚を上書きして発展させていかなくちゃいけないのに、なんか逆に強化してる指導者がいるような気がして仕方ないです。
タグ：
posted at 10:20:30
@kuri_kurita
そんな感じだと思います。
「0は自然数ではなく“無”だから、どちらにも当てはまらない気がする」そうです。私も感覚的には近いものがあります。
タグ：
posted at 10:12:23
@vecchio_ciao 「偶数でも奇数でもない」という発想がどこから出て来たのか知りたいです！（いや、長男くんをバカにしているわけではなくて、先日もこんなの見たし何か共通の理由が？→ twitter.com/kuri_kurita/st... ）
タグ：
posted at 10:00:15
@kuri_kurita
長男は「0は偶数でも奇数でもない」と主張していて、次男が「3日前に偶数だと学校で習った」と。今朝、次男の教科書を出してきて確認しました。 pic.twitter.com/HRQoS7r1QI
タグ：
posted at 09:54:56
非公開
タグ：
posted at xx:xx:xx
#数楽 RStanを入れたのは www.slideshare.net/mobile/simizu7... を見たから。サンプルX_1,…,X_nから学習した結果によるX_{n+1}の予測精度を近似的に表すWAICのStanによる計算例が紹介されている。WAICはモデル比較のための規準の１つ。
タグ： 数楽
posted at 00:24:05
