Twitter APIの仕様変更のため、「いいね」の新規取得を終了いたしました

黒木玄 Gen Kuroki

@genkuroki

  • いいね数 389,756/311,170
  • フォロー 995 フォロワー 14,556 ツイート 293,980
  • 現在地 (^-^)/
  • Web https://genkuroki.github.io/documents/
  • 自己紹介 私については https://twilog.org/genkuroki と https://genkuroki.github.io と https://github.com/genkuroki と https://github.com/genkuroki/public を見て下さい。
Favolog ホーム » @genkuroki » 2020年02月20日
並び順 : 新→古 | 古→新

2020年02月20日(木)

PseuDoctor@フォロワーさん以外 @_pseudoctor

20年2月20日

続き)そもそも今回のCOVID-19に関してもメディアに出て来るのは医者ばっかり。専門家と一般市民の間の橋渡しをしてくれる筈の人達がどっかに居た様な気がするんだけど…
まぁ震災直後みたいにアカラサマな妨害を仕掛けてこないだけマシかもしれないけどね(某医療ジャーナリスト氏()を除く)。

タグ:

posted at 23:51:24

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 あびこ(牛)さんも紹介なさっていますが、

watanabe-www.math.dis.titech.ac.jp/users/fujiwara...
特異モデルにおけるベイズ検定と変化点発見への応用
藤原香織 渡辺澄夫

の話は「仮説検定とベイズ統計は水と油だ」のような印象論が__誤り__であることの証拠になっている。

間違った印象論を広めるような教育はまずい twitter.com/abiko_ushi/sta...

タグ: 統計

posted at 23:31:01

хетаноёкоский @Koji_tanuki

20年2月20日

つまり,この例の場合に確率モデルが次のうちのどちらを指すのかちょっと混乱した

(a) 確率モデル = Bernoulli(q)
(b) 確率モデル = Y_i ~Bernoulli(q))(i.i.d)

モデルというからには,(b)という気がするが

タグ:

posted at 22:54:14

хетаноёкоский @Koji_tanuki

20年2月20日

「確率モデル」の初出時(2章 p.25)の説明で,各サンプルがi.i.dの下でベルヌーイ分布に従うこと(Y_i ~Bernoulli(q))を例に挙げているが,「ベルヌーイ分布」を確率モデルと呼ぶと書いた直後に,確率モデルは実現値はこの確率分布から生成されたという「仮定」を表すとあったり・・・

タグ:

posted at 22:51:15

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 『ベイズ推論による機械学習入門』とか、『社会科学のためのベイズ統計モデリング』のような本格的な入門書が流行すれば、自然にトンデモ系ベイズ解説は駆逐されて行くと期待したい感じ。

タグ: 統計

posted at 22:50:04

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計

github.com/sammy-suyama/B...
須山敦志『ベイズ推論による機械学習入門』のサンプルコード

正誤表もここにあります。

この本の第2章「基本的な確率分布」はレゴでの各種ブロックの解説だと思ってよい。『社会科学のためのベイズ統計モデリング』の第5章より詳しく、カラーの図も豊富です。

タグ: 統計

posted at 22:47:41

хетаноёкоский @Koji_tanuki

20年2月20日

サンプル(Y)の関数が式の上では実現値(y)の関数になっているのかがよくわからない.例えば,2章(p.29)のサンプルの同時確率密度関数

タグ:

posted at 22:41:17

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 『社会科学のためのベイズ統計モデリング』の読者は

須山敦志『ベイズ推論による機械学習』
www.amazon.co.jp/dp/B07L2V4H59

のセンスの良い計算の仕方も参考になるかもしれません。統計モデリングでは各種の確率分布をレゴブロックのように組み合わせて使うので、簡単な例の様子を見ることは大事。

タグ: 統計

posted at 22:41:13

хетаноёкоский @Koji_tanuki

20年2月20日

読み始めた.まだ序盤だがついていける.計算過程については極めて丁寧なので,高校数学で十分追える(慣れている人からすると冗長かも).しかし一方で,不親切とまでは言えないが,初心者に対してはもう少し説明が必要と思われるところもある.

タグ:

posted at 22:38:01

飯田泰之 @iida_yasuyuki

20年2月20日

「クリスマスシーズンの12月23日が天皇誕生日でなかったことや、台風・暖冬などで12月の消費の落ち込みが想定以上だった」

台風・暖冬は関係ないというデータについては→note.com/iida_yasuyuki/...

祝日云々は,季節調整データは曜日の影響を調整しているので筋違い
jp.reuters.com/article/japan-...

タグ:

posted at 22:21:15

増田聡 @smasuda

20年2月20日

twitter.com/kyoujikyouji/s... これもいじめの論理ですね。関係ないことを持ち出して人格を非難することに夢中になるのがいじめの国です。そりゃグラミー賞の人も出ていくよね… twitter.com/kyoujikyouji/s...

タグ:

posted at 22:08:46

増田聡 @smasuda

20年2月20日

twitter.com/0211jaguar/sta... まさにこういうのがそれですね。いじめの国の物言いの典型だと思います twitter.com/0211jaguar/sta...

タグ:

posted at 22:06:10

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 以上のように、WBICにはベイズ統計に逆温度βを導入することが本質的に使われています。

タグ: 統計

posted at 22:00:27

増田聡 @smasuda

20年2月20日

岩田さんの主張やなくて人柄ややり方を批判する方々がすごい勢いで湧いてきてるのを眺めていると、ああ日本は実に陰口といじめの国なのだなあとしみじみ感じる。正論が目立ったり秩序を乱すならば「あいつはダメだ」「やり方がダメだ」と横槍で攻撃が始まる。オレはこういう国じゃないようにしたい

タグ:

posted at 21:59:48

Dr. Chris Rackauckas @ChrisRackauckas

20年2月20日

I plan to write some semilinear PDE tutorials using all of the new tooling soon.

タグ:

posted at 21:57:32

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 ベイズ自由エネルギーについて、非常に大雑把に

F(β) = β⁻¹Ψ(β) ≈ E[H(w)|β/log n] =: WBIC

が成立している。E[H(w)|β/log n] は逆温度β/log nの事後分布のサンプルをMCMCで1回作れば近似計算可能です。

タグ: 統計

posted at 21:57:16

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 中間値の定理より、0とβの中間にあるβ*で

Ψ(β) = β E[H(w)|β*]

を満たすものが存在する。渡辺澄夫さんの発見は、サンプルサイズnのベイズ統計の場合には、β* の近似値として、β/log n が採用できるということです。これがWBICの構成の概略です。

続く

タグ: 統計

posted at 21:57:14

Dr. Chris Rackauckas @ChrisRackauckas

20年2月20日

This is absolutely amazing, and indeed it's design auto composes with DifferentialEquations.jl #julialang. BlockBandedMatricrs already gives around a 5x speedup over standard sparse techniques for implicit PDE solving: this would only compound that advantage. twitter.com/ArturoErdely/s...

タグ: julialang

posted at 21:56:59

はしはし @kj_hashi

20年2月20日

岩田先生のことはHPVワクチンのこと以外は信頼しています、と言うのを見かけて、何でやねんって関西弁が出てしまった。

タグ:

posted at 21:50:58

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計

Ψ(β)=∫_0^β E[H(w)|β]dβ の右辺の微積分函数の E[H(w)|β] は逆温度βのカノニカル分布(事後分布)のサンプルをMCMC法で作れば近似計算可能。

さらにその積分を実行すれば欲しいΨ(β)の近似計算も可能。実際そういう方法も提案されている。

続く

タグ: 統計

posted at 21:50:06

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 事前分布φ(w)の分配函数の対数の-1倍

Ψ(β) = -log Z(β) = -log∫exp(-βH(w))φ(w)dw

とカノニカル分布 p(w|β)= exp(-βH(w))φ(w)/Z(β) に関する平均をE[ |β]と書くと、

Ψ(0)=0, Ψ'(β)=E[H(w)|β]

なので

Ψ(β)=∫_0^β E[H(w)|β]dβ.

この表示がWBICの出発点。続く

twitter.com/genkuroki/stat...

タグ: 統計

posted at 21:50:05

k @musicisthebest_

20年2月20日

@sekibunnteisuu @OokuboTact もちろん非可換です。

タグ:

posted at 21:35:57

積分定数 @sekibunnteisuu

20年2月20日

@OokuboTact @musicisthebest_ 掛け算の順序の話でしょうか?

タグ:

posted at 21:35:22

黒木玄 Gen Kuroki @genkuroki

20年2月20日

結構、笑っている人が多いという印象。

私のTLは「不謹慎な奴ら」が多いということか?(笑)

タグ:

posted at 21:35:11

黒木玄 Gen Kuroki @genkuroki

20年2月20日

以下のリンク先の添付画像を見たら、岩田健太郎さんに対して「国民を不安と混乱に陥れる発言はどうぞ控えて下さい」とありますが、私のTLには不安と混乱に陥った国民は見当たらず、

* 岩田健太郎氏はすごい専門家である。

* 岩田健太郎氏は大迷惑な奴だ。

という話が流れまくっていて笑っている。 twitter.com/j_geiste/statu...

タグ:

posted at 21:35:11

黒木玄 Gen Kuroki @genkuroki

20年2月20日

「知り合いから聞いた」タイプの情報はデマである可能性が高いとみなされるべき。

そういうタイプの言い方で社会的地位によって信用されそうな人が情報を流すことが許されると、我々の社会はデマに対してより脆弱になってしまうと思う。

タグ:

posted at 21:20:39

黒木玄 Gen Kuroki @genkuroki

20年2月20日

【私が関係者に聞いた、岩田先生がダイヤモンドプリンセス号から下された事件の真相は、こちらの内容に近かったです】のように「私が関係者に聞いた~の真相」という言い方は非常に良くないと思う。このタイプの発言に頼ろうとした人達は恥を知るべき。

その「関係者」の名前を明示するべき。 twitter.com/yusuke_tsugawa...

タグ:

posted at 21:17:32

しょこ @anemptyarchive

20年2月20日

ATフィールドを生成します pic.twitter.com/WT8qGZBW3y

タグ:

posted at 21:16:45

OokuboTact 大久保中二病中年 @OokuboTact

20年2月20日

@musicisthebest_ > 腐ってる界隈

BL界隈

タグ:

posted at 21:11:38

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#数楽 渡辺澄夫『ベイズ統計の理論と方法』の第4章の内容は、特異点解消定理さえ認めてしまえば、

genkuroki.github.io/documents/2016...
一般化されたLaplaceの方法
(ガンマ函数を使って頑張る計算)

または

nbviewer.jupyter.org/github/genkuro...
分配函数のゼータ函数

の方法でかなり初等化できます。後者の方がシンプル。

タグ: 数楽

posted at 21:11:07

k @musicisthebest_

20年2月20日

不謹慎だと怒られそうだけど、岩田医師と高山医師の組合せキャラのバランスが絶妙で、ドグラ・マグラにおける正木博士と若林博士みたいだなて思った。こういうの腐ってる界隈が好物なんじゃないかと思うしもう薄い本書きはじめてる人がいてもおかしくなくてそのばあい多分高山受

タグ:

posted at 20:54:37

Hidekazu Shiozawa @shiozawa_h

20年2月20日

float f,g;void setup(){size(720,720);}int F(float x,float y,float p,float q,int d){float s=noise(g++,f);fill(s*255);rect(x,y,p,q);return d++>8?1:d%2<1?F(x,y,s*p,q,d)+F(x+p,y,s*p-p,q,d):F(x,y,p,s*q,d)+F(x,y+q,p,s*q-q,d);}void draw(){F(g=0,0,720,720,1);f+=.01;}#つぶやきProcessing pic.twitter.com/GlU27t7WaL

タグ:

posted at 19:15:03

新帯秀樹 Hideki Shintai @hs_heddy

20年2月20日

私の様なCPLEXとかGurobiソルバーが使えない「一般市民」は代替えソルバーはどんなものがあるか真剣に悩んでいます。#Julia言語

JuMP
www.juliaopt.org/JuMP.jl/dev/in...

タグ: Julia言語

posted at 19:06:56

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#数楽 予備知識が少なくてもすむように、Stirlingの公式の導出の仕方の一例の説明から始まる。

高校数学IIIの教科書を読んでいれば、不定積分∫e^{-x} x^n dxに繰り返し部分積分を適用してΓ(n+1)=n!を自分で証明できるはず。

結構、この「自分でできる」が数学では大事。

genkuroki.github.io/documents/2016... pic.twitter.com/YJggSCb6CE

タグ: 数楽

posted at 19:05:01

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#数楽 有限集合 {1,2,…,r} 上の確率のデータ (p_1, p_2, …, p_r) という設定に状況をできるだけ制限して、確率論の難しい議論が登場しないように工夫しました。

数学的道具が高級になりそうな方向に進むことは可能な限り避けて、大学2~3年生でも__本当に読めるように__書いたつもり。

タグ: 数楽

posted at 18:57:57

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#数楽 【黒木さんのSanovの定理の説明は、学部2年次くらいまでの数学で書かれていて、扱う内容に比してその意味で「易しい」】

こういうコメントはめちゃくちゃうれしい。

genkuroki.github.io/documents/2016...
Kullback-Leibler 情報量と Sanov の定理

の想定読者は、大学2〜3年生なのでドンピシャ! twitter.com/yosuke_hash/st...

タグ: 数楽

posted at 18:50:56

しょこ @anemptyarchive

20年2月20日

書きました。はてなブログに投稿しました #はてなブログ

3.2.2:カテゴリ分布の学習と予測【緑ベイズ入門のノート】 - からっぽのしょこ
www.anarchive-beta.com/entry/2020/02/...

タグ: はてなブログ

posted at 18:00:25

非公開

タグ:

posted at xx:xx:xx

非公開

タグ:

posted at xx:xx:xx

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 訂正

❌ハミルトニアンという名の確率変数H(X)という名のモーメント母函数

⭕️ ハミルトニアンという名の確率変数H(X)のモーメント母函数

この手のミスが結構多い。 twitter.com/genkuroki/stat...

タグ: 統計

posted at 16:36:02

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 大学1年生向けの微積分の題材として、ガンマ函数函数は定番だと思うのですが、

「ガンマ函数の対数導函数達(高階を含む)にはディガンマ、トリガンマ、ポリガンマなどの名前が付いていて、コンピュータで使える特殊函数ライブラリで大抵の場合に使える」

という注意もした方が良さそうですね。 twitter.com/genkuroki/stat...

タグ: 統計

posted at 16:05:16

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 ただし、「ベイズ統計モデリング」と「WAIC, LOOCV, 自由エネルギー, BIC, WBICなどを使ったモデル選択」は原理的に、p-hackingなどが原因と思われる研究の再現性の危機の問題を解決__しない__と考えられます。

この点に関しては非常に要注意。

タグ: 統計

posted at 14:56:56

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 関連優良書籍の紹介へのリンク

twitter.com/genkuroki/stat...

タグ: 統計

posted at 14:51:34

Interesting Things @ArtItNow1

20年2月20日

Amazing portrait drawing work by Cuong Nguyen pic.twitter.com/n9DDXrJ6lU

タグ:

posted at 14:10:43

the hash @yosuke_hash

20年2月20日

しかし、行動科学研究室の学生は、いまあれをやることになってるってことだよね。すごいなあ。

タグ:

posted at 14:04:50

the hash @yosuke_hash

20年2月20日

じゃあまあ、自分は順調に数学の勉強を続けられたとして、2年後くらいにSanovの定理がわかれば嬉しいかな…。『社会科学のための~』をポチッたので、それも読んでみるつもりだが、どっちにしろ数学を進めないと手が出なそう。

タグ:

posted at 14:02:37

the hash @yosuke_hash

20年2月20日

黒木さんのSanovの定理の説明は、学部2年次くらいまでの数学で書かれていて、扱う内容に比してその意味で「易しい」というのが私の数学の先生の話。渡辺ベイズ本は、ルベーグ積分など、ガチの数学科の人がやる内容も載っているから、それは流して読むしかないんじゃないの?とのこと。

タグ:

posted at 13:59:48

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 しかし、ベイズ自由エネルギーの近似計算としてのWBICについては原論文

www.jmlr.org/papers/volume1...

がわかりやすいと思います。

これを読めば、逆温度を巧妙に使える理屈もわかるし、コンピュータでの計算もできると思う。

タグ: 統計

posted at 13:57:25

塩谷 舞 mai shiotani @ciotan

20年2月20日

【募集】

コロナでの経済的損失、大打撃すぎてただただ傍観してるだけじゃ辛すぎる……

「お客さんが激減してる!」という飲食店やホテル、旅館、サービス関係のみなさま、よければリプ欄でぜひ宣伝してもらえませんか…

イチオシの写真と、Googleマップ等住所情報もつけていただければ最高です…

タグ:

posted at 13:56:21

黒木玄 Gen Kuroki @genkuroki

20年2月20日

あと、大森荘蔵の時間三部作やそこに書いてあることを褒め称えているように見える本も他人には絶対にすすめない。

「権威」ある思想的なトンデモ系は本当に有害だと思う。

タグ:

posted at 13:48:28

黒木玄 Gen Kuroki @genkuroki

20年2月20日

シュペングラーの引用が非本質的な一部分に限るのであれば、大して問題にならないと判断するのですが(完璧な本など存在しない)、全体が影響を受けているように見えた。

私ならばその本を他人には絶対にすすめない。

タグ:

posted at 13:45:28

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 もしかしたら、日本語でWBICの解説が書いてある本としても貴重なのかな。

WBICは逆温度βを含むように自然に一般化されたベイズ統計の枠組みの応用として面白いと思う。

統計力学との類似から逆温度の導入は自然。モーメント母函数型の式は非常に便利。

タグ: 統計

posted at 13:41:09

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 『社会科学のためのベイズ統計モデリング』は「ベイズ統計版のAIC, BICであるWAIC, WBIC」の「簡単な指数型分布族の場合の計算」が書いてある点もいいところだと思う。

自分でそういう例を作るのが大変だと思う人にはありがたいと思う。

タグ: 統計

posted at 13:35:14

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 ただし、指数型分布族や統計力学でのカノニカル分布の「事前分布」は積分が無限大になるいわゆるimproper事前分布であることが多いので、その点には注意が必要かも。

タグ: 統計

posted at 13:21:26

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 統計力学での分配関数はハミルトニアンという名の確率変数H(X)という名のモーメント母函数

Z(-β) = E[exp(-βH(X))]

に等しいので、普通に確率統計について学んだ人にとってもお馴染みのもの。

その計算は指数型分布族にそのまま応用可能だという話。

タグ: 統計

posted at 12:53:01

浜田宏 @hamada30137146

20年2月20日

@genkuroki 感想とコメントをありがとうございます.本書を社会科学系以外のかたにすすめていただき,うれしく思います.

タグ:

posted at 12:07:32

KJK @kkling51

20年2月20日

このニュース,大学入試の共通試験に対する信頼性,credibilityを根本から揺るがす大事件なのだけれど,英語の共通試験に関してはベネッセがこれをしてもいいと文科省はお墨付きを出してましたもんね.

東大や京大の試験作成の責任者が対策問題集を出すようなもん.この視学官も,そのうち天下るのか twitter.com/kotani_eisuke/...

タグ:

posted at 11:08:30

ytb @ytb_at_twt

20年2月20日

あだち先生といえば「フレーゲという比較的知られていない哲学者」というフレーズが忘れられない。 twitter.com/genkuroki/stat...

タグ:

posted at 10:51:18

八谷和彦 @hachiya

20年2月20日

今回の騒動でひとつ良かったのは、高山義浩先生を知ったこと。
彼の書いた、インフルエンザについてみんなが知っておいたほうがよい基礎知識。
やっぱり丁寧だし、読みやすくて素晴らしいな。
インフルエンザについて診察室で説明していること www.huffingtonpost.jp/yoshihiro-taka... @HuffPostJapanさんから

タグ:

posted at 10:36:24

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 続き。以下のリンク先の添付画像の汚い手書きのメモではまさにそういう計算を行なっている。

twitter.com/genkuroki/stat...

タグ: 統計

posted at 10:33:50

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計

自由エネルギーは本質的に分配函数の対数。

LOOCVも分配函数の対数で書ける。

WBICの計算では分配函数の対数微分が必要になる。

WAICの計算では分配函数の2階の対数微分が必要になる。

上から順に下に行くほど手計算が面倒になる。
統計力学をかじっていた人はこういう場面でも得をする。

タグ: 統計

posted at 10:30:39

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 統計力学でよくやる計算とは添付画像のような計算のこと。分配函数 Z(β) の対数導函数で、ハミルトニアン H(w) の平均と分散が自然に出て来る。 twitter.com/genkuroki/stat... pic.twitter.com/sR2YQ4UY8S

タグ: 統計

posted at 10:25:58

岩田健太郎 K Iwata, MD, M @georgebest1969

20年2月20日

高山先生は「実際はゾーニングはしっかり行われています。完全ではないにせよ」とお書きになっていますができてなかったのは事実でよって感染の危険を強く感じました。派遣前「クルーズ船の中の本部を外に出すようぜひ進言してほしい。私も何度も主張しているのですが」とおっしゃったのが高山先生です

タグ:

posted at 10:19:50

岩田健太郎 K Iwata, MD, M @georgebest1969

20年2月20日

高山先生がFBから情報公開しています。彼と公の場で議論するのはよくないし目標でもないので細かいことへの反論はしません。ただ大きな誤解あるといけないので一点だけ。

タグ:

posted at 10:19:49

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 事前分布φ(w)の事後分布をφ(w|X_1,…,X_n)と書くとき、X_k 達が1つもない場合の事後分布が事前分布なので、記号法的混乱で失敗し難い。

φ(w| ) = φ(w)

サンプルサイズ0であってもすべてがwell-definedなのはベイズ統計のformulationの良いところの1つ。コンピュータで実装する場合には要注意。

タグ: 統計

posted at 10:09:28

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 好みの問題なのだが、事前分布を φ(θ) と書くとき、事後分布を p(θ|xⁿ) と書くのは好きじゃない。それだと p(xⁿ|θ) と混同し易いし、「逆確率」によるベイズ統計の悪しき説明のスタイルと相性が良いので良くないと思う。

事後分布は事前分布の仲間なので φ(θ|xⁿ) のように書きたい。

タグ: 統計

posted at 10:03:39

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 以上のような理由で、統計力学を勉強したことがある人や現在勉強中の人も『社会科学のためのベイズ統計モデリング』も潜在的読者になり得ると思いました。

もしも著者達が大学キャンパス内で理系学生がこの本を持っているのを見かけたら、私にコーヒーを1杯くらい奢った方が良いと思う。😝

タグ: 統計

posted at 09:50:49

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 以下のリンク先のWBICの計算でも、ガンマ函数(分配函数Zの一種)の対数の導函数(digamma函数)が出て来ている。

特殊函数というくくりで見ると、全然整理されていないように見える汚い計算が、「統計力学でよくやる計算だ」と知っていれば、見通しを立て易くなる。

twitter.com/genkuroki/stat...

タグ: 統計

posted at 09:44:14

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 例: ガンマ分布は、

φ(w) = if w>0 then 1 else 0,
Z = Γ(α)θ^α

とおくとき

p(w) = Z⁻¹ exp(-w/θ + (α-1)log w)φ(w)

と書ける。1/θとα-1が「逆温度」。統計力学では分配函数の逆温度に関する微分がよく出て来るが、それを知っていると統計学で出て来る計算も見通しが良くなることがある。

タグ: 統計

posted at 09:40:48

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 統計学の教科書にある指数型分布族はカノニカル分布

p(w) = Z⁻¹ exp(-Σ_i β_i f_i(w))φ(w)

の形をしている。

例: wのベータ分布の密度函数は、φ(w)を0~1区間上の一様分布とするとき、

w^{a-1} (1-w)^{b-1} φ(w)
= exp((a-1)log w + (b-1)log(1-w))φ(w)

のZ=B(a,b)分の1倍に等しい。

タグ: 統計

posted at 09:34:28

岩永直子 Naoko Iwanaga『言 @nonbeepanda

20年2月20日

岩田先生が動画を削除したことを追記しました。なお、動画の内容に一部反論された高山義浩先生にも取材を申し込みましたが、ご自身ではないほうがいいとして、別の先生をご紹介いただいているところです。

www.buzzfeed.com/jp/naokoiwanag... @nonbeepanda

タグ:

posted at 09:24:04

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 以上のような感じで、『社会科学のためのベイズ統計モデリング』の第6章に書いてあるKullback-Leibler情報量関連の説明は、そこだけ読んでもスッキリできる類のことではないので、スッキリしなくてもそれで正常だと思って、他で補いつつ先に進めば良い。

タグ: 統計

posted at 09:19:18

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 田崎晴明さんの『統計力学I』のような良い本では、等確率の原理を仮定していない場合に理論がどのように拡張されるかまで、すぐに分かるような明快な議論が書いてある。

教養として統計力学を学ぶ場合には等確率の原理を仮定しない場合に理論が即拡張されることを知っておいて損がない。

タグ: 統計

posted at 09:16:19

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 あと、統計学の分野では、統計力学における「等確率の原理」にあたることは仮定しない。「等確率の原理」の定式化とみなされる一様分布は非常に特殊な分布。一般の確率分布を扱わないと統計学はやって行けない。事前分布φ(w)のカノニカル分布は

Z⁻¹ exp(-βH(w)) φ(w)

の形になる。

タグ: 統計

posted at 09:13:29

タビトラ @tabitora1013

20年2月20日

エゴサーチからの議論も得意なので、医療クラスタ内では名前を呼んではいけない人として知られている
何度も言うが専門分野においてはみんな一目置いている

タグ:

posted at 09:00:47

タビトラ @tabitora1013

20年2月20日

なんぼでもネットでの争いネタはあると思うけど、女医も育休中にヒマを探して論文書いたりできるっしょという論争でやり取りするのはほぼやめました
感染症の分野では尊敬するべきかなと思うので本も読むが

タグ:

posted at 08:57:17

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 田崎晴明著『統計力学I』p.76では

(状態数) = exp(Vσ + o(V)), Vは系の体積

という状態数の漸近挙動が物理的に仮定されています。

KL情報量のSanovの定理では

状態数 → 確率
V → n
σ → -D = -(KL情報量)

と置き換わる。

タグ: 統計

posted at 08:55:07

タビトラ @tabitora1013

20年2月20日

個人の感想ですが、10年くらい見てきた岩田先生は、リアルは知らんけど、ネット上では、感染症の分野ではみんな認めるが、ざっくり言うと医療クラスタから感染症以外の信頼はあんまされてないってかんじ。

タグ:

posted at 08:52:50

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 確率は系のサイズについて指数函数的な挙動を示すことが多いので、その対数を見た方が分かりやすくなることが多いのです。pにおいてn回続けて「晴れ」の予報を出す確率の

wⁿ = exp(-n(-log w))

はその最も簡単な場合です。確率の対数を考えることが自然な場合はたくさんある。

タグ: 統計

posted at 08:42:53

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 もっとも簡単な場合。qは「常に晴れる」で、pは「確率wで晴れて、確率1-wで雨」のとき、各々がpに従う長さn独立同分布確率変数列が「雨」を含まない確率は

wⁿ = exp(-n(-log w))

です。-log wがpによるqのシミュレーションでボロが出る速さになっていて、D(q||p)=-log wが成立している。

タグ: 統計

posted at 08:38:50

@shoemaker_levy

20年2月20日

この機会に高山義浩先生を知った人も多いのかもしれませんけど、高山先生こそ世界と日本の地域医療の現場を知り抜いた第一線の医師ですよ。しかも若月俊一の農村医学と地域医療の系譜の最良の部分を受け継いで、現代医療に接続されてる方だと思います。この本とか読むといい。
www.amazon.co.jp/dp/4260028197/...

タグ:

posted at 08:37:03

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 p≠qならばD=D(q||p)>0となるので、各々が分布pに従う長さnの独立同分布確率変数列の経験分布がqに近い確率exp(-nD+o(n))はnについて指数函数的に小さくなります。p≠qなら、pによる乱数生成によるqのシミュレーションはボロがあっというまに出る。ボロの出る速さがKL情報量D(q||p)です。

タグ: 統計

posted at 08:33:06

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 各々が確率分布pに従う独立同分布確率変数列X_1,…,X_nの経験分布(ヒストグラムを想像)が確率分布qに近く見える確率はexp(-nD+o(n))のように振る舞うのですが、DはKullback-Leibler情報量D(q||p)に等しい。これがSanovの定理。「~に近く見える」の意味の曖昧さはo(n)の項に吸収される。

タグ: 統計

posted at 08:27:07

黒木玄 Gen Kuroki @genkuroki

20年2月20日

ありゃ? 記事からリンクされている動画が削除されているではないですか!続報を期待。 twitter.com/nonbeepanda/st...

タグ:

posted at 08:14:10

黒木玄 Gen Kuroki @genkuroki

20年2月20日

『数とは何か』を教師志望の人に勧める場合には、その本が有名なトンデモ本であるシュペングラー『西洋の没落』を繰り返し引用しまくっていて、文化相対主義に異様に肩入れしていることへの警告が必要。

その本のそういう所を受け入れた人が中高生に数学を教えるようになるのは悪夢。 twitter.com/kamo_hiroyasu/...

タグ:

posted at 08:07:48

非公開

タグ:

posted at xx:xx:xx

たっくん @takuma_matsuo_

20年2月20日

こっちも可愛いから見てね pic.twitter.com/mlOF3pLF5b

タグ:

posted at 08:04:03

砂___の___女 @vecchio_ciao

20年2月20日

高山氏の投稿を読んで、素人の私が最も感じたのは、この非常事態においても横の機関に気を遣いながら仕事する余裕があるならまだまだ大丈夫なのかなという漠然とした安心感を与えてるよなって。(褒めてない)

タグ:

posted at 07:35:53

ふぁっふぉい @sugikota

20年2月20日

仰るとおりです。問題の本質に反論できず、「現場はがんばってるから仕方ない」としか言ってません。それでも感情に訴えて流れをつかみ、勝てて(?)しまっています。これこそが日本を停滞させている本質だと思うのですが。 twitter.com/masahirono/sta...

タグ:

posted at 06:46:53

Masahiro Ono 小野 昌弘 @masahirono

20年2月20日

ただの感想ですが、岩田先生のビデオは国際的に通用する論理で話をしていると思う。高山先生の記事は、国内向けの論理ばかりで疑問に思ったーこれはたとえば、英語に訳したら意味不明な点が明確になるかなと思う。あと、後者は前者の信用を落とすための余計な文章が多くて、ちょっと残念に思った。

タグ:

posted at 04:52:53

Olivier Grisel @ogrisel

20年2月20日

By the way in that same notebook you can also see SHAP (master branch) explaining the decision of sklearn.ensemble.HistGradientBoostingRegressor: pic.twitter.com/tTAl6QKsUa

タグ:

posted at 03:26:44

Olivier Grisel @ogrisel

20年2月20日

Here is the full notebook with the interactive plots at the bottom if you want to play with them:

nbviewer.jupyter.org/github/ogrisel...

Gradient Boosting to predict the price of houses in Ames. pic.twitter.com/eKjuay2aJ3

タグ:

posted at 03:23:10

Olivier Grisel @ogrisel

20年2月20日

Plotly's interactive parallel coordinates plot is really nice to build some insights on the impact of hyper-parameters on the generalization performance. pic.twitter.com/ekOVDqIjwi

タグ:

posted at 03:23:07

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計

ベータ♪ ガンマ♪ ディガンマ♪ トリガンマ♪ … 😘

と歌いながら、

「面倒だから数値積分しちゃお!」😝

とか

「面倒だからMCMC回したろ!」😋

というのももちろんありだと思います。😊

あと、WolframAlphanを試してみるとか。😆

タグ: 統計

posted at 01:54:44

Dream Scatter @dreamscatter

20年2月20日

Grassmann.jl uses the OG (Original Grassmann) definition for complement duality, compatible with differential geometry and Hodge-DeRahm co/homology theories ~ grassmann.crucialflow.com pic.twitter.com/9nvkpi6wzT

タグ:

posted at 01:45:07

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 数学科の学生が「具体的に、ベイズ統計を使って、社会的にどんな統計分析をできるの? 数学的にはどんな雰囲気?」のように思っていたら、この本を読むべきだと勧めることができます。

特にアクチュアリーを目指す学生に知識の幅を広げてもらうためにお勧めできるかも。

タグ: 統計

posted at 01:43:11

Erik Engheim @erikengheim

20年2月20日

@thomas_berg1 Nå har du grunn til å installere #JuliaLang Thomas! Med Cxx.jl pakken får du C++ på kommanlinjen om du vil 😉 Grei til å teste ut STL thing f.eks. uten å kompilere et helt program. github.com/JuliaInterop/C...

タグ: JuliaLang

posted at 01:38:38

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 『社会科学のためのベイズ統計モデリング』を所謂理系の人が見つけても、偏見のせいで、「社会科学のために」と書いてあるという理由で中身を見ない危険性があると思いました。

以上の紹介を見れば分かるように、数学ができないと読めそうもない本になっています。

タグ: 統計

posted at 01:38:36

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 指数型分布族のモデルのばあいに、有名な特殊函数を使った公式を作るときには

自由エネルギー < LOOCV < WBIC < WAIC

の順に計算が面倒になります。楽な順番に計算するといいです。LOOCVも解説もあった方が楽しいです。

初心者のうちは、自由エネルギーだけでも立派なものだと思う。

タグ: 統計

posted at 01:34:18

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 p.123のPoisson分布モデルのWAICの計算でも【今回のような簡単なモデルでも,解析的な計算が困難です】とあってMCMCの結果を使っていますが、ディガンマとトリガンマなどで書けるはずです(面倒は面倒)。

統計関係はコンピュータで使える特殊函数が充実していてそれに頼るとお得です。

タグ: 統計

posted at 01:29:36

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 ベルヌーイ分布モデルの場合もそうなのですが、簡単な確率モデルの式にはガンマ函数(やベータ函数)がよく出て来る。それらの導函数を扱うと、ディガンマ函数やトリガンマ函数が出て来る。 pic.twitter.com/OThDAj3Icv

タグ: 統計

posted at 01:19:34

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 私のノート

nbviewer.jupyter.org/gist/genkuroki...

では、予測分布で比較しているのでベイズと最尤法が一致する(他のモデルでは普通は不可能な)事前分布は improper な "Beta(0,0)" になっていますが、『社会科学のためのベイズ統計モデリング』ではMAP法と最尤法が一致する一様事前分布を使っていますね。

タグ: 統計

posted at 00:50:21

非公開

タグ:

posted at xx:xx:xx

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 「統計モデリング」をやっても、仮説検定やら信頼区間といった古典的な話題も忘れる必要はなくて、全部連続的に繋がっている、というような「穏健で視野を狭めない理解の仕方」が好ましいと思う。

タグ: 統計

posted at 00:43:56

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 例: 最尤法は、少なくとも形式的には、逆温度β入りのベイズ法のβ→∞(絶対温度0)の極限に等しい。

例: ベルヌーイ分布模型のようなシンプルなモデルでは、事後分布からP値の類似物を定義すると、二項分布の正規分布近似による通常のP値に近い値になる。

タグ: 統計

posted at 00:39:45

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 例: サンプルの平均や分散を計算するという記述統計の基本の1つは、サンプルの経験分布にもっとも適合する正規分布を求めることに等しい。

例: 2×2の分割表の独立性のχ²検定はあるモデル1とそのパラメータ空間を帰無仮説「オッズ比=1」で制限して得られるモデル0の最尤法の比較になっている。

タグ: 統計

posted at 00:35:31

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 三種の神器

* 大数の法則
* 中心極限定理
* Sanovの定理 (Kullback-Leibler情報量)

は普遍的。仮説検定、信頼区間、最尤法が互いに密接に関係していることはよく知られていると思うが、記述統計からベイズ統計まですべて連続的に繋がっているというような理解が好ましいと思う。断絶はない。

タグ: 統計

posted at 00:28:46

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 添付画像は p.85より。pp.83-84に詳しい計算が書いてある。

genkuroki.github.io/documents/2016...
の第1節

www.jstage.jst.go.jp/article/butsur...
p.610の右側

と同じ計算。 pic.twitter.com/y1JiW3wp34

タグ: 統計

posted at 00:23:05

黒木玄 Gen Kuroki @genkuroki

20年2月20日

#統計 【この辺の注意を明瞭に書いてある解説は珍しいです】

その珍しい例

島谷健一郎著
『ポアソン分布・ポアソン回帰・ポアソン過程』
統計スポットライト・シリーズ2
近代科学社 2017
www.amazon.co.jp/dp/B076LVLLSF

Kullback-Leibler情報量が多項分布の確率の対数の漸近挙動に出て来ることの説明。 twitter.com/genkuroki/stat... pic.twitter.com/N5gZ1K41Vg

タグ: 統計

posted at 00:19:49

非公開

タグ:

posted at xx:xx:xx

非公開

タグ:

posted at xx:xx:xx

やなぎさわまどか @madoka_yng

20年2月20日

「小6の息子が消しゴム買ってっていうから、黒いのはどうしたの?って言ったら「先生がダメだって」と言うので、そんな訳ない普通の消しゴムだしと思って、明日もう一回聞いてみな、って理由を聞かせたら、本当にダメだったの!理由は「白じゃないから」なんだって!」という話を聞きクラクラした🌀🌀

タグ:

posted at 00:09:49

Arturo Erdély @ArturoErdely

20年2月20日

Parallelizing a Specialized Matrix Type in #julialang
mdavezac.github.io/blog/

タグ: julialang

posted at 00:01:19

@genkurokiホーム
スポンサーリンク
▲ページの先頭に戻る
ツイート  タグ  ユーザー

User

» More...

Tag

» More...

Recent

Archive

» More...

タグの編集

掛算 統計 超算数 Julia言語 数楽 JuliaLang 十分 と教 モルグリコ 掛け算

※タグはスペースで区切ってください

送信中

送信に失敗しました

タグを編集しました