黒木玄 Gen Kuroki(@genkuroki)/2019年08月30日

金曜ロードショーでラピュタを見るとこうなる pic.twitter.com/apORIQ4A5r

タグ：

posted at 23:56:01

積分定数 @sekibunnteisuu

かけ算の順序論者の皆さん、見てますか？ twitter.com/onayamitencho/...

タグ：

posted at 23:48:59

Katsushi Kagaya @katzkagaya

まさに、こういう考え方に出会ったわけで、対立構造や主観確率が不必要であることをユーザーとしては権威が英語でもはっきり言っておいてくれると嬉しいな、と。もちろん、丁寧に反論を用意しますが。twitter.com/genkuroki/stat...

タグ：

posted at 23:29:37

戌一いぬいち @inu1dog1

獣たちは日々進化を続け、ついに連弾まで始まった。
もはや言葉が出ない。 pic.twitter.com/6NT5z0fir6

タグ：

posted at 23:27:23

前田敦司 @maeda

“つくば市議会議員小森谷さやか氏は、「ワクチンで感染を防げる人の割合は0.007%、10万人に7人ほど」と主張している。医学的には完全に誤りだ”"厚生労働省が示してない数字を捏造" / “HPVワクチンをめぐる「ファクトロンダリング」 - NATROMのブログ” htn.to/2jioQboTzU

タグ：

posted at 23:19:13

Katsushi Kagaya @katzkagaya

赤池先生のこれ、英訳はされてないんでしょうか？

「統計的推論のパラダイムの変遷について」
ismrepo.ism.ac.jp/index.php?acti...

タグ：

posted at 23:06:57

Katsushi Kagaya @katzkagaya

「ベイズ事前分布は主観的、最尤法使え」という典型的なコメント。日本人かどうか分からないが、AIC以前の主義の時代の統計学はまだまだ国内外問わず根強く残っていきそうだ。

タグ：

posted at 23:03:37

りんご @aomoriringo

Mathematicaだと使えるキモくて最高な関数がDynamic, Animate, Manipulateなんだが、残念ながらJupyter上では使えない。一応Jupyterの上では動画で再生されるが、描画されているスライダーを自分で操作することができない。 pic.twitter.com/aOHOuFcwdS

タグ：

posted at 22:51:32

#統計私が一連の話題の中で、

信頼区間は数学的モデルに強く依存していることを統計学入門の解説がクリアに説明しようとしない行為

を強く批判しているのは、以上のような話題とも関係しているからです。

タグ：統計

posted at 22:47:19

#統計そのように主観確率を定義したなら、正規分布モデルを使った区間推定はもろに「主観確率に基づく統計分析」になってしまうでしょう。

なぜならば、過去の情報、知識、経験などから、正規分布モデルを使った区間推定がうまく働くだろうという判断がその統計分析には含まれているからです。

タグ：統計

posted at 22:47:18

#統計東大出版会『統計学入門』には【研究者が主観的にある確率を与えて分析を行う方法がある。この方法で与えられる確率は研究者の得られる情報、知識、経験などによって異なる可能性があり、主観確率～と呼ばれる】と書いてあります。続く

タグ：統計

posted at 22:47:15

味覚クリティカル @1806_04679

「スターリングの公式からガンマ関数の積表示が証明できる」みたいなんですけど...知られてるんですかこれ

タグ：

posted at 22:41:37

#統計「人間がすることにはすべて主観が入る」というような話になってしまうと、自明過ぎてつまらない議論にしかなりようがないです。

事前分布選択に主観が入るという話はそういう自明過ぎてつまらない話としてのみ意味があると思う。

タグ：統計

posted at 22:35:05

#統計実際には(理解度が低い人達の間で)論争になり易いのは、パラメータ付き確率分布モデルとして何を選ぶかに主観が入ることではなく、もっぱら事前分布の選択に主観が入ることです。

パラメーター付き確率分布モデルの選択には事前分布の選択以上に主観が入ると思うのだが。

タグ：統計

posted at 22:35:05

#統計ある人が「この母集団分布は正規分布だと主観的に思っている」と言いつつ、その母集団のサンプルから正規分布モデルを使った平均の信頼区間を求めたら、それは「主観確率」に基く統計学になるんですかね？

それが正しいなら頻度主義統計学も「主観確率」に基く統計学になると思うのだが(笑)。

タグ：統計

posted at 22:35:03

#統計こういう話を「事前分布として無情報分布を採用する話をしているのか？」のように解釈する人はベイズ統計を理解していないことがそれだけで確定すると思う。

タグ：統計

posted at 22:16:05

#統計続き。誤りである理由は、主観確率抜きであってもベイズ統計は有用な道具であり、実際に主観確率抜きでベイズ統計が使われているから。

ベイズ統計の利用の正当化に主観確率の概念が不要であることを理解しているかどうかをずっと問題にしている。

タグ：統計

posted at 22:16:04

#統計「主観確率」の概念を擁護したい人は(ちなみに私はツイッターで擁護したことがある)、

学習指導要領解説【ベイズ推定は主観確率を用いて行われている】

東大出版『統計学入門』【この主観確率に基く統計分析は～ベイズ統計学～と呼ばれ～】

という説明が誤りであることを認めないとダメ。

タグ：統計

posted at 22:16:03

Haruhiko Okumura @h_okumura

アクセスできなくなったRikaTanサイトのアーカイブ: web.archive.org/web/2019060516...
上記からはダウンロードできない「「謎水装置」ＮＭＲパイプテクターに翻弄される人々」PDFへの直リン（小波先生のサイト）: konamih.sakura.ne.jp/Documents/Pipe...

タグ：

posted at 20:35:41

このままいくと、学びの基礎診断という名前で、高1高2もテスト漬けの日々になる。これが次の世代の若者たちに提供するべき教育環境として適切なものとは到底思えない。
www.mext.go.jp/a_menu/shotou/... pic.twitter.com/vSferPGGri

タグ：

posted at 20:08:25

miyamath @miyamath84

GeoGebraの新機能Notesについて活用方法を模索中…。
www.geogebra.org/notes

タグ：

posted at 19:57:15

あんちもん2 @antimon2

リンク先がスライドじゃなかった…orz
多重ディスパッチ入門→hackmd.io/@antimon2/Bkmw...
型システム入門→hackmd.io/@antimon2/Sy28...
です。 #Julia言語 twitter.com/antimon2/statu...

タグ： Julia言語

posted at 19:51:48

『「山月記」はなぜ国民教材となったのか』第4章の簡単な紹介
twitter.com/RochejacMonmo/...
「山月記」の教材史を見ているのに、国語教育に関する論争は既視感にあふれ、まるで今日の論争を見ているかのような気配すらある。

タグ：

posted at 19:40:26

ふとうまゆ @GIGATHICK_FTMY

@saguzi pic.twitter.com/lWfEt02pFX

タグ：

posted at 19:36:50

あんちもん2 @antimon2

Juliaらしい設計の仕方をQiita記事にしようとして停まってます…その代わり、前回前々回の #JuliaTokai で多重ディスパッチ入門（hackmd.io/HTwZMExaTBC9r8...）と型システム入門（hackmd.io/GhNt_w-ZTACWvD...）の話をして設計に誘導を画策中です実は #Julia言語
 twitter.com/genkuroki/stat...

タグ： JuliaTokai Julia言語

posted at 19:36:04

さぐじ @R18394

注文していたTシャツがやっと届いた。
分かる人には分かる柄です。 pic.twitter.com/CR1MoNJlgi

タグ：

posted at 19:27:57

マナマの生マナマコ @chor0sK

仕事で使う言語をpython からjuliaへ切り替えました

タグ：

posted at 18:56:37

モト@PPMMPP @29silicon

記事にはヨウ素の放射能まで調べると書いてある。放射性のヨウ素131の半減期は8日である。事故後、8年だから半減期の３６５倍の期間が過ぎた。計算するとヨウ素131は事故時の10^110分の１…

ソウル市、日本産水産物に対する放射能無作為調査へ…リアルタイムで結果を公開 japan.hani.co.kr/arti/internati...

タグ：

posted at 18:47:58

闇のapj @apj

大学が公平公正な入試をしている今のままだと，韓国みたいに偉い人の子供をゴニョゴニョできないから困る，って話ですよねこれ　＞　大学入試「20年度は大きな改革でない」　下村博文氏：日本経済新聞 www.nikkei.com/article/DGXMZO...

タグ：

posted at 18:45:59

冲方先生のブログ、いまのところ慰安婦像に言及した個所に怒ってる人が多いんだけど、そもそも前提となってる世界観が「ザ・陰謀論」にみえますね。

タグ：

posted at 18:33:27

「いわゆる『分割統治』の手法である。／そもそも朝鮮半島の『分断に成功』したのは、もっぱらアメリカだ」アメリカは朝鮮半島を分割統治するために自分に敵対的な北朝鮮をつくったんですか？それ分割しただけで統治してないんじゃ……。

タグ：

posted at 18:29:08

ぱうぜ @pauze_pauze

Rstudioのプロジェクト機能と連動して使うことができる分、Jupyter notebookより使いやすい

タグ：

posted at 18:24:53

Ishida the Brain Dam @tbs_i

大学院重点化をあんな惨状にした人達が推進してるからねえ… twitter.com/genkuroki/stat...

タグ：

posted at 18:20:21

「『隣国は仲が悪い』法則だ。隣り合ったコミュニティは競争意識によって互いを敵視する。それが大国だろうと、埼玉県の東武線と西武線だろうと、変わりはない。（中略）この気分を大いに利用したのが、ヨーロッパ諸国によるアフリカの植民地政策だ」

タグ：

posted at 18:19:24

「もし自分が１５０年後の高校生で歴史を学んでいるとしたら、『あーあ、もし日中朝台で統一経済圏を作れていたら、世界最強だったのにね』が第一印象だ。（中略）もちろん欧米、とりわけアメリカはそんなことをよく知っているし、そうさせないための最も単純な手法も知っている」

タグ：

posted at 18:17:44

冲方丁先生が、アメリカはアジア圏を分割統治するため、朝鮮半島を故意に南北に分断するようにしたとするアクロバティックな世界観を唱えているんですけど……。
towubukata.blogspot.com/2019/08/httpsw...

タグ：

posted at 18:15:05

@genkuroki ああ、そこでしたか。「逆向きの極論」はOOPとは関係なくて、「□□なしでは〇〇できない」と「□□なしでも〇〇できるので□□は不要」の両方の極論はOOP以前から常にあったという話のつもりでした。

タグ：

posted at 17:12:23

というわけで、エアリプライですが、multiple dispatchはsingle dispatchの上位互換だから、multiple displatchに制限をかければsingle dispatchでできることは全部できるという、CLOS以来の話だと読んだけど、違うの？ twitter.com/genkuroki/stat...

タグ：

posted at 17:08:23

@kamo_hiroyasu ああ、かもさんごめんなさい！これは私の側が一方的にクズな反応の仕方をしていました！

最重要キーワードは【逆向きの極端】であり、その後の部分は単なる例示でしたね。

ごめんなさい😭

タグ：

posted at 17:03:50

@kamo_hiroyasu single dispatchを実装できるとまでは言っていませんよね？

やはり、理解していないようですね。この件ではこれ以上やり取りする気になれないので、言いたいことがあればエアリプライでもして下さい。

#Julia言語

タグ： Julia言語

posted at 16:56:01

大須賀覚 @SatoruO

Twitterが科学界に与えるインパクトはどんどん大きくなっています。その良い例がこちら

Natureに新しい論文が出た直後に、図に疑わしい箇所があるとTwitter上で指摘。それに対してNatureの公式アカウントが「すぐに調査します」と返事

捏造の有無はまだ不明だが、Twitterの迅速性が生かされている twitter.com/MicrobiomDiges...

タグ：

posted at 16:56:00

Yasuhiko TAKANASHI @YTAKANASHI4

エクセルやSPSSの使い方、みたいなデータ分析関連の授業ばかりが幅をきかせているのが現状。
統計は確かに道具の一つだと思うが、それなりに苦労しないと結局は使い方を間違えてケガをする。 twitter.com/genkuroki/stat...

タグ：

posted at 16:50:45

@genkuroki もともとの話は、Juliaにはmultiple dispatch があるからそれを使ってsingle dispatchを実装できるという話ですよね。

タグ：

posted at 16:50:40

#Julia言語のパッケージの中で非常にOOP的な感じがするのは、DIstributions.jl (確率分布のフレームワーク)です。このパッケージについて学べばOOP的なパッケージを作りたい人は困らないと思います。

もちろんmultiple dispatchのもっと自由なスタイルの方がJuliaでは普通。

タグ： Julia言語

posted at 16:32:24

#Julia言語注意：以下のリンク先のなんちゃっての例は

moduleを使っていない

という点で実用的には不完全な例になっているので注意。

twitter.com/genkuroki/stat...

タグ： Julia言語

posted at 16:24:55

柳井政和＠技術書、ゲーム、ソフト、小説 @ruten

@kamo_hiroyasu 内容を理解せずに反応していませんか？理解しているかどうかがわかるように、 #Julia言語の試験問題を出しましょうか？

タグ： Julia言語

posted at 16:21:52

IKEAの家具は、ネジがすぐ壊れるから二度と買わないと思っていたが、こういうことだったのか。→ IKEAの家具の組立には普通のプラスドライバーを使ってはいけない : トイレのうず／ブログ 1010uzu.com/blog/do-not-us...

タグ：

posted at 16:17:45

増田の准教授 @ProfMasuda

最後の締めはさすがにおいちょっと待て、という…
「大学には、一点刻みではない多様な入試をしてほしい。ただ、『公正公平ではない』という社会の批判に耐える覚悟と決意が大学にあるかという問題はある」
大学入試「20年度は大きな改革でない」　下村博文氏: 日本経済新聞 www.nikkei.com/article/DGXMZO...

タグ：

posted at 15:40:39

#統計どんなに苦労して素晴らしい能力を身に付けても、活躍する機会(もっとぶっちゃけた話をすると高収入を得られる機会)がなければ、その様子を見ていた後輩たちは「易きに流れるのが吉」と学習してしまうのではないか？

そういう傾向に教育する側が対抗するのは基本的に無理な話だと思う。

タグ：統計

posted at 15:37:43

TOCHINAI Shin @5goukan

【高校生諸君！これがA級戦犯だ！！】大学入試「20年度は大きな改革でない」下村博文氏:日本経済新聞 www.nikkei.com/article/DGXMZO... 「一点刻みではない多様な入試をしてほしい・『公正公平ではない』という社会の批判に耐える覚悟と決意が大学にあるか」と新しい入試が公正公平ではないことを認めている。

タグ：

posted at 15:36:56

#統計世間一般では「データサイエンス」とやらがブームらしく、大学の教育にもそういう方向に動くように圧力がかかっているのだが、数学的にややこしいことを自由自在に扱える人を育てるのは大変なことであり、流行に乗った浅はかなやり方ではくだらないことに労力が払われるだけになると思う。続く

タグ：統計

posted at 15:34:20

ぱうぜ @pauze_pauze

R notebookを試してみることにした

タグ：

posted at 15:31:59

#統計「だから統計力学を習った人は本質的に知っているはずの話」と書いたが、数学的にそれなりにややこしい話は習っていても全然理解できていないことの方が普通だと思う。

何歳になっても基本的なことが分かってなかったという理由で勉強が必要になる。

タグ：統計

posted at 15:31:09

#統計田崎晴明著『統計力学I』4.2節では、1つ前のツイートの結果を、有限集合上の一様分布に制限した場合で、物理的には一般化された場合に(物理的に大偏差原理を仮定する、エントロピー密度の存在を仮定する)証明している。

だから統計力学を習った人は本質的に知っているはずの話。

タグ：統計

posted at 15:28:40

#統計一般に、分布q(x)のサンプルX₁,…,X_nについて

(1/n)Σ_{i=1}^n f(X_i) ≦ c または ≧ c

型の制限する条件付き確率分布を考えると、n→∞で(分布q(x)に相対的に決まる)カノニカル分布

q(x|β) = Z(β)⁻¹ exp(-βf(x)) q(x)

が出て来る。コンピューターで数値的に確認すると楽しい。

タグ：統計

posted at 15:23:03

大隅典子＠東北大学（『小説みたいに楽しく @sendaitribune

#統計非自明な訂正：以下のリンク先で

❌「平均に上限を設けるだけではなく、効用に下限」
⭕️「平均に上限を設けるだけではなく、効用の平均に下限」

twitter.com/genkuroki/stat...

タグ：統計

posted at 15:23:03

あ〜る菊池誠(反緊縮)公式 @kikumaco

なつのモデルは奥山玲子さんという東北大学教育学部（あるいは短期大学）の卒業生でした！　＞＞＞　連続テレビ小説「#なつぞら」記念すべき100作目は、戦後、北海道の大自然、そして日本のアニメーション草創期を舞台に…… www.nhk.or.jp/natsuzora/

タグ：

posted at 15:10:51

まあ東京新聞だから twitter.com/konamih/status...

タグ：

posted at 15:07:11

こなみひでお @konamih

東京新聞がインチキ浄水器の宣伝に加担してしまっている。「赤さびが無害化する仕組み」の図一発で科学の常識があればナンセンスな代物とわかる。
東京新聞:探訪　都の企業：＜水のインフラ編＞【上】英王室信頼の透明度　日本システム企画（渋谷区）(TOKYO Web) www.tokyo-np.co.jp/feature/kigyou...

タグ：

posted at 15:02:28

@genkuroki 逆向きの極端で、「クラスなしでもこのとおりOOPできるのでクラスは不要」と主張する人もいます。「構造化構文なしでもこのとおり構造化プログラミングできるので、gotoだけあれば良い」以来の伝統芸です。

タグ：

posted at 14:48:01

「#Julia言語にはClassがないので、プログラム全体をどのように設計したら良いのかわからない」というような発言が継続的に出て来ることには、「現代における実践的なプログラミング教育の闇」を感じる。

タグ：

posted at 14:40:22

#Julia言語 Jupyter上で安定して使い続けることが難しいPlotlyJS.jlパッケージなのですが、Plots.jlのバックエンド経由で試してみたら、以下のリンク先のようにマウスでグリグリ動かせる状態が「復活」していました。

nbviewer.jupyter.org/gist/genkuroki...

しかし

Unable to load WebIO.

と警告が出る。😅 pic.twitter.com/vvehzRRjnp

タグ： Julia言語

posted at 13:40:00

特に、35度以上の高温の日はたいてい湿度も高くて暑さ指数も非常に高い値を示すため、熱中症の搬送が非常に多くなることが知られています。

www.jaam.jp/html/info/2015...

部活動をさせるなら、必ず大人が責任を持って管理するようにしてください！！！

タグ：

posted at 12:39:59

また「水を摂りすぎるとバテてしまうのでかえってよくない」という論理は環境庁も公式に否定しています。

熱中症の直前の行動はダッシュなど体に負担のかかる運動であることが知られており、根性論で負荷の高いトレーニングをさせることはものすごく危険です。

www.pref.ishikawa.lg.jp/kenkou/necchuu...

タグ：

posted at 12:39:58

1975年から2017年の間、クラブ活動中に熱中症で死亡したのは実に146人に上ります。

ハイ、10代でも壊れます。

なおこのうち37人が野球部で、2番目のラグビーの17人と比較しても圧倒的に野球が少年を殺しています。

廣岡さんが死ななかったのは単に運が良かっただけです。

sp.fnn.jp/posts/00351160...

タグ：

posted at 12:39:58

この記事にある

"暑さ対策はあくまで大人の論理。10代の若者の体力というのはそれで壊れるほどヤワではない。十分に免疫力がある。"

という部分。

データを元に検証してみたいと思います。

headlines.yahoo.co.jp/article?a=2019...

タグ：

posted at 12:39:56

質問者2 @shinchanchi

賃金と物価が上がって来て欲しいものです。

15〜64歳の就業率は77.9%で比較可能な1968年以降で最高だそうです。

全年齢ですと就業率60.7%
昭和48年頃は65.4%なので、高齢者がもっと働くようになる？

タグ：

posted at 12:31:49

#統計自明な誤植訂正：リンク先で

❌「事前分布」→⭕️「事後分布」

ひどいな。ごめんなさい。

twitter.com/genkuroki/stat...

タグ：統計

posted at 12:28:44

#統計カイ二乗分布を使う古典的な対数尤度比検定の話とは具体的にはWilks' theorem

en.wikipedia.org/wiki/Wilks%27_...

タグ：統計

posted at 12:23:43

ごまふあざらし(GomahuAzaras @MathSorcerer

#統計モデル0のパラメーターがモデル1のパラメーターのサブセットで、サンプルを生成した真の分布をモデル0のパラメーターで実現可能なときには、WAICやLOOCVやAICによるモデル選択が失敗する確率はn→∞でも0に収束しないことに注意。

AICの場合はカイ二乗分布を使う古典的な対数尤度比検定の話。

タグ：統計

posted at 12:20:47

わかる & わかる＆わかる twitter.com/genkuroki/stat...

タグ：

posted at 12:16:14

質問者2 @shinchanchi

遅行指数とはいえ金融政策一本足打法で良くここまで…
増税しなかったら、もっと早く良い数字になっていたのでは？
10月に更に増税とか、雇用や消費を下押しする政策はやめて欲しい

完全失業率2.2%に低下　7月、26年9カ月ぶり低水準: 日本経済新聞 www.nikkei.com/article/DGXLAS...

タグ：

posted at 12:12:26

Takahara Masayuki @m_takaharasan

ごまふあざらし(GomahuAzaras @MathSorcerer

1995年から2016年までの期間は、戦後最大のバブルの崩壊、1997年の日本の金融危機、2008年リーマンショックといった大きなマイナスのショックの連続したやや特殊な時期。この期間を「正常」と見て、「経済の正常化」を進められてはたまらない。

タグ：

posted at 11:27:20

加藤公一, 가토우 기미카즈（はむかず） @hamukazu

ホワイトボードが嫌なの、そこにあるペンが使える状態なのかを判別するのが非自明だからだろうなー。かける面の
広さも担保したい。

タグ：

posted at 11:15:58

参考資料として東大数理科学研究科の大教室の黒板の写真がどこかに落ちてないかと探したが、これくらいしか見つからなかった。巨大さが伝わるだろうか。
utf.u-tokyo.ac.jp/project/pjt49

タグ：

posted at 11:09:33

#統計得られたサンプルの次に何が出るかの予測性能重視のモデル選択ならWAICやLOOCVを使い、サンプル生成法則の予測性能重視なら自由エネルギーを使う。

どちらを使っても、事前分布もモデル選択に影響を与えるので、選択される「モデル」は事前分布を含むと理解しておく必要があります。

タグ：統計

posted at 11:09:12

加藤公一, 가토우 기미카즈（はむかず） @hamukazu

#統計要するに、自由エネルギー(の近似値)の大きさの比較によるモデル選択は、未知である真の分布qのサンプル生成法則により近いサンプル生成法則を持つベイズ統計の数学的モデルの選択を目指していることになります。

タグ：統計

posted at 11:06:01

数学・物理の人がホワイトボードじゃなくて黒板にこだわるの、書きやすさとかの面もあるだろうけど、面の広さの問題が大きいと思ってる（黒板の方が広大なの作りやすい）

タグ：

posted at 11:03:29

#統計すべてをKL情報量の視点から見直すことをマスターしていないと、本当に知りたい量は自由エネルギーの(サンプルを動かす)期待値の方であることにも、自由エネルギーの実現値をその推定量として用いるという一見無謀に見えることをしていることにも気付けないと思う。

タグ：統計

posted at 11:00:13

#統計続き～、自由エネルギーの漸近挙動の支配的な項を上から順に書くと

F_n - nL_n(w₀) = λ log n - (m-1)log log n + O(1)
(右辺で確率的に揺らぐのはO(1)の部分)

となることが分かるので(渡辺澄夫)、(大小比較だけが重要な)モデル選択には十分に利用できます。

タグ：統計

posted at 10:56:40

#統計続き。そこで、本当は知りたい自由エネルギーF_nの期待値の推定量として、自由エネルギーF_nの実現値を使うというアイデアがアイデアがあります。

これだとまるでサイコロの出目の期待値3.5の推定地として、サイコロの出目(例えば6)を使っているかのように聞こえて無謀に感じられるのですが～

タグ：統計

posted at 10:56:40

#統計サンプルの確率的生成法則のあいだのKL情報量は定数差を除いて、自由エネルギー

F_n = - log Z(X₁,…,X_n)

の未知の分布qを使った期待値に等しい。本当に知りたいのはこれの期待値の方なのですが、それは未知の分布qが未知のままでは無理。続く

タグ：統計

posted at 10:56:39

#統計ベイズ統計で使う数学的モデル内部でのサンプルの確率分布の確率密度函数は

Z(x₁,…,x_n) = ∫p(x₁|w)…p(x_n|w)φ(w)dw.

一方、真の未知の分布のそれは

q(x₁)…q(x_n)

です。この２つの分布のKL情報量は

E_{X_i～q}[-log Z(X₁,…,X_n)] + (qのみで決まる定数)

と書けます。続く

タグ：統計

posted at 10:56:38

#情報 (KL情報量)=-(相対エントロピー)については約40年前の赤池弘次さんの論説も非常に良いです。

KL情報量の視点から統計学における基本的な考え方をきっちり整理したのは赤池弘次さんだと思います。

twitter.com/genkuroki/stat...

タグ：情報

posted at 10:34:57

#統計

 genkuroki.github.io/documents/2016...
Kullback-Leibler 情報量と Sanov の定理
黒木玄

の解説が長くなった理由は

* 論理的には雑だが近付きやすい経路

* 正確な定式化と厳密な証明

の両方について別々に書いたからです。両方書いてある。

「厳密な証明」に偏らないように注意しました。

タグ：統計

posted at 10:30:50

#統計直観的にクリアな理解や可能な限り初等的な理解は、原理原則に戻ってすべてを考え直すことによる理解を目指さないと絶対に得られないと思います。

しかし、対象の難易度が高いとそれは大変。

そういうことが得意な誰かが解説文を書く方が社会的な効率は上がると思いました。

タグ：統計

posted at 10:25:48

#統計おまけ：渡辺澄夫『ベイズ統計の理論と方法』では、分配函数の漸近挙動を対応するゼータ函数を使った精密な評価の形で出しているのですが、大学1年生レベルの計算でも出せると思います。

genkuroki.github.io/documents/2016...
一般化された Laplace の方法
黒木玄 pic.twitter.com/NZIKlzcWdc

タグ：統計

posted at 10:25:47

#統計渡辺澄夫『ベイズ統計の理論と方法』を読んでも、KL情報に関するSanovの定理という最も基本的な定理の存在を知ることができないので、KL情報量に関する直観的に鮮明なイメージは得られないと思います。

私による解説↓

genkuroki.github.io/documents/2016...

タグ：統計

posted at 10:25:44

#統計 Sanovの定理の使い方2：事前分布φを直接計算するのが大変なので、特別な形の分布ψで事前分布から最も出て来易いものを求めることを考える。そのためにはD(ψ||φ)を最小にする特別な形の分布ψを求めればよい。

これが所謂「変分推論」(平均場近似の一般化)です。

タグ：統計

posted at 10:25:44

#統計 Sanovの定理の使い方1：未知の分布qをシミュレートとするモデルの分布pを作りたい。そこで、未知の分布qのサイズnのサンプルからうまく予測分布p_nを作って、qが何であってもKL情報量D(q||p_n)がn→∞で小さくなるようにする。

これが渡辺澄夫『ベイズ統計の理論と方法』の基本方針です。

タグ：統計

posted at 10:25:43

#統計 KL情報量D(q||p)は、n→∞で、分布pに従う長さnの乱数列が分布qの乱数列に見える確率が指数函数的に減少する速さを表します(Sanovの定理)。

(分布pに従う長さnの乱数列が分布qの乱数列に見える確率)
= exp(-n D(q||p) + o(n)).

「～に見える」の定義の曖昧さはo(n)部分に吸収される。

タグ：統計

posted at 10:25:42

Takahara Masayuki @m_takaharasan

今の若者、中年が2％台を当たり前と感じられるように、低失業率が長く続いてほしい。2％台を異常と見て、政策を決めたりしないことを望む。

タグ：

posted at 10:18:33

#統計私の解説ではSanovの定理が中心になっています。KL情報量についてはSanovの定理が最も基本的。

渡辺澄夫著『ベイズ統計の理論と方法』8.4節注意73(1)(2)には符号化とKL情報量の関係について書いてありますが、そういうことも

genkuroki.github.io/documents/2016...

の第10節で詳しく解説してあります。

タグ：統計

posted at 10:00:51

#統計続き。せっかくなので、KL情報量を使った事前分布付きの(等確率の原理を仮定しない)場合のカノニカル分布の導出の仕方も解説することにしました。大偏差原理入門にもなっていると思う。

genkuroki.github.io/documents/2016...
Kullback-Leibler 情報量と Sanov の定理
黒木玄

タグ：統計

posted at 10:00:50

#統計私はツイッターで渡辺澄夫『ベイズ統計の理論と方法』をかなり強く勧めて来たのですが、同時にKL情報量の易しい解説を同時に紹介したいと思いました。しかし、ググっても見つからない(英語でも見つからない)。結局、自前で有限集合上の易しい場合を中心とした解説を自前で書きました。続く

タグ：統計

posted at 10:00:50

#統計 Kullback-Leibler情報量そのもの(それを分布の違いの指標として使うことがどういうことか)については、渡辺澄夫『ベイズ統計の理論と方法』を読んでも分からないと思います。その本の第8.4節の説明は簡潔過ぎるし、肝腎のSanovの定理への言及もない。続く

twitter.com/tjo_datasci/st...

タグ：統計

posted at 10:00:49

Takahara Masayuki @m_takaharasan

1968年から1975年まで、8年間の年平均の完全失業率は1％台。1976年から1994年までの19年間は2％台。3％以上になっていたのは1995年から2016年までの22年間。そう異常な数字ではないと私には感じられるが、若い方には異常な低水準ということになるのだろう。 twitter.com/kokoro_yuigon/...

タグ：

posted at 09:47:33

非公開

タグ：

posted at xx:xx:xx

桑満おさむ @kuwamitsuosamu

前野［いろもの物理学者］昌弘 @irobutsu

この大臣って、EM菌をバックアップしていませんでしたっけ？「多様」って便利な言葉、入試で科学的思考を放棄しましょう、ってことでしょうか。 twitter.com/irobutsu/statu...

タグ：

posted at 09:19:38

具体的に、「一点刻みでない多様な入試」ってなんだろうね。たとえば「この問題を正解できるやつなら他の科目・問題は０点でも通す」とかやっていいかな。
↓
『大学には、一点刻みではない多様な入試をしてほしい』
「20年度、大きな改革ではない」下村博文氏：日本経済新聞 www.nikkei.com/article/DGXMZO...

タグ：

posted at 08:53:13

残り27件のツイートを見る

非公開

タグ：

posted at xx:xx:xx

一応、全体の文脈も確認できるようにスクショしておく。 pic.twitter.com/Kq2ptpuhT8

タグ：

posted at 08:11:47

新井紀子氏の文学国語に絡んだ議論。
【古典は「暗記科目」なので詰め込めば詰め込むだけ点の上乗せになると高校が思っている】
【センター入試の古文・漢文の出題は暗記偏重】
まずはこういう事実関係からチェックされるべき。 pic.twitter.com/HpRVxABLb2

タグ：

posted at 08:11:23

www.nikkei.com/article/DGXMZO...
下村博文氏の議論は、物事を分析的に切り分けて具体案に落としていくという作業を欠いている。抽象的な話を具体化する際に、その手法をめぐって議論が出るのは当たり前。そこを分析的に見ずに総論ばかりを言い立てて無理な制度設計を押し付けようとしたのが今回の入試改革だ。 pic.twitter.com/TexdQJZuQ3

タグ：

posted at 08:01:32

下村博文氏の言う

【『公正公平ではない』という社会の批判に耐える覚悟と決意が大学にあるか】

はもはや完全に意味不明だ。あきれ果てるしかない。

タグ：

posted at 07:58:32

英語民間試験や新共通テスト記述式の試験が奪おうとしている公正公平性は、「同一答案には同一得点」という試験としての最低限の公平性である。同じ内容なのに評価が異なるという採点が現実に行われようとしている。これは重大な問題だ。

タグ：

posted at 07:56:18

【大学には、一点刻みではない多様な入試をしてほしい。ただ、『公正公平ではない』という社会の批判に耐える覚悟と決意が大学にあるかという問題はある」】

「一点刻みではない多様な入試」ということと「公正公平性」とは天秤にかける話ではない。

タグ：

posted at 07:52:24

【（混乱の一因になっている）記述式問題でも採点をどこまで公正公平にできるか、現場は試行錯誤している。公正公平を求めすぎて入試が元通りになっては困る。】

現場が公正公平性を求めて試行錯誤することが必要な段階で実施することが間違っている。

タグ：

posted at 07:51:21

英語民間試験は、

実施時期・実施団体の異なる多数の試験の成績を比較して大学入試という相対評価に活用する

という日本の大学入試史上全く実施例のない極めて大きな変更。しかもその変更の質を担保する、標準化操作は確認が不十分、CEFR対照表は根拠が杜撰なままだ。これは極めて重大な問題だ。 pic.twitter.com/wwH5UTLmRF

タグ：

posted at 07:48:34

小坪遊　Yu Kotsubo（めったに @SciKotz

「20年度、大きな改革ではない」下村博文氏
混迷・入試改革　キーパーソンに聞く
www.nikkei.com/article/DGXMZO...

下村氏の議論は以前からの言い分を繰り返しているだけで、何が問題なのか、様々な混乱や準備不足がどのような影響を及ぼすかということに対する理解は全くない。

タグ：

posted at 07:44:17

「友達作りを通じて、福島への理解を深めてもらい、将来を担う世代の福島への風評被害や差別をなくしたいという願いを込める」子どもたちに福島に来てもらう、これも本当に大事ですね。でもうまいものばかりだから、食べ過ぎにはご注意を！ #福島は安全です www.asahi.com/articles/ASM8C...

タグ：福島は安全です

posted at 06:30:11

#統計 #Julia言語

半径√nのn次元の球面上の一様分布に従う乱数(X_1,…,X_n)のX_1の分布はn→∞で標準正規分布に収束。

単位球面上の一様分布に従う乱数は

rand_unitsphere(n) = let X = randn(n); X/norm(X) end

で簡単に作れる。

nbviewer.jupyter.org/gist/genkuroki... pic.twitter.com/bvGBLrn0vq

タグ： Julia言語統計

posted at 01:44:43

#統計こういう計算例を色々知っていれば、本当は正規分布による近似が不適切な場合もあるし、荒い近似に見える正規分布モデルの使用が実用的には問題なさそうな誤差で済む場合も少なくないことも分かります。

数学的モデルと現実を混同してはいけないことも分かる。

タグ：統計

posted at 01:08:02

#統計 #Julia言語参考：サンプルサイズ100と200の場合

nbviewer.jupyter.org/gist/genkuroki...

サンプルサイズnで95%信頼区間に母集団分布の平均が含まれる確率

n=30 → 78%
n=100 → 89%
n=200 → 93%

中心極限定理が効いてきている。 pic.twitter.com/4SdNYQ9tgf

タグ： Julia言語統計

posted at 01:04:12

#統計 #Julia言語

 nbviewer.jupyter.org/gist/genkuroki...

添付画像のOut[20]のプロットは、サンプルを繰り返し生成して平均の信頼区間を求めた結果です。シアンの縦線は母集団分布の平均(黒の点線)を含む信頼区間で赤の縦線は含まない。

サンプルサイズ30だと赤の縦線の側になっている恐れを無視できない。 pic.twitter.com/YJMzUdy31a

タグ： Julia言語統計

posted at 00:58:17

Rolling Stone @RollingStone

"Omae Wa Mou" was pulled off Spotify. Now it’s back rol.st/32ggpoH pic.twitter.com/AsSG0IF4CK

タグ：

posted at 00:58:05

#統計以下のリンク先の例では、95%の正規分布と5%のかけ離れた正規分布の混合分布の母集団からサイズ30のサンプルを無作為抽出したとき、正規分布モデルでt分布を使って求めた平均の95%信頼区間に母集団の平均が含まれる確率は78%程度とかなり小さくなっています。

twitter.com/genkuroki/stat...

タグ：統計

posted at 00:52:27

James Fairbanks @fairbanksjp

@JadeMasterMath @ejpatters and I are interested in Category Theory in #julialang Catlab.jl might be a good place to start

タグ： julialang

posted at 00:47:58

#統計以上のように仮想的な設定ごとに事故が起こる確率を計算できる、というような考え方はとても大事だと思う。

タグ：統計

posted at 00:45:18

#統計だから、その場合には、サイズ30のサンプルを見て、正規分布モデルを適用できそうであるように見えたので、正規分布モデルを使って信頼区間を求めても、20%以上の確率で5%の例外的対象を見逃していたせいで不適切な推定になっているかもしれないのです。

((また脱線した))

タグ：統計

posted at 00:45:17

#統計例えば、現実の母集団の95%の分布は単純な正規分布に従っているが、残りの5%の分布は異なる法則に従っているとします。そのとき、サンプルサイズが30だと5%側の数値がサンプルに1つも含まれない確率が20%を超えます。サンプルサイズ30では5%の例外の情報が全然見えていないかもしれない。続く

タグ：統計

posted at 00:45:17

#統計実際に統計学を利用するときには、現実の母集団分布から抽出したサンプルの情報だけを使うだけの統計分析では望ましい強い結果を全然出せないことが多いと思う。

タグ：統計

posted at 00:45:13

#統計正規分布モデルが現実の母集団分布の様子を適切に近似していることを、その方法で信頼区間を求める手続きと別の議論で示しておかなければいけない。

ある種の議論では、結構多くの非正規分布母集団を正規分布モデルで分析しても誤差が小さくなり、一見正規分布に見えても全然ダメな場合もある。

タグ：統計

posted at 00:27:00

#統計だから、現実の母集団から抽出したサンプルを用いて、その方法で求めた信頼区間が現実の母集団分布に関するなにがしかの真実を表していることを疑わなかった人達はひどく非論理的で、結果的に数学的モデルと現実を混同しており、非科学的な考え方をして来たことになります。

タグ：統計

posted at 00:21:58

#統計統計学入門の解説書で、正規母集団のサンプルからt分布を用いてどのように信頼区間を求めるかを解説している部分は、すべて正規分布の数学的モデル内部で何が成立しているかを述べているだけで、現実の未知の母集団分布については何も示していません。

これは非常に当たり前の話。

タグ：統計

posted at 00:18:49

#統計「現実の母集団分布が平均μ分散σ²の正規分布だと仮定するとき、現実の母集団から抽出したサンプルについて～が成立する」を示すときには、正規分布の数学的モデル内部で何が成立しているかを示しているだけで、現実の母集団分布については何も示していない。

タグ：統計

posted at 00:15:04