黒木玄 Gen Kuroki(@genkuroki)/2020年12月13日

Chemis-tree. pic.twitter.com/bdMEA5ooyb

タグ：

posted at 23:15:58

吉田弘幸 @y__hiroyuki

こんな教育をやることは虐待に等しい。 twitter.com/y__hiroyuki/st...

タグ：

posted at 22:33:16

グレッグ @glegory

何も無理なことは言ってないと思うんですね。デフレだから2%になるまで国債を刷ってくれ、そして日銀にファイナンスしてもらってくださいと。それだけですよ。何が問題ですか？やらない方が怠慢じゃないですか？国民は疲弊し、自殺も増えてるのに。総理はニヤニヤ、何が楽しいんでしょうか？

タグ：

posted at 22:31:46

@uKi2wQXyG7rx3gL そんなことはないでしょう

タグ：

posted at 22:29:35

吉田弘幸 @y__hiroyuki

Im(Nyarn)＠linuxﾅﾆﾓﾜｶ @Imaginary_Nyarn

こんな指導が本当に存在していたのか。地獄だな。 twitter.com/kuri_kurita/st...

タグ：

posted at 22:28:19

同じこと言ってる人がいた
JuliaはPythonよりも電卓としても使いやすいからPythonをその用途で使ってる人は乗り換えよう（威圧） twitter.com/Totti95U/statu...

タグ：

posted at 22:17:16

ʇɥƃıluooɯ ǝıʇɐs @tsatie

ホッとするなど twitter.com/yamazaksv2/sta...

タグ：

posted at 22:16:42

積分定数 @sekibunnteisuu

@physics_cats @nabekichi32 大学入試で二次試験、記号で答えよ、をそのものを書いてしまって後から気づいて不安だったが合格した、というツイートを読んだことあります。

　大学側は、「記号で答えよ」を見落とさずに読み取れるかどうかよりも、その教科を理解しているかどうかを重視するだろうから、当然でしょうね。

タグ：

posted at 22:15:30

ʇɥƃıluooɯ ǝıʇɐs @tsatie

(￣◇￣;)その「教科書に出てるか否か」が基準になるのは何故やろか？ twitter.com/yamazaksv2/sta...

タグ：

posted at 22:10:27

@uKi2wQXyG7rx3gL そんなことはないでしょう。
ただ算数教育の偉い人達が掛け順強制を推奨しているだけです

タグ：

posted at 22:09:29

グレッグ @glegory

財務省が問題と言っても、最後に決めるのは政治じゃないですか。僕らは役人を選挙で選べないんですよ。政治にNOを言うしかありません。財務省に従っていたら選挙に負けると政治家に知らしめるべきです。

タグ：

posted at 22:00:27

最新版の「学習指導要領・解説」に掛け順がばっちり書いてあることでもわかるように、算数教育世界では掛け順強制が当たり前になって来ている。
ネットで叩かれば叩かれるほど、算数教育世界では掛け順強制を徹底するような雰囲気

＃超算数

タグ：超算数

posted at 21:59:33

本屋で算数教育の本をよくチェックするけど、掛け順について書いてある参考書（教師向けの）が増えた気がする。
ネットの影響だと思う。
もちろん、掛け順に肯定派の参考書ばかり

＃超算数

タグ：超算数

posted at 21:55:26

#統計「尤度函数が、ある種のモデルにおいて単峰型にならず、subvarietyに沿って細く広がった形になる場合があることを、尤度函数のプロットで確認する」というような地道な学習のステップを飛ばして、「主観ベイズ主義」に走るとすべて丸ごと全部を誤解してしまう危険性があります。

タグ：統計

posted at 21:10:27

#統計以上のようなことを、渡辺澄夫『ベイズ統計の理論と方法』の最初の二十数ページを読んで、自分でコードを書いて試行錯誤すれば理解できる可能性がある。

個人的な意見では、それだけで定価3000円以上の価値があると思います。

尤度函数の振る舞いの実例を見たことがあるかどうかはとても大事！

タグ：統計

posted at 21:05:35

#統計特異モデルにぴったりなっていなくても、有限のnにおいてモデルは特異モデルのように振る舞うかもしれない。

そういう可能性のあるモデルを使って統計的推測をする場合には、尤度函数の振る舞いが悪いので、最尤法よりもベイズ法を使った方が無難になる。

タグ：統計

posted at 21:01:49

#統計

 nbviewer.jupyter.org/gist/genkuroki...

真のパラメータがa=0.5, b=0.2の場合。

これは特異モデルになるab=0の場合に近い。

特異モデル直上ではないが、まるで特異モデルのように尤度函数がふるまっている。

この場合は純粋数学的には正則モデルだが、実践的には特異モデル扱いした方が良いかもしれない。 pic.twitter.com/ZMyhSlGJX6

タグ：統計

posted at 20:58:27

#統計

 nbviewer.jupyter.org/gist/genkuroki...

ab=0の特異モデル直上の場合。

尤度函数の台はab=0の近くに集中し、正則モデルの場合と違って、nを大きくしても尤度函数の台は1点に収束したりしない。

このような場合には最尤法は危ない。ベイズ法を使った方が良い。 pic.twitter.com/34xxXjK0R1

タグ：統計

posted at 20:55:43

#統計 1つ前のツイート添付画像

はっきりと正則モデルになっている場合には、10→40→160→640とnが大きくなると、尤度函数の台は小さくなり、真の値(座標では(2, 0.5))に近付く。

こういう場合に最尤法は非常にうまく行きます。

こうなるとわかっているなら、わざわざベイズ法を使う必要はない。

タグ：統計

posted at 20:47:21

#統計渡辺澄夫『ベイズ統計の理論と方法』のpp.20-21の事後分布=尤度函数のプロット

ソースファイル #Julia言語
 nbviewer.jupyter.org/gist/genkuroki...

真の分布のパラメータがa=0.5, b=2の場合。
グラフでは縦軸がaです。
これは、はっきりと正則モデルの場合。
プロット中の最も明るい点が最尤法の解。 pic.twitter.com/kfz71sbojl

タグ： Julia言語統計

posted at 20:47:21

Shuhei Kadowaki @kdwkshh

感覚的な話、普通の業務でもAST変換くらいはしたくなる場面めちゃ多くないですか。関数化するとかは当然として、コードの規模が大きくなればなるほど、言語の構文的に書かなきゃいけないけど本質的に意味のない重複ってめちゃある気がする。いつもJuliaならもっと綺麗にできるのになーって思ってる。

タグ：

posted at 20:38:23

Shuhei Kadowaki @kdwkshh

Juliaのメタプログラミングが手に馴染み込んでしまって、これがない言語だとすごい窮屈に感じてしまう。

タグ：

posted at 20:28:38

@kankichi57301 @kankichi57301

たかが不勉強な教師の共同幻想が親に見えるわけがない。
#掛算 twitter.com/Tsehikef/statu...

タグ：掛算

posted at 19:59:25

物理猫 @physics_cats

@nabekichi32 入試でもマルになります。

タグ：

posted at 19:41:35

#統計「統計学の紹介部分がひどく杜撰」とか、「そもそも統計学はお墨付きを得るための道具ではない」とか、「主義の話をする前にするべき議論をきちんとしていない」というような指摘をされているのに、「統計学は数学だけで済む分野ではない」というような自明な主張で話を逸らしても無意味。

タグ：統計

posted at 19:14:14

#統計 2つの回帰直線OM, ONと(見た目的には最も自然に見える)「楕円の長軸」が一致しないということが一目で分かるようにGaltonさんの図は描かれています。

そういう図を引用して「楕円の長軸」を「回帰直線」と説明している😱

『統計学を哲学する』の読者はこういう点にも注意するべき。 pic.twitter.com/euyCnkboOB

タグ：統計

posted at 18:39:56

#統計『統計学を哲学する』の読者は、【Galton (1886)】(p.17)とか【Earman, 1992, pp.144-149】(p.83)のように文献をreferしていても、【「Major axes」～が回帰直線】とか、上で指摘したデタラメとか、引用した文献には書かれていないおかしなことが書いてあるので要注意。 pic.twitter.com/FnK5KHm4yn

タグ：統計

posted at 18:25:57

トッチ @Totti95U

誰も読まないやろって思って「Juliaは超高級電卓」っと的なことを書いた記事が予想以上に読まれてしまい殺される可能性が高まってる

タグ：

posted at 18:22:09

#統計

もしも、「ある弱い前提」=「分布族が対象を十全にモデル化していない場合に得られる最善の結果(当然真理から程遠くなる)を真理とみなすという前提」だと解釈しているとすれば、あまりにも非常識だと思います。

添付画像2の部分はひどいデタラメ。
Earman 1992のreferも不適切です。 twitter.com/hidekatsu_izun... pic.twitter.com/TdClArw1MH

タグ：統計

posted at 18:19:38

とてもいい話だ。 twitter.com/hirosehideo/st...

タグ：

posted at 17:33:52

よくある政治活動と同様のレッテル貼りのレトリックを使うようになっちゃあまずい。

論理的・科学的な議論では、手堅い知識になる部分を最初におさえに行くのが定跡です。特に数学は最も手堅い部分でしょう。

最終的に「主義」の話もしてよいとは思いますが、そういう議論は後回しにするべき。

タグ：

posted at 17:29:19

#統計そうやって、「主義」に分類するレトリックは強力であるがゆえに、安易すぎて、使っている奴らがバカに見える。

これまで知的な行為だと思っていたことが、馬鹿にされる行為だと評価されるようになるとよいと思います。

「尤度主義」に騙された人達は特に要注意。

タグ：統計

posted at 17:23:16

(｢・ω・)｢ｶﾞｵｰ @bicycle1885

#統計ある種の文化圏の人達は、異なる主義に分類することによって固定観念を植え付けるレトリックを駆使するので要注意。

例えば、頻度主義、尤度主義、ベイズ主義、道具主義、などなどに分類して、「道具」という言葉を多用する私の考え方を「道具主義」などに分類する行為は典型的でしょう。

タグ：統計

posted at 17:18:22

Stan、プロファイリング機能がない？ので何処が遅いのか霊感を頼りにするしかない。

タグ：

posted at 17:17:10

#統計複数の予測の平均を取ることによって予測精度が上がる可能性を知っていれば、重みを付けて足し上げて予測分布を作るベイズ法も検討に値する方法であることがなんとなく納得できると思う。

こういう話なのに「主義」の話をいきなり始めるからおかしな話になる。最初に主義を廃した説明が必要。

タグ：統計

posted at 17:13:39

#統計各wごとにL(w)φ(w)の値の大きさで重みをつけてp(x|w)達をwについて足しあげることによって、予測分布を作るフィッティングの方法もあります(ベイズ法)。そのとき予測分布は

p*(x) = ∫p(x|w)L(w)φ(w)dw/∫L(w)φ(w)dw

になる。予測が当たりそうな度合いで重みをつけて分布を足し上げている。

タグ：統計

posted at 17:09:54

#統計最尤法ではパラメータwを自由に動かせるとオーバーフィッティングが起き易くなるので、パラメータwを事前分布φ(w)で重みを付けてその動きを制限することも考えられます。

すなわち、L(w)φ(w)を最大化するw=w*を求めて、p(x|w*)を予測分布とするフィッティングの方法もある(MAP法、正則化法)。

タグ：統計

posted at 17:09:53

#統計フィッティングについてもう少し説明

最尤法では、分布族p(x|w)の尤度函数L(w)=p(X_1|w)…p(X_n|w)を最大化するパラメータw=w*を求めて、p(x_{n+1}|w*)を次に観測されるX_{n+1}の予測分布とします。

要するに分布族p(x|w)の中でデータに最も適合するp(x|w*)を予測分布として採用する。

タグ：統計

posted at 17:09:52

#統計ひどい！訂正します。

❌最尤法はモデルを複雑なものにしなければうまく行かない。

⭕️最尤法はモデルを単純なものにしなければうまく行かない。

⭕️最尤法はモデルを複雑なものにするとうまく行かない。

こういうひどい間違いは結構ある。 twitter.com/genkuroki/stat...

タグ：統計

posted at 16:54:35

#統計せっかく我々はモデルのデータへのフィッティングについて沢山の選択肢(最尤法、その正則化(MAP法)、ベイズ法など)を持っているのだから、そのそれぞれの数学的性質を理解して、利点と欠点を見抜き、自分自身の目的に合わせて適切な方法を自由に使えばよい。

それを阻害する言説はエンガチョ！

タグ：統計

posted at 16:51:48

#統計データへのモデルのフィッティングの方法として、最尤法しか思いつかないことは数学的な無知無能を一種。

「事前分布を使うフィッティングは客観的でないからダメだ」とか「主観確率によって事前分布の使用が正当化される」とか考えるのは、論理ではなく主義で判断するバカのやることです。

タグ：統計

posted at 16:48:10

#統計ある特定の方法への【お墨付き】が「主義」によって得られると考えた途端にあなたは非論理的・非科学的・不合理なトンデモさんのお仲間になってしまいます。

それぞれの方法の長所と短所を理解して自分の目的に適切なものを使えばよい。選択権はユーザー側にある。

タグ：統計

posted at 16:43:49

#統計

最尤法はモデルを複雑なものにしなければうまく行かない。

事前分布でパラメータの自由な動きを阻害することによってモデルを「小さく」すると、より適切なフィッティングに成功することもある。

事後分布に関する分布族の平均で予測分布を作るフィッティングという選択肢もある(ベイズ法)。

タグ：統計

posted at 16:43:49

#統計既知データへの適合度を最大化するようにモデルを作ってうまく行くことは、「何でもあり」で最大化する場合にはありえません。何か特別な強い制限を付けなければいけない。

モデルのデータへの適切に制限されたフィッティング(適合度最大化)の可能性には数学的な選択肢が無数にあります。続く

タグ：統計

posted at 16:43:48

#統計「尤度」について限定すれば、1つ前のツイートの内容は、統計学や機械学習のような科学全体の一部分の話題になってしまいますが、既知のデータにぴったり適合するモデルを作ったせいで真実からかけ離れたモデルになってしまう可能性があることは、科学全体において基本的で重要な考え方です。

タグ：統計

posted at 16:30:53

羽生理恵 @yuzutapioka

タグ：かむろみの郷ふくしま吉川屋吉川屋七代目奥飯坂福島県穴原温泉

#かむろみの郷　 #福島県
 #吉川屋　 #穴原温泉
 #ふくしま　 #吉川屋七代目
 #奥飯坂
【吉川屋】さんへずっと気がかりだった先日の竜王戦のお詫び
に。緊張していたのですが女将さんはじめ社長、七代目皆々様お揃いの温かいお出迎え神対応に心臓がぎゅぎゅっとなっていた夫チェックイン時の笑顔。 pic.twitter.com/8JsFcskku1

posted at 16:26:04

#統計より正確に言えば、尤度は

　すでに得られているデータへのモデルの適合度

の指標です。既知のデータにぴったり適合するモデルを作っても

　これから観測されるデータへの適合度

が上昇するとは限りません。

これは、統計学と機械学習に共通する最も基本的で重要な考え方です。

タグ：統計

posted at 16:23:36

#統計訂正：「感する」→「関する」

p(X_1,…,X_n)は周辺尤度と呼ばれている。

尤度は「モデルのデータへの適合度の指標」でしかないので、「もっともらしさ」とか「証拠」のように解釈するのは単純に誤り。

統計学における「主義」に基くトンデモは尤度に関する誤解を含んでいることが多い。

タグ：統計

posted at 16:16:18

#統計空データから作ったサイズnのデータの予測分布は

p(x_1,…,x_n)=∫p(x_1|w)…p(x_n|w)φ(w)dw

であり、尤度の対数の-1倍の期待値

∫…∫q(x_1)…q(x_n)(-log p(x_1,…,x_n))dx_1…dx_n

がその汎化誤差で、この汎化誤差の推定量としてデータX_1,…,X_nに感する

-log p(X_1,…,X_n)

を使う。 twitter.com/genkuroki/stat...

タグ：統計

posted at 16:09:52

社会的に極めて有害なトンデモさん達と名前を連ねていることは認めるべき。 twitter.com/SF_SatoshiFuji...

タグ：

posted at 15:48:11

なるほど、藤井聡氏はこういう邪悪な人たちと一緒に政治活動をすることを恥じない人だったのね。

クズ確定。 pic.twitter.com/9vofmYnY9f

タグ：

posted at 15:45:08

@kankichi57301 @kankichi57301

@temmusu_n つまり、以前の天むす名古屋さんのTWの
>ところが「7月の資源回収量は全体で80kg、うちペットボトルが20kg。9月は全体100kg、ペット20kg。ペットの割合が高いのはどの月?」という問題の正答率は28%と低かった。
という問題の場当たり的対策です。（短絡思考な教育関係者ならやりそうな）　#超算数

タグ：超算数

posted at 15:42:59

なちゃ @nachakey

最悪のもっとも懸念されてる教育法そのものなのでは… twitter.com/Tsehikef/statu...

タグ：

posted at 15:39:02

らいね @xibritte

テルミンを作る新種のきりん @__kirin_config

ショートケーキのイチゴは最後に食べるという強いこだわりがあり、それを他人にも強いてイチゴを最初に食べる子には殴りかかるような児童が学級にいたら教師としてどのように対処されますか？ twitter.com/Tsehikef/statu...

タグ：

posted at 15:34:20

九龍真乙 (くりゅうまおと) テクニカル @qryuu

なんでそんな無理するの？ twitter.com/Tsehikef/statu...

タグ：

posted at 15:28:31

九龍真乙 (くりゅうまおと) テクニカル @qryuu

自信をなくさせて思考力を奪い洗脳する
ブラック企業の手法と同じなんですよね twitter.com/Tsehikef/statu...

タグ：

posted at 15:23:33

完全に学校が勉強嫌いを作る場所になってしまっているんだよな twitter.com/Tsehikef/statu...

タグ：

posted at 15:22:30

#Jupyter の名前の由来

I Python, You R, We Julia by @Mbussonn blog.jupyter.org/i-python-you-r... pic.twitter.com/w0eKVzKWZE

タグ： Jupyter

posted at 15:20:44

#超算数

これがあの有害なパターンマッチ教育の典型例。

これに従う子は、通常の文章読解をせずに、「ずつ」「分」「倍」などのキーワードをひろって式を書くようになる。

子供の論理性が破壊されるだけではなく、読解力も破壊される危険性があるので、保護者は注意を払った方がよい。 twitter.com/tsehikef/statu... pic.twitter.com/PXYKVbAEPt

タグ：超算数

posted at 14:54:34

Yossy @Yossy_K

「順序が間違ってるからバツ」みたいなトンチキな採点基準を捨てちゃえば、こういう子供はすぐゼロにできるので twitter.com/Tsehikef/statu...

タグ：

posted at 14:42:03

よしんば後半に名を連ねていないのだとしても、武田邦彦や内海聡と連名で共同声明を出した時点で、トンデモさんの仲間です twitter.com/sf_satoshifuji...

タグ：

posted at 14:18:55

ごまふあざらし(GomahuAzaras @MathSorcerer

これを読んで分かるのは、定額給付金やらなんやらを必死になって止めてるのは財務省だってことですよ。
財務省には国民の命よりだいじなものがあって、それは財政再建という何の役にも立たないものです。
彼らは国民を殺してでも財政再建を実現したい。もちろんその暁には日本経済は崩壊しています twitter.com/masa_kuppa/sta...

タグ：

posted at 13:56:20

@PurPurkinje @nekomath271828 このシリーズスコ

タグ：

posted at 13:51:35

@cloez_uya

問題の解答をプロットするjuliaのコードをclassroomに貼ったんだけど試してくれた子いるかな、、

タグ：

posted at 13:47:58

武田邦彦・内海聡・藤井聡らの共同声明は、まあ武田と内海がいる時点でトンデモとして無視してしかるべきなんだけど、それでも読んでみると、アメリカやヨーロッパで新型コロナがあれほどの猛威を奮っている現実は全く無視かよ、という感想しか湧いてきません。かなりどうかしている

タグ：

posted at 13:36:25

@kuri_kurita

こういう文字列パターン・マッチングによる御指導、いや誤指導の究極形態が「わの前ののの前！」だな。

（いや、第二、第三の究極形態がすぐにも現れてくることだろうて。） twitter.com/tsehikef/statu... pic.twitter.com/JYsuPsx5ds

タグ：

posted at 12:48:01

正しくは、量子コンピューターなら200秒で解けるけど富岳なら6億年かかるような問題を作ったわけです twitter.com/nikkei/status/...

タグ：

posted at 11:30:22

kdzms @kdzms

この方に算数を教えた小学校の先生は責任を取るべきかもしれない
あまりにも罪深い twitter.com/Vtubero/status...

タグ：

posted at 10:54:24

Gohan @myumyumyu1

@bkw_approx ご存知かも知れないですが、JupyterはJupiterから取っただけではなく、Julia、Python、Rも指したものでもありますし。
blog.jupyter.org/i-python-you-r...

タグ：

posted at 10:03:56

トッチ @Totti95U

富谷(助教);監修シン仮面ライダー @TomiyaAkio

JuliaでGPGPUして爆速でBuddhabrotを描き出す scrapbox.io/totti95u/Julia...

福島高専 Advent Calendar 2020 13日目の記事を書きました。何も知らない人向けのGPGPU講座です。宜しければ是非

タグ：

posted at 10:00:01

今のところ、Julia からPyCall でnumpy.loadtext でファイルから読み込み、Julia でループ回して計算、PyPlotで図を書くのが一番僕的に楽な感じ。

タグ：

posted at 09:17:12

探究 @sekai_tankyu

その鋳型注入が数理の苦手な子を増やす、という経験則で良ければTwitterにたくさんありますよ。

#パターンマッチング宣言 twitter.com/tsehikef/statu...

タグ：パターンマッチング宣言

posted at 08:58:11

探究 @sekai_tankyu

意味理解を問いたいならむしろ順序ではなく、こういったダミーの数字を入れればいい。【1つ分×いくつ分】で意味理解が促されるというエビデンスはないし、順序を問わず内容を理解している子も多い。 twitter.com/tsehikef/statu...

タグ：

posted at 08:54:13

あおじるPPPP @kale_aojiru

頭わるい人って他人の怒りを何でも私怨か嫉妬にしがちだし、根本的な誤謬の指摘を揚げ足取りとか言い張りがちだよね。 twitter.com/yattaruTeacher...

タグ：

posted at 08:37:10

mamas @mamas16k

test setでグリッドサーチするオツムの人がトップカンファでもいるレベルなので、そもそもアンフェアだってことに気付いてないとかありそう。まあ確かにそれだったら本人は楽しいのかな

タグ：

posted at 07:44:22

mamas @mamas16k

最近色々論文読んで実験してて思うけど、ML系の研究って、マジで再現性のないアンフェアな実験に基づいたプレゼン大会と化してるよな。。。これほんまにやってて楽しいのかよ

タグ：

posted at 07:38:22

ファインマンbot @feynmannnn

たとえば死海に引っ越して寿命を延ばそうとしても意味はない。歳をとる速さの変化は、きわめて微小である。しかし地球のような物体の年齢を考えるときは、注意が必要かもしれない。地球中心の年齢は、地表よりも1日か2日は若いからである。

タグ：

posted at 07:32:48

pic.twitter.com/JQzkr4a5GJ

タグ：

posted at 07:21:22

pic.twitter.com/gefc8qHjgJ

タグ：

posted at 07:21:00

pic.twitter.com/QLac6MuF4L

タグ：

posted at 07:20:44

非公開

タグ：

posted at xx:xx:xx

Distribution of the binary heap of a sample (size = 2^20-1) of the uniform distribution on the interval [0, 1]

1. x = array index, y = value
2. empirical cdfs of "blocks"
3. empirical pdfs of "blocks"

For the details, see the #JuliaLang source code gist.github.com/genkuroki/f8e1... twitter.com/thienan496/sta... pic.twitter.com/Mr3StdtFJn

タグ： JuliaLang

posted at 06:44:33

@sekibunnteisuu @golgo_sardine @uKi2wQXyG7rx3gL ①これ何算？
②わり算
③A÷BとB÷Aは違う
④さあ、どっちだ？

のような考え方をさせてしまった時点でひどい教え方をしていることになります。

どちらの順序か分かる前にわり算だと決定するのはおかしい。

タグ：

posted at 05:47:39

#統計以下のリンク先の問題は面白い。 twitter.com/thienan496/sta...

タグ：統計

posted at 05:29:46

主観ベイズの変な人たちという単語は、主観ベイズが変という意味なのではなく、主観ベイズ信者に破綻したことを言う人がいてその人たちを指しています。

タグ：

posted at 05:27:57

(｢・ω・)｢ｶﾞｵｰ @bicycle1885

なんかこう、数学プロパーは実データをさわってないから変なことを言うのだという話もそうなんですが、掛け算順序肯定派と主観ベイズの変な人たちは同じかほりがします。
ロジックが壊れてるんですよ。
掛け算順序と違うのは、主観ベイズの枠組みそのものは意思決定論の公理を用いて正当化される点です

タグ：

posted at 05:25:44

Stanにvariational inferenceがあって素敵やんと思って試してみたけど、MCMCとかなり結果が違うぜよ。まだ実用段階ではないのかな？

タグ：

posted at 05:25:31

#統計「主義」にかまけていたせいで、研究内容の高度さをまったく認識できないというのは「最強」かも(笑)

他人を騙したければ本気で自分が信じているウソを述べる必要がある(笑)

タグ：統計

posted at 05:23:34

らいね @xibritte

教科書自体には検定があるけど指導書はそうではないセキュリティホールを突かれているやつな twitter.com/genkuroki/stat...

タグ：

posted at 05:23:25

1への反論は特異学習理論のもろもろの結果が与えますが主観ベイズの変な人たちはなぜか認めません（論文も読もうとしません）。その理由として2をあげてなんとかして主観ベイズを庇おうとして滑稽な地獄ができています。

タグ：

posted at 05:23:14

1.主観ベイズの正当化根拠は意思決定論
2.主観ベイズが標準的なのはみんなが使っていてトップ雑誌にもたくさん最近の論文あるから

1はその定式化の甘さが突っ込みどころになりますがそれが間違いとは言えません。
2は大衆迎合してればよいという学問として破綻した態度です。

タグ：

posted at 05:23:13

#統計具体的に誰にことなのかわかりませんが、「主義」好きの人達の中に権威的な態度を取る人がいることは知っています。そして権威に弱い人達も非常に残念なことに沢山いる。

しかし、そういう権威的な態度を取った瞬間にその人は「キャン！(泣)」とないているのだと私は思います。 twitter.com/nhayashi1994/s...

タグ：統計

posted at 05:18:31

今までダマだっただけで実際は彼らの言動を色々見てはいますが、数学プロパー特有の科学主義というレッテルもありました。実データを扱ってる方が偉くてその経験がない数学プロパーの主張は空虚だそうです。あほくさ

タグ：

posted at 05:17:04

名前を入力してください @tacker_oh

主義ドリブンで認知しているため、それぞれの定式化の数学的長短所がわからないのだろうか。彼らのターミノロジにあわせたときの「渡辺ベイズという新たな主義」（またはAkaikean）の数学的なメリットが理解できず、主義による衒学的な物言いで人を煙に巻いて勢力拡大を図っているのだろうか。

タグ：

posted at 05:10:41

Juliaのplot結構好き、使いやすい

タグ：

posted at 05:07:39

そういう発想だから渡辺ベイズは新たな主義だというちゃんちゃらおかしいことを言い始めるんだと思う。

彼らの常套手段としてトップ雑誌の論文の権威を借りるものもあり、渡辺ベイズや著者の資料読むより統計四大誌の主観ベイズ論文を読め文句あるなら論文を書けという論法もあるのんな

タグ：

posted at 05:04:30

#統計

サイズnのサンプルの事前(空にサンプルから作った)予測分布の真の分布に対するKL情報量が、対数周辺尤度の-1倍の期待値なので、周辺尤度は確かに重要なのですが、「ベイズファクター」とか「周辺尤度=証拠」というような言説に周囲はちょっと言い難い感じのトンデモ感に満ち溢れている。

タグ：統計

posted at 05:03:42

主義にかまけてる人たちの厄介なところは主義ドリブンな彼らのルールにおいてはすべてが何らかの主義に基づいてることになり、無敵の人になるんですよね。汚い twitter.com/genkuroki/stat...

タグ：

posted at 05:01:12

#統計周辺尤度をevidenceと呼ぶだけではなく、本当に「証拠」だと思っていたりする(笑)

周辺尤度の対数の-1倍の(データの確率的揺らぎに関する)期待値がKL情報量(n=0での真の予測誤差)になっていることもおそらく知らない。

「主義」にかまけて、十分な知識が得られていないのだと思う。 twitter.com/nhayashi1994/s...

タグ：統計

posted at 04:58:58

#統計渡辺澄夫『ベイズ統計の理論と方法』で得られる知識は普遍的で手堅く、他での解説によく見られる概念的な誤解も訂正されています。

こういう教育的な本は他にはなかなか見つけることはできないと思います。

多分、そのことにすでに多くの人が気付いている。

タグ：統計

posted at 04:49:59

残り47件のツイートを見る

#統計例

BICの解説(p.78)も優れています。

正則モデルの場合のBICの近似先になる自由エネルギーの(データの確率的揺らぎに関する)期待値とKL情報量の関係がp.9に書いてあります。

BICを情報量規準扱いしない誤解している解説を読んだ人は渡辺さんの解説を読んで訂正するとよいと思います。

タグ：統計

posted at 04:46:42

#統計例

あと、渡辺澄夫『ベイズ統計の理論と方法』は最尤法の教科書としても非常によいと思います。

「ベイズ統計」とタイトルにあっても、最尤法についても詳しく書いてあって非常によいです。AICと汎化誤差の逆相関(p.80, 下から10行目)が非常に良い。

タグ：統計

posted at 04:41:54

#統計続き

以上で述べたような「測度零集合も無視できない！」という知識は、渡辺澄夫『ベイズ統計の理論と方法』をp.21まで読めば得られます。(実際には自分でコンピュータで計算しないと実感が湧き難いのですが)

人によっては最初の二十数ページを読んだだけで元が取れたと思う人がいるかも。

タグ：統計

posted at 04:38:50

#統計続き

「nを通常の実験計画では得られそうもないほど大きくすれば正則モデルの挙動を示す」などと言っても、現実の統計分析では意味がないわけです。

「測度零集合も重要である場合がある」という知識はみんなで共有するべき大事なことだと思います。

続く

タグ：統計

posted at 04:33:57

#統計例

特異モデルになるパラメータ集合は測度零集合になります。

測度零なので現実にはぴったり特異モデルになることはないと考えられる。

しかし、有限のサンプルサイズnで確認すると、ぴったり特異モデルになっていなくても、特異モデル特有の事後分布の形が現れる。続く

タグ：統計

posted at 04:33:56

#統計渡辺澄夫『ベイズ統計の理論と方法』はタイトルに偽りありで、実際にはベイズ統計に限らない、もっと普遍的な数理科学一般に関する考え方が具体例込みで解説されています。

色々な意味で手堅い普遍的な知識が得られるように書かれた面白い本だと思います。

タグ：統計

posted at 04:27:07

ベイズ統計およびその周辺の技術が使われるようになった理由は実際にそれが使える道具だからで、主観ベイズ主義が正しいからではないです。

ベイズについて書けば視聴率を稼げるので、主観ベイズ的な言説も同時に宣伝されちゃいましたが、全部ダメ扱いで問題なし。

タグ：

posted at 04:19:57

ベイズで検索すると「PCR」ネタで信頼できる医療関係者を非難する発言がヒットするので、大量にミュートしたときに、ついでにミュートしたのが結構あったはず。

主観ベイズの変な人からリプライが飛んで来たら「うひゃー」と言いながらミュートでいいと思う。

タグ：

posted at 04:16:43

もしかしてミュートのせいで私に見えていないおかしな人がいるのかな？

タグ：

posted at 04:12:56

#統計期待二乗誤差の最小化の話はさらに易しくて期待値の特徴付けの話でしかない。

そして、未知の分布の推定の場合には、渡辺澄夫さんが指摘しているように、事後分布の期待値(事後分布の台の外にはみ出ることがある！)をパラメータの推定値として採用する「平均プラグイン推定」はやめた方がよい。

タグ：統計

posted at 04:11:53

#統計まさに自明な結果。

ベイズ法の予測分布は単純な条件付き確率分布なので、その結果は実質条件付き確率分布の特徴付けの話でしかない。 twitter.com/nhayashi1994/s...

タグ：統計

posted at 04:09:14

#統計真の事前分布がある場合への一般化は自明ですよね。

しかも、真の分布族 q(x|w) と真の事前分布 ψ(w) がそのままモデルの分布族と事前分布に等しいという設定は、科学的な研究に使おうと思っている人達にとっては辛すぎ。 twitter.com/nhayashi1994/s...

タグ：統計

posted at 04:04:26

そしてそれが有効なマレな場合の仮想的な例もちゃんと言及されている。
watanabe-www.math.dis.titech.ac.jp/users/swatanab...

人の研究室にレッテルを貼るのは人としてどうかと思うぞ

タグ：

posted at 03:25:13

後者の定式化の古い自明な結果として、真の事前分布とモデルを知っていればそれを用いたベイズ推測が期待リスクを最小化するというもの。
watanabe-www.math.dis.titech.ac.jp/users/swatanab...

タグ：

posted at 03:19:49

最適なパラメータが定数（一意とは限らないが、確率変数ではないという意味で）なら #それはそう

当然、真の事前分布から発生させる問題を考えてはいけないわけではない：
twitter.com/genkuroki/stat...

タグ：それはそう

posted at 03:14:41

某整理してる人、標準的な解釈が間違っているという発想がないというか、広まってるから正義っていうかなりアブナイことを言ってる自覚あるのかな？

あとベイズだろうと頻度だろうとパラメータが定数とは一言も言ってないですよね？

タグ：

posted at 03:05:13

非公開

タグ：

posted at xx:xx:xx

#統計面倒なのでリンクをはりませんが、以上の⓪①②の作業を #Julia言語で実際に私がやってみた場合のソースコードへのリンクと計算結果のグラフが私のツイッターでの発言で公開されまくっています。興味のある人は私のツイログなどで頑張って検索してみつけてください。

タグ： Julia言語統計

posted at 02:24:03

#統計以上で提案した渡辺澄夫さんの本の読み方をできた人は、自分でAICやWAICをコンピュータ上で正しく実装でき、それを使ってモデル選択で生じるリスクの出所である数学的結果を数値的に確認できている、ということになる。

実践的な使い方をする準備が完璧に整っていると言ってよいと思います！

タグ：統計

posted at 02:16:58

非公開

タグ：

posted at xx:xx:xx

#統計統計学初心者は

⓪pp.20-21にある事後分布(実際には尤度函数)のグラフをコンピュータで再現すること

を最初にやるべきかもしれません。尤度函数や事後分布の具体例の形を1つも見たことがない人がこの本を読んでも意味がないと思います。

算数の計算を知らずに整数論をやるのは無意味。

タグ：統計

posted at 02:14:09

#統計要するに、AICやWAICを使ったモデル評価の危険性の出所の結果をいきなり数値的に確認するとよいだろうという提案です。

自分でAICやWAICのコードを書くと「正しく実装できたか」について自信を持てなくなります。しかし、非自明な定理を自分の実装が満たしていることを確認すれば自信を持てる。

タグ：統計

posted at 02:10:57

#統計私が勧めて来た渡辺澄夫『ベイズ統計の理論と方法』の良さそうな読み方

①汎化誤差(汎化損失)とAICをコンピュータで計算して、p.80の下から10行目の結果を数値的に確認する。最尤法がうまく行く場合には非常に綺麗にうまく行きます。

②同様のことをWAICに関するp.119の定理15について行う。 twitter.com/genkuroki/stat...

タグ：統計

posted at 02:07:40

非公開

タグ：

posted at xx:xx:xx

#統計以上では渡辺さんの本に合わせてi.i.d.データの統計学の場合のみを扱いましたが、理論的に解明されていなくてもよいなら、一般化は幾らでも容易にできます。以上のような話題ではi.i.d.の設定は本質的ではない。

タグ：統計

posted at 01:57:57

#統計渡辺さんの本の非常に良いところは、AICなどの古典的な情報量規準だけではなく、自身が作ったWAICについても、真の予測誤差と情報量規準の逆相関についてきちんと述べていることです(p.80, p.119, p.180)。

リスクの出所の数学についてきちんと書いてある。

タグ：統計

posted at 01:57:56

#統計ただし、そのような主観を離れたリスク評価では、データの質が非常に重要で、データが運悪く偏っていると、真のリスクが大きい側のモデルを確率的にリスクが小さいと間違った評価を与えてしまいます。

はい、出ました！

統計学の使用は常にギャンブルになります！

ギャンブルになると安心😊

タグ：統計

posted at 01:57:55

#統計主観が的を外していたときにどうなるかについて、非常にクリアな結果を渡辺さんの本は与えているわけです。

そこまで理論を拡張すれば、主観と無関係に任意に与えた任意の推定用モデル p(x|w), φ(w)が的を外しているときのリスクも評価できる。

ゆえに「主観確率」の設定は無用になる！

タグ：統計

posted at 01:57:54

#統計実際に得られるデータは固定されたzに関するq(x)=q(x|z)によって生成されており、渡辺さんの本の設定と結論は、データを使って作った予測分布によってq(x)を推測したときの、リスクの評価の仕方を与えます。

ここが明瞭に、主観ベイズ主義のベイズ統計に欠けた結果になっています。続く

タグ：統計

posted at 01:57:52

#統計データの生成法則 q(x|z), ψ(z) を想定することは、データが以下のように生成されているという想定のことです。

まず、パラメータzが分布ψ(z)に従ってランダムに生成され、固定される。以下、q(x)=q(x|z)とおく。

次に、データX_1,…,X_nが分布q(x_1)…q(x_n)に従ってランダムに生成される。

タグ：統計

posted at 01:57:51

#統計推測用のモデル p(x|w), φ(w) とは別にデータの生成法則 q(x|z), ψ(z) を想定した理論を作っておき、主観=現実という仮定が近似的にも仮定できない場合のリスクを分析できるような枠組みを採用する方が、応用範囲の広い議論をしていると考えられます。続く

タグ：統計

posted at 01:57:50

#統計しかし、q(x|w)=p(x|w), ψ(x|w)=φ(x|w)という現実とモデル=主観の一致の仮定①はものすごく強い。

その仮定は近似的にも現実に成り立っているとは想定できない。

「主観=現実」もしくはそれに近い状況を想定してのリスク評価は危ない。②での期待リスク最小化は主観内部での最小化に過ぎない。

タグ：統計

posted at 01:57:49

#統計以上のような理論的な議論をするだけであれば、以上で説明した定式化およびその発展形は十分に数学的に面白い話になり得ます。

主観的かつ合理的な意思決定のトイモデルとしても役に立つ可能性もあります。続く

タグ：統計

posted at 01:57:47

#統計

例1: モデル内でのリスク函数として、パラメータの推定値の二乗誤差を採用すると、合理的なパラメータの推定法は事後分布の期待値を推定値として採用することになる。

例2: 渡辺さんの本でのベイズ法の予測分布にも同様の主観的合理性による特徴付けがあります。

続く

タグ：統計

posted at 01:57:46

#統計

②モデル(=主観)内に目的に合わせた適当なリスク函数または効用函数を与え、モデル内での期待リスク最小化又は期待効用最大化を与える方法を採用する、という方針で合理的な統計的意思決定の方法を定義する。

これはこれで数学的に面白い話です。

続く

タグ：統計

posted at 01:57:45

#統計この仮定は、主観が現実にほぼ一致すると想定しているという意味で、経済学における合理的期待仮説に似ています。この類似はこの先も有効です。

タグ：統計

posted at 01:57:44

#統計

①モデルは主観の表現であると考え、q(x|w)=p(x|w), ψ(w)=φ(w)と仮定する。

これは真の分布が事前分布も含めてモデル=主観で十分によく近似されているという仮定を等号で近似したものです。

これは非常に大胆な仮定です。続く

タグ：統計

posted at 01:57:43

#統計現時点での主観ベイズ主義の私による定式化の試案⓪①②は以下のようなものです。

⓪観測データX_1,…,X_nが得られたときに、事後分布φ(w|X_1,…,X_n)が

φ(w|X_1,…,X_n) = p(X_1|w)…p(X_n|w)φ(w)/p(X_1,…,X_n)

で定義されるのは、渡辺さんの本と同じ。この部分は変えようがない。

タグ：統計

posted at 01:57:42

#統計ここまでの話は、渡辺さんの本における単に真の分布の設定を自明な形式で一般化しただけであり、自明な一般化をするだけなら誰でもできます。

難しいのは一般化された場合に意味のある結果を得ること。続く

タグ：統計

posted at 01:57:41

#統計すなわち、実際に観測されるデータを生成している分布q(x|w)のパラメータwはψ(w)で確率分布していると考える。

この設定は渡辺さんの本の設定の一般化になっています。真の事前分布ψ(w)がデルタ分布になっている場合が渡辺澄夫さんの本の設定と同じです。続く

タグ：統計

posted at 01:57:40

#統計ここからちょっと違う話になる。

モデル内データではなく、実際に観測されるデータの生成法則についても、モデル内と同じように事前分布があると考えます。

研究者が出会う真の分布もq(x|w)とパラメータwを持っており、研究者が出会うパラメータwの確率分布ψ(w)があるかのように想定する。続く

タグ：統計

posted at 01:57:39

#統計モデル内では、まず事前分布φ(w)に従ってパラメータwがランダムに生成され、そのwに対するp(x_1|w)…p(x_n|w)でデータ(x_1,…,x_n)がランダムに生成される。

すなわちモデル内でのデータ(x_1,…,x_n)の分布は

p(x_1,…,x_n) = ∫p(x_1|w)…p(x_n|w)φ(w)dw

になる。続く

タグ：統計

posted at 01:57:37

ごまふあざらし(GomahuAzaras @MathSorcerer

#統計主観ベイズ主義の考え方を私なりに整理してみます。

主な読者として、渡辺澄夫『ベイズ統計の理論と方法』の読者を想定。

私が説明したいことのためには、推測に使うモデル側は渡辺さんの本と同じでよい。

事前分布φ(w)と確率分布族p(x|w)の組み合わせでモデルが記述される。続く

タグ：統計

posted at 01:57:33

つまり全ての言語は Julia のライブラリ！ twitter.com/genkuroki/stat...

タグ：

posted at 01:21:20