黒木玄 Gen Kuroki(@genkuroki)/2020年12月/Page 23

リスの赤ちゃん、可愛すぎる pic.twitter.com/ju4mg5Dl3N

タグ：

posted at 23:55:17

ceptree @ceptree

隙あらば手を洗うなかさん(R.I.P.) @kanakasansakura

にゃー√﹀\_︿/╲︿_/︺╲▁︹_/﹀\_︿╱▔︺\/\︹▁╱﹀▔╲︿_/︺▔╲▁︹_/﹀▔\⁄﹀\╱﹀▔︺\︹▁︿╱\╱﹀▔╲︿_/︺▔\︿╱\︿︹_/▔﹀\_︿╱﹀╲╱▔︺\︹╱﹀▔╲︿_/︺▔\╱﹀╲▁︹_/﹀\_︿╱▔︺\︹▁︿⁄╲︿╱﹀ん

タグ：

posted at 23:35:49

隙あらば手を洗うなかさん(R.I.P.) @kanakasansakura

@genkuroki この方、もしかして小学校の割り算で躓いて、そのまま来ているのか…

タグ：

posted at 23:35:02

@yukomt @genkuroki 将来泣くのは、いいなりの子達なんだよね。かわいそうに…

自分で納得できるように、自分の頭で考えることが算数であり数学。

何なら、学問全部がそう。

タグ：

posted at 23:20:55

#超算数大久保さんがまたひどいのを見つけて来た。

算数・数学教育は一体どうなっているのか？ twitter.com/ookubotact/sta...

タグ：超算数

posted at 23:20:08

TaKu @takusansu

@OokuboTact #超算数こちらも酷い誘導
＞「表し方の違う正解がいくつもあるとどうなるでしょうか？」と生徒に聞くと「答えの書き方に迷ってしまう」「数学の答えなのに1つに決まらず、スッキリしない」といった声が返ってきます。

タグ：超算数

posted at 23:15:45

積分定数 @sekibunnteisuu

駄目な指導は委縮させてやめさせないとならない twitter.com/genkuroki/stat...

タグ：

posted at 23:14:56

もふもふ動画 @tyomateee2

OokuboTact　大久保中二病中年 @OokuboTact

お風呂に浸かってのんびりするアザラシ pic.twitter.com/FMVZp54L8T

タグ：

posted at 23:08:24

Hideki Kawahara: WAS @hidekikawahara

＞　しかし、そのきまりについて
＞　「どんなきまりなのか？」や
＞　「なぜきまりが必要なのだろうか？」と問うことで、
＞　知識を単に与えられるだけでなく、
＞　考えながら身につけることができます。

＃超算数 pic.twitter.com/x3goMwMzbc

タグ：超算数

posted at 23:02:49

M1 Mac miniと以前のIntel Mac miniのFFTの速度を比較してみた．MATLAB R2020b．FFTバッファの長さが2000以上では，Rosetta2の上で走っているはずなのに，ほとんど同じ速度．やはりM1おそるべし．MATLABがApple Siliconに対応したら，どれだけ速くなるか，楽しみ．Intel Macの2000以下は？？ pic.twitter.com/As0XtxI1Rx

タグ：

posted at 22:54:01

ceptree @ceptree

OokuboTact　大久保中二病中年 @OokuboTact

なんやこいつら pic.twitter.com/J3Lx28NUsU

タグ：

posted at 22:53:15

#超算数

小学校の算数の掛け算が話題。
季節の風物詩だから仕方がないなあ。
でも「中学校の掛け算の順序」も紹介したい pic.twitter.com/hrT6jTL7CO

タグ：超算数

posted at 22:34:50

積分定数 @sekibunnteisuu

最悪の教師。こんなのよりは、問答無用でバツにして放置する教師の方が遥かにまし。

「式の立てかた知らんの？」という子こそが、最大の犠牲者、そして、加害者として登場している。

カルト・マルチ商法と同じ構造。
twitter.com/yukomt/status/...

タグ：

posted at 22:31:58

喰らわんか @krwnkmtr

あと料理でも1カップと半分とか、大さじ 1と1/3とか、頻繁に量りますよね。
とてもありふれた計算なのに「不可能」と信じ込む人が現われるのは、やはり算数教育の失敗だと思います。

タグ：

posted at 21:57:18

喰らわんか @krwnkmtr

Masa Yamamoto予測誤差が大き @mshero_y

「自然数×有理数が不可能」という謎のメッセージから、第2項が個数の話だと即座に見抜く超算数マスター。

肉屋や魚屋での量り売りなど、小数倍の体験が少なくなった事も影響しているのだろうか。
ガソリンとか灯油とかまだまだ身近に残ってると思うけれど……。 twitter.com/genkuroki/stat...

タグ：

posted at 21:48:00

これはかなり深刻な話であり問題であると。
ふと、わざと新たなるフレーム問題を子供に生じさせようとしているようにも感じられてくる。
お菓子が半分とか、1/3とか、に分けられることが柔軟でいいことなのに。
だからピザを12枚切りにするとか、日常にある算数と人の柔軟な思考、大事にしてほしいぞ twitter.com/genkuroki/stat...

タグ：

posted at 21:45:30

れこ @IK_math2718

ほんっとうに何書いてるかわからん。
交換の可能性？んん？
誰かkwsk twitter.com/genkuroki/stat...

タグ：

posted at 21:45:04

#超算数お菓子を分けるときに半端な分が出る場合には、一人分の「個数」が整数ではなく、「2個と半分」とか「1個と3分の1」になってしまうことがあるわけで、そういう日常生活で出会いそうなことと算数での計算をしっかり繋げるような教育をしてくれればよいのですが、そうなっていないことが大問題。

タグ：超算数

posted at 21:28:27

#超算数やっと不可解な発言を読めたのでスクショに記録。 twitter.com/ytb_at_twt/sta... pic.twitter.com/5QGLspkRL6

タグ：超算数

posted at 21:23:01

齊藤明紀 @a_saitoh

@genkuroki @Jidoukan634no それを大学の試験採点でやったら，アカハラ認定されて不思議はないレベルですね

タグ：

posted at 21:15:29

ytb @ytb_at_twt

「有理数×自然数は可能だけど自然数×有理数は不可能」って不可解すぎる。 twitter.com/poorex1/status...

タグ：

posted at 21:13:16

@Jidoukan634no @a_saitoh 本当は非公式の自主的な「萎縮」というようなことで済ますのではなく、子供を殴ったら正式に処分が下されることに近いルールがあった方が良いという意見が出て来ても不思議ではない話題だと思いました。

タグ：

posted at 21:09:14

@Jidoukan634no @a_saitoh 今回の件ではその一般論は有害です。

定規を使っていないという理由でバツをつけたり、減点するような行為について、学校側が悪いことをしていることを自覚して萎縮してくれることは、社会的にありがたいことだと思います。

あと、EM菌をプールにばらまくとかも是非とも萎縮してほしい。

タグ：

posted at 21:07:06

@Jidoukan634no @a_saitoh 関連↓ twitter.com/genkuroki/stat...

タグ：

posted at 20:51:12

@Jidoukan634no @a_saitoh 「萎縮云々」は上の添付画像による引用(このツイートにも再掲)を見れば分かるようにチョー算数に関する最近の話題でしょう。

そういう精神的に子供を殴る奴らの擁護に関する話題におかしな反応をしているなと私は思いました。 pic.twitter.com/U9wQnMPkeU

タグ：

posted at 20:49:54

@Jidoukan634no @a_saitoh 子供による完璧に計算されている筆算の答案に対して、定規を使っていないという理由でバツをつけたり、減点するような行為に対して、「子供にそういうひどいことをするのはやめろ」と言うことは極めて正当な行為で、それを擁護している人達は「大人が子供を殴って良い理由を述べる人達」と同類。 twitter.com/rochejacmonmo/... pic.twitter.com/ifKdoEHir9

タグ：

posted at 20:31:21

@Jidoukan634no @a_saitoh 【褒めることもすれば萎縮と伸びのバランスが取れるかもしれません。遠慮なく指摘できます。萎縮だけだとイノベーションしなくなって詰みます。】

子供を殴っている大人に対して「子供を殴るのをやめろ！」と言うことに対して、【萎縮だけだとイノベーションしなくなって詰みます】と言うのは酷過ぎ。 pic.twitter.com/vy3x3dLgYF

タグ：

posted at 20:25:33

@nekomath271828 改めて見直すと素晴らしいダジャレであることに気が付きました。

タグ：

posted at 18:59:07

非公開

タグ：

posted at xx:xx:xx

@nekomath271828 どういうことですか？

タグ：

posted at 18:39:52

他人のダジャレ見て我がダジャレ直せ。

タグ：

posted at 18:35:05

非公開

タグ：

posted at xx:xx:xx

エアコンのフィルターにホコリが詰まっててほっこりした（してない）。

タグ：

posted at 18:33:01

Shuhei Kadowaki @kdwkshh

👍

“Ruby の設計者である matz が、「型注釈を書くことを Ruby本体として推進しない」と判断した結果です *3 ” techlife.cookpad.com/entry/2020/12/...

タグ：

posted at 15:27:04

芹沢文書 @DocSeri

理科に於ける速度/時間/距離の関係性を「はじき」で教え込むやり方もそうだが、「理解させる」ことではなく「テストをクリアさせる」ために機械的なルールを仕込むことが学校教育の目的になってしまっている、ということ自体がとてもまずい。

タグ：

posted at 14:14:51

#超算数関連スレッド twitter.com/genkuroki/stat...

タグ：超算数

posted at 13:40:02

#超算数新井紀子さんは、例の定規の迷惑な使わせ方も擁護しているのか。

新井さんは算数本で【問題文にない数を無断で使ってはいけない】という有害な考え方を披露しており、【わり算の言葉づかい】が書いてあったら、わり算の式を書かなければいけないとしている。有害なパターンマッチ教育。 twitter.com/RochejacMonmo/... pic.twitter.com/7ZwfyA2dsR

タグ：超算数

posted at 13:40:01

新井氏のコメントは、定規を使うことが、科目特有の目的以外の基本スキルとしてどのような意義を持っているのかが具体的に書かれていないから、「謎ルールと決めつけるのはいかがなものか」という言葉だけが浮いてしまっている。

タグ：

posted at 13:30:32

元記事には「集団で過ごす中で、特定の子だけ定規を使わせる、使わなくてもよい、といった指示は現実的ではない」という教頭先生の発言があるが、これこそ目的と手段が倒錯しているのでは。目的は、定規なしでも直線が引けることであり、定規なしでも位取りを間違えずに計算できることなわけだから。

タグ：

posted at 13:26:58

しかし少なくとも筆算で定規を使えとかミニ定規で＋とかを書かせるというのは目的と手段が転倒していると思うし、「定規が引けない」とか「書き順が理解できない」という話と、「箇条書きができない」という話はレベルが違う話のようにも思う。

タグ：

posted at 13:21:37

新井紀子氏のコメント
www.asahi.com/articles/ASN2M...
「授業で定規を使う場面が多い」「科目特有の目的（筆算を正しく実行する）以外にも、スムーズに学習を進めるための基本スキルを科目の中で位置づけて身に着けさせる必要」が妥当かはよくわからない。 pic.twitter.com/dFuozOM097

タグ：

posted at 13:19:36

走る！空心菜 @faidaeng

一日一Julia

※忙しくてもとにかく一日一度はJuliaを立ち上げて１行でもコードを書いてみる、の意。#julialang

タグ： julialang

posted at 13:18:07

非公開

タグ：

posted at xx:xx:xx

vector * vector が定義されている言語があるんですか!?

タグ：

posted at 12:54:52

Viral B. Shah @Viral_B_Shah

CMBLensing.jl also uses the #JuliaGPU stack, and it is worthwhile to check out the package page and its dependencies and such:

juliahub.com/ui/Packages/CM...

@maleadt

タグ： JuliaGPU

posted at 12:23:24

Viral B. Shah @Viral_B_Shah

Excited to see this paper using CMBLensing.jl and #julialang for the first simultaneous Bayesian parameter inference and optimal reconstruction of the gravitational lensing of the cosmic microwave background. And check out that list of co-authors!

arxiv.org/abs/2012.01709

タグ： julialang

posted at 12:20:14

Yuki Nagai @cometscome_phys

内積だと複素数のときに混乱するし未定義で落ちるのが良い twitter.com/hishinuma_t/st...

タグ：

posted at 12:19:53

名取宏（なとろむ） @NATROM

サプリメントのリスクについてプレジデントオンラインに寄稿しました。なお、ウコンによる死亡事例は2001年の話です。新聞でも報道された事例ですが、覚えていらっしゃる方は少ないようです。 / htn.to/4gX3bLawfk

タグ：

posted at 12:13:49

ミスたこiPad @missTakoiPad

#Julialang でNewton法して遊んでる。楽しい。楽しいだけじゃなくてなんか後々に役立つようにcode を改善できないものか？＞自分

タグ： Julialang

posted at 11:25:55

齊藤明紀 @a_saitoh

小学校が間違ってることをやってるのを指摘したら「学校現場が委縮する」っての、委縮して改めてくれたらむしろ良いことでしょうに。

タグ：

posted at 10:29:36

まついしょうた @1027stesc

柴田淳-みんなのPython/東進デジ @ats

引用に偏りすぎて、もはや美しい。 pic.twitter.com/5UIORLpDGR

タグ：

posted at 10:11:39

Jupyter Notebookに自由に描画できるエリアを作れるipcanvas面白そう。

buff.ly/3oGDnAD

タグ：

posted at 09:45:01

#統計データが運悪く偏っているせいで生じる統計分析におけるリスクの分析をするためには、データの取得法の情報が抜け落ちてしまう道具だけで済ませることが不可能なのは自明であり、ゆえに「尤度原理」「尤度主義」は相手をする価値が全くない考え方になります。考えるだけで時間の無駄。

タグ：統計

posted at 08:32:38

#統計「真の分布」は単にデータが運悪く偏ってしまっている場合にひどい目にあう危険性を数学的に分析するためのささやかな道具にすぎません。

「主義」「思想」的に考えてしまう非科学的な人達は、「真の分布」の「真の」という言い方のせいで簡単にあっちの世界に行ってしまう。

タグ：統計

posted at 08:29:25

#統計統計学では、最低でもデータが運悪く偏っているせいでひどい目に会うリスクを分析できなければいけません。

そのためにはデータの取得法も数学的にモデル化しなければいけない(いわゆる「真の分布」というやつ)。「真の分布」と言われた途端に「主義」「思想」的な頭の使い方をしちゃダメ。

タグ：統計

posted at 08:26:56

#統計だから、期待予測誤差を最小化したければ、理論的には尤度函数に情報を要約し切ることは必然的に不可能になり、データの取得法の違いの影響がどうなるかを数学的に分析する必要が生じます

それに限らず、統計学ではデータの分布について期待値を普通によく考えます。常識の一つ。

タグ：統計

posted at 08:23:50

#統計例えば、データをどのように取得したか(試行回数nを固定していたか、成功回数がぴったりkになるまで試行したか)の違いは、定数倍の違いを無視すれば尤度函数を変えないのですが、データの確率的揺らぎに関する予測誤差の期待値を考えると、データの取得の仕方が数学的取り扱いに出て来ます。

タグ：統計

posted at 08:23:49

#統計私は統計学はど素人なので、そういう注意が必要なことは最近知った。

まさか、統計分析ではデータとモデルの情報を尤度函数だけで要約できるというような非常識な考え方がこの世に存在するなどと思ってもみなかった。

お偉い人達が大挙しておかしな考え方を次世代に教えている。

タグ：統計

posted at 08:16:06

#統計ただし、尤度函数はサンプルサイズnを十分大きくした場合にのみ十分な情報を持っているということを忘れると、「尤度原理」や「尤度主義」がまともに見えるという情けない状態に陥るので注意が必要です。

タグ：統計

posted at 08:16:04

#統計数学的には事前分布という道具もさらに使用可能になっているベイズ統計の方が使える道具が増えている分だけ数学の中身が難しくなっていますが、その分だけやれることが増える場合が多いと思います。

表に事前分布が見えないGauss過程回帰(無限次元ベイズ統計)でもやれることが増えている感じ。

タグ：統計

posted at 08:09:19

#統計以上のような計算は大学1年生レベルなので、誰か偉い人の書いた論文を引用して何か言ったつもりになっちゃダメ。自分で計算した方がよい。

タグ：統計

posted at 08:06:03

#統計ハイパーパラメータaを log(na+1)/(1-1/(na+1)) = 2 となるように、a = 3.92/n と決めると(事前分布の分散をnに反比例させると)、自由エネルギーによるモデル選択はAICによるモデル選択と同じになります。

以上、どこかで誤解していたら、すみません。
自明な誤解はよくあります。

タグ：統計

posted at 08:01:07

#統計そこで、自由エネルギーの実現値 f_n をその期待値の推定量とみなし、f_n の最小化でハイパーパラメータaを決めると、

n||X̅||² > d のとき、a = (n||X̅||²/d - 1)/n,
n||X̅||² ≤ d のとき、a = 0.

n||X̅||² ～ χ²(d) より、n→∞のとき、確率1で自由エネルギーを最少化するaは0に収束する。

タグ：統計

posted at 07:54:10

#統計事前分布の分散を意味するハイパーパラメータa≧0が a=0 になるとき、すなわち、事前分布が真の分布のパラメータに台を持つデルタ分布になるときに、自由エネルギーの期待値E[f_n]が最小になることはすぐに分かります。

しかし、自由エネルギーの期待値は通常に場合には永久に未知のまま。

タグ：統計

posted at 07:49:51

#統計スケールはχ²分布のスケール。この場合のモデルの自由エネルギーと真の分布の自由エネルギーの差は

f_n = -(1-1/A)n||X̅||² + (log A) d.

ここで

A = na + 1, a = 事前分布の分散 ≧ 0.

正確には事前分布の分散共分散行列が単位行列のa倍。

n||X̅||² ～ χ²(d) に注意。

タグ：統計

posted at 07:46:53

#統計添付画像

1. KL情報量やAICの計算。

2. BICだと事前分布の情報が完全に抜け落ちてしまうので、事前分布が分散共分散行列が単位行列のa倍の多変量正規分布の場合の自由エネルギーを計算して来ました。 pic.twitter.com/iFuOhDklo2

タグ：統計

posted at 07:42:08

#統計ぎょぎょ。また自明な誤りを見つけた。

訂正:

❌ E[ΔBIC] = -2d + (log n)×d = (log n - 2)×d

⭕️ E[ΔBIC] = -d + (log n)×d = (log n - 1)×d twitter.com/genkuroki/stat...

タグ：統計

posted at 06:02:22

#統計全体のほんの一部分の有限個の数値で構成されたデータだけから、非常に強い科学的な結論を出すのは無理。

直観的にも無理に決まっているし、以上のように数学的に計算してもそのことがよく分かる。

統計学ユーザーは自分の判断でどのリスクをどれだけ受け入れるかを決める必要があります。

タグ：統計

posted at 05:56:53

#統計 BICによる真の分布選択失敗の必要十分条件は S > (log n)×d なので(注: 近似的にS～χ²(d))、データのサイズnが大きくなるほど条件が厳しくなっており、n→∞でBICによる真の分布選択失敗の確率は0に収束。

これは仮説検定ではn→大で有意水準→小とすることに対応しており、検出力は落ちます。

タグ：統計

posted at 05:53:56

#統計これは当たり前なのですが、なぜかこれを理由にAICはダメだと言うお馬鹿な人達がいて、バカ扱いされずに済んでいる。くだらない「論争」が実に多い。

そういう人には、データのサイズn→∞で第一種の過誤の確率が0に収束しないので、仮説検定はダメだと言ってもらいたい(笑)

タグ：統計

posted at 05:49:10

#統計第一種の過誤の必要十分条件の S > c(α) やAICによる真の分布選択失敗の必要十分条件の S > 2d はデータのサイズnに依存しない条件なので、n→∞としても、第一の過誤や真の分布選択失敗の各率は0に収束しません。

タグ：統計

posted at 05:49:10

#統計一般にAICが使用可能な状況で、有意水準をαとするとき、上の方の記号のもとで、近似的にχ²(d)分布に従う統計量Sが存在して、

仮説検定で第一種の過誤が起こる ⇔ S > c(α),

AICによって真の分布が選択されない ⇔ S > 2d,

BICによって真の分布が選択されない ⇔ S > (log n)×d.

タグ：統計

posted at 05:49:08

#統計計算過程で対数を使ったときの視覚化を行う場合には、対数を取って得られる量が座標に依存する数学的に素性の悪い量になっている可能性が高いので、対数そのものではなく、何か適切な対数の差のプロットを行った方が綺麗な法則を発見できる可能性が増えるはず。

対数の取り扱い1つで色々深い。

タグ：統計

posted at 05:12:04

#統計 log(X)について

Xが座標系に依存する量である場合には、その対数 log(X) も座標依存な量になります。しかし、多くの場合にそれらの差 log(X₁) - log(X₀) は座標不変になります。

汎化誤差は座標に依存するがKL情報量は座標不変。

AICは座標に依存するが、差のΔAICは座標不変。

タグ：統計

posted at 05:08:07

#統計 χ²分布のスケールに合わせるためには、予測分布のKL情報量は2n倍しておく必要があります。

こういうことは本当は他人に教わるのではなく、数値実験の試行錯誤時にスケールを合わせて表示をきれいにすること経由で自力で発見できた方が楽しいです。

タグ：統計

posted at 05:02:25

#統計訂正：よくある負号を書き忘れるというやつ

❌ AIC = LLR + 2d

⭕️ AIC = -LLR + 2d

対数尤度比(最大尤度の比の対数)

LLR = 2 log((モデルの最大尤度)/(真の分布の尤度))

の定義で2倍しておくと、χ²分布のスケールにちょうどなっていて便利。このスケールに合わせて数値計算すると便利です。 twitter.com/genkuroki/stat...

タグ：統計

posted at 04:59:44

#統計ひどい解説では、統計学を使用することのリスクとその数学的原因をきちんと説明せずに、統計学で【お墨付き】が得られる理由を「主義」で説明しようとする。

まともな解説では、統計学の使用で生じるリスクとその数学的原因の解説を頑張り、統計学はお墨付きが得られる道具ではないと強調する。

タグ：統計

posted at 04:46:57

#統計コンピュータを使った中心極限定理の数値的確認&視覚化と同様にして、Wilks' theoremを数値的に確認&視覚化したい人は以下のリンク先スレッドを見てください。 twitter.com/genkuroki/stat...

タグ：統計

posted at 04:40:40

#統計

対数尤度比LLRを

LLR = 2(log(モデルの最大尤度) - log(真の分布の尤度))

と定めると、

ΔAIC = LLR + 2d

となり、AICが使用可能な状況では一般的に、Wilksの定理より、LLRはχ²(d)分布に近似的に従う。

こういう類のことから、上でやった特殊な計算の結論は広く成立していることがわかる。

タグ：統計

posted at 04:37:08

#統計本当は以上の計算を知らずに、(分散共分散を固定した多変量)正規分布モデルの予測分布のKL情報量とΔAICの相関係数をコンピュータで計算した経験があった方が人生の楽しみが増えます。

コンピュータは「これはぴったり-1だ！」と感じさせるような値を表示してくれるはずです！めっちゃ興奮する！

タグ：統計

posted at 04:27:55

#統計以上の計算のd=1の場合(ℝ上の正規分布モデルの場合)の計算が、渡辺澄夫『ベイズ統計の理論と方法』pp.80-82にあります。

私はこの本はみんな買っておいた方がよいと思う。

BICの位置付けもこの本が正しいです。BICは情報量規準じゃないと思っているおかしな人達がいる。

タグ：統計

posted at 04:23:05

#統計要するに、データが運悪く偏っていたせいで、モデルの予測分布の予測誤差が大きくなり過ぎてしまうと、仮説検定は帰無仮説=真の分布を棄却し、AIC、BICは真の分布を選択せずに予測誤差が非常に大きくなった側のモデルを選択することになるわけです。

これはモデルによらずに成立しています。

タグ：統計

posted at 04:19:04

#統計今の場合には、統計量n||X̅||²～χ²(d)が大きくなりすぎると、第一種の過誤が生じたり、真の分布がモデル選択で選ばれないということが起こります。しかし、

真の予測誤差の指標 = 2n×KL情報量 = n||X̅||²

なので、そういうことが起こるのは、真の予測誤差が大きくなり過ぎた場合に等しい！

タグ：統計

posted at 04:14:53

#統計こんな感じで、情報量規準によって、真の分布が選択される条件は、帰無仮説の分布を真の分布としたときの仮説検定における第一種の過誤(仮に帰無仮説が成立しているときに帰無仮説が棄却されること)と比較できることが分かります。

タグ：統計

posted at 04:11:15

#統計帰無仮説w=0∈ℝ^dの有意水準αの仮説検定では、定数c(α)を

(自由度dのχ²分布でc(α)以上になる確率) = α

によって定めると、

第一種の過誤が起こる ⇔ n||X̅||² > c(α),

AICによって真の分布が選択されない ⇔ n||X̅||² > 2d,

BICによって真の分布が選択されない ⇔ n||X̅||² > (log n)×d.

タグ：統計

posted at 04:07:35

#統計期待値からの確率的な揺らぎの大きさは、どれも自由度dのχ²分布に従う n||X̅||² なのですが、真の予測誤差の大きさの指標である 2n×KL情報量とΔAIC, ΔBICで揺らぎの向きは正反対になっています。

タグ：統計

posted at 04:01:20

#統計これらのデータX=(X_1,…,X_n)の確率的揺らぎに関する期待値は、

n||X̅||² ～ χ²(d)

なので、

E[2n×KL情報量] = d,

E[ΔAIC] = -d + 2d = d,

E[ΔBIC] = -2d + (log n)×d = (log n - 2)×d

となります。この場合には、前者の2つはぴったり一致しています。続く

タグ：統計

posted at 03:56:57

#統計

ΔBIC=モデルのBIC-真の分布のBIC

とおくと

2n×KL情報量 = n||X̅||² ≧ 0,

ΔAIC = -n||X̅||² + 2d ≦ 2d,

ΔBIC = -n||X̅||² + (log n)×d ≦ (log n)×d

となることも分かります。KL情報量は予測分布による真の分布の予測誤差としてのKL情報量で、私はよく真の予測誤差と呼んでいます。続く

タグ：統計

posted at 03:51:12

#統計以上の設定において、最尤法の解は

w = w* = X̅

になるので、最尤法の予測分布は

p(x|X̅) (平均がX̅で分散共分散行列が単位行列の多変量正規分布)

になります。これより、

2n×KL情報量 = n||X̅||² ≧ 0,

ΔAIC = -n||X̅||² + 2d ≦ 2d

となることが、簡単な計算で分かります。続く

タグ：統計

posted at 03:46:37

#統計このとき、データの標本平均

X̅=(X_1+…+X_n)/n

はℝ^d値の確率変数で、従う分布は平均0∈ℝ^dで分散共分散行列が単位行列の1/n倍である他変量正規分布になります。

ゆえに、n||X̅||²は自由度dのχ²分布に従います：

n||X̅||² ～ χ²(d).

続く

タグ：統計

posted at 03:40:51

#統計直接の計算で確認するなら、分散共分散行列を固定した多変量正規分布モデル

p(x|w) = exp(-||x-w||²/2)/(2π)^{d/2}, x,w∈ℝ^d

の場合を計算するとよいです。真の分布は

q(x) = p(x|0)

だとし、真の分布のi.i.d.として、(ℝ^d)^n値のデータ

X=(X_1,…,X_n)

が生成されているとする。続く

タグ：統計

posted at 03:40:50