黒木玄 Gen Kuroki(@genkuroki)/2017年10月04日

問：主成分分析を行え
#Julialang ユーザ「その程度の行列計算なら標準機能で実現できるよ。」
#Python ユーザ「scikit-learnで可能。ソースも読んだよ」
#Rstats ユーザ「パッケージを使えば簡単にできるよ。え、実装? パッケージだから読めないよ」

タグ： Julialang Python Rstats

posted at 23:58:20

#数楽少し上の方の話のまとめ

(1) 正のx_i達に関する (定数) ≤ (x_1…x_n)^{1/n} ≤ (x_1+…+x_n)/n ≤ 1 → 平均1のガンマ分布

(2) (x_1^2+…+x_n^2)/n ≤ 1 → 標準正規分布

シミュレーションも簡単

タグ：数楽

posted at 23:52:27

#数楽この手の「ほぼ0」になる確率を対数を取ることによって、よい漸近挙動を示せれば、「大偏差原理」を一つ確立できたことになります。大偏差原理は、分母がほぼ0の場合の条件付き確率と直接的な関係があります。

タグ：数楽

posted at 23:44:03

#数楽高次元では物体の体積の大部分が表面に集中します。確率は

部分の体積／全体の体積

で計算するので、超高次元物体の中からランダムに点を選ぶとほぼ確率1で表面のすぐそばの点になります。n次元の立方体内のランダムな点が立方体に含まれる球体に入っている確率はほぼ0になります。

タグ：数楽

posted at 23:41:28

#数楽警告：高次元球体内の点をランダムに選ぶために次のようなプログラムを書くと失敗します。

-√nから√nのあいだの一様分布の乱数でn個の数を生成し、それらを座標とする点が半径√nの球体に含まれるまでそれを繰り返す。

高次元ではその点が球体に含まれる確率はほぼ皆無です。😅

タグ：数楽

posted at 23:38:26

{3,5/2} 大二十面体 @Polyhedrondiary

#数楽だから、以下の3つの定理は確率統計における必須の定理だと言って問題ないと思う。

大数の法則
中心極限定理
Sanovの定理 (およびCramerの定理、そしてより一般には大偏差原理)

3番目の項目に関する私のノート
genkuroki.github.io/documents/2016...

タグ：数楽

posted at 23:33:50

@genkuroki 算術平均と幾何平均について，これもあまり知られてない話でしょうか
twitter.com/Polyhedrondiar...

タグ：

posted at 23:33:20

#数楽続き。さらにSanovの定理は、確率分布pで確率分布qをシミュレートしたときの予測精度を表わすKullback-Leibler情報量を理解するために必須の定理です。

タグ：数楽

posted at 23:31:20

#数楽続き。しかし、Sanovの定理などの大偏差原理についてなにがしかの知識を持っていないと、「中心極限定理とは異なる理由で正規分布がありがちな分布になりえること」「同様の意味でガンマ分布などの指数型分布族一般もありがちな分布になりえること」を理解できなくなります。

タグ：数楽

posted at 23:29:41

#数楽各種確率分布について理解を深めておくことは、数学を応用したい人達にとってはとても重要なことだと思います。大学2年生向けの確率統計の授業では

大数の法則
中心極限定理

まではやっても、

Sanovの定理などの大偏差原理

についてはほぼやることがありません。続く

タグ：数楽

posted at 23:28:14

#数楽統計力学の教科書では、以上のような原理の一般化で「限りなく1に近い確率で出て来る確率分布」は「カノニカル分布」と呼ばれています。

カノニカル分布として正規分布が出て来る仕組みは中心極限定理とは異なります。カノニカル分布としての正規分布が出て来る仕組みは大偏差原理。

タグ：数楽

posted at 23:26:10

#数楽連続的な確率分布として、まず最初に知るべきなのは正規分布なのですが、その次に知るべき分布はカイ二乗分布です。そのカイ二乗分布はガンマ分布の特別な場合になっています。以上の解説は正規分布とガンマ分布がいつ「ありがちな分布」(ほぼ確率1で生じる分布)になるかについてです。

タグ：数楽

posted at 23:22:19

#数楽相加平均と相乗平均については高校で習う。x_i > 0、

(定数) ≤ (x_1…x_n)^{1/n} ≤ (x_1+…+x_n)/n ≤ 1

という条件を満たすx_i達の分布はほぼ確率1でほぼガンマ分布になります。相加相乗平均について余り語られない話だと思う。

タグ：数楽

posted at 23:20:05

#数楽 x_i ≥ 0、(x_1+…+x_n)/n ≤ 1 という条件にさらに、(x_1…x_n)^{1/n} ≥ (定数) という条件を付け加えると、指数分布の一般化であるガンマ分布が出て来ます。

twitter.com/genkuroki/stat...

タグ：数楽

posted at 23:16:53

#数楽指数分布が出て来る方の話は「n次元」の概念さえ理解できていれば、高校レベルの数学の方法で証明できます。n次元空間内の単体(線分、直角二等辺三角形、…)の体積(長さ、面積、…)を求めて、確率を計算してn→∞の極限を取るだけの計算。

タグ：数楽

posted at 23:14:15

#数楽球体を x_i ≥ 0、(x_1+…+x_n)/n ≤ 1 という条件で定義されるn次元単体に置き換えると、単体内の点 (x_1,…,x_n) をランダムに選ぶと、そこから得られる実数直線上の分布はほぼ確率1で平均1の指数分布でよく近似されるようになります。

タグ：数楽

posted at 23:12:29

#数楽原点が中心の高次元球体の点 (x_1,…,x_n) がランダムに与えられると、実数直線上に x_1,…,x_n が並んでいる分布が得られるわけです。それのヒストグラムを描くと、そのヒストグラムはほぼ確率1で正規分布で近似されるようになります。

タグ：数楽

posted at 23:10:20

#数楽動画のシミュレーションでは (x_1^2+…+x_n^2)/n を「平均エネルギー」と呼んでいます。

以上のように、正規分布は中心極限定理の収束先であるだけではなく、高次元の球体上の一様分布から自然に出て来る分布でもあります。

タグ：数楽

posted at 23:08:04

#数楽 nが大きなとき、球体 (x_1^2+…+x_n^2)/n ≤ 1 の内部の点をランダムに選ぶとほぼ確率1で x_1,…,x_n の分布が正規分布に近い分布になります。その計算は大学1年生で多次元の積分について習えば実行可能です。

タグ：数楽

posted at 23:06:04

#数楽 n次元空間内の点 (x_1,…,x_n) を (x_1^2+…+x_n^2)/n ≤ 1 の範囲内でランダムウォークさせると、左辺は次第に1に近付き、x_1,…,x_n の実数直線上での分布は正規分布(で近似される分布)に近付きます。「証明」は大学1年レベル。

タグ：数楽

posted at 23:03:49

@genkuroki @AS_Insects レトリックのうまさ、話のうまさと、内容の妥当性は必ずしも正の相関があるわけじゃない。むしろ、レトリックのうまさで中身が大したことなくてもそれっぽく聞こえてしまうということがあると思う。

タグ：

posted at 23:02:14

#数楽 #JuliaLang

nbviewer.jupyter.org/gist/genkuroki...
平衡状態でのカノニカル分布としての正規分布

nが大きいとき(動画ではn=2000)、n次元空間内の半径√nの球体内部でランダムウォークさせると分布は標準正規分布(でよく近似される分布)に収束します。 pic.twitter.com/qkqA1NLQrJ

タグ： JuliaLang 数楽

posted at 23:01:10

@genkuroki @AS_Insects で、伝言ゲームで「掛け算を同数累加で教えるべきじゃない」がいつのまにか「掛け算は累加ではない」となってしまう。

タグ：

posted at 23:00:03

@genkuroki @AS_Insects 遠山啓の文章はその手の藁人形叩きがちょくちょくあります。どこかにも書いていましたが「掛け算を累加で教えるべきじゃない」というのにしても、「掛け算がいついかなる時でも常に同数累加なのかというと決してそんなことはない」と力説しているが、「いついかなるときでも」と誰が言っているのか？

タグ：

posted at 22:57:38

@sekibunnteisuu @AS_Insects 遠山さんはレトリックがうまいんだよね。

「矢線のイメージも排除しない」と「矢線でなければダメ」では大違い。

「矢線でなければダメ」なんて人がいたかどうかおおいに疑問。

タグ：

posted at 22:33:24

#統計対数を取ってから線形回帰して、非対数で普通にプロットすると通常の最小二乗法で線形回帰した方が大外ししているように見えますね。3つの外れ値に通常の最小二乗法は大きく影響されてしまいます。外れ値対策が必要。

タグ：統計

posted at 22:30:12

#統計使ったデータは

cran.r-project.org/web/packages/r...

から Package source をダウンロードして、data/Animals2.rda を読めれば手に入ります。解説は

vincentarelbundock.github.io/Rdatasets/doc/...

にある。

タグ：統計

posted at 22:26:26

#数楽 #統計 #JuliaLang よく見ると正しくは「地上の動物62種とそれ以外の3種」だったので再訂正。

3つの外れ値が「それ以外の3種」かな？ pic.twitter.com/75nypINJUz

タグ： JuliaLang 数楽統計

posted at 22:18:01

@genkuroki @AS_Insects 参考までに、遠山啓のベクトルに関する文章をアップしておきました。
twitter.com/sekibunnteisuu...

タグ：

posted at 22:07:09

#数教協　 #水道方式
遠山啓エッセンス　３　量の理論　なぜベクトルを教えるか
ｐ１０９ pic.twitter.com/9eVxkbBJKM

タグ：数教協水道方式

posted at 22:05:08

#数教協　 #水道方式
遠山啓エッセンス　３　量の理論　なぜベクトルを教えるか
ｐ１０５～１０８ pic.twitter.com/nzZklIfKGd

タグ：数教協水道方式

posted at 22:04:14

＃数教協　＃水道方式
遠山啓エッセンス　３　量の理論　なぜベクトルを教えるか
ｐ１０１～１０４ pic.twitter.com/4cJG1vCaZz

タグ：数教協水道方式

posted at 22:01:21

#数楽 #統計 #JuliaLang 非対数グラフに「対数グラフ」と書いてあったので再投稿。

gist.github.com/genkuroki/1e1e... …
動物の体重と脳の重さのグラフの日本語版
対数グラフが見易い。通常の非対数グラフにすると左下の部分がつぶれる。 pic.twitter.com/fC1UntghLq

タグ： JuliaLang 数楽統計

posted at 21:35:36

@genkuroki @AS_Insects 理解してしまうと、それらのイメージは渾然一体になってしまう。

タグ：

posted at 20:58:14

Limg @LimgTW

よく眠りたまに色々考える主婦甘木サカヱ @toppinpararin

例によって、法的に効力を持つ「学習指導要領」から消え、教育的に宜しくない主張が散在する「学習指導要領【解説】という」で曲解されるままの現象ですかねー　#掛算 twitter.com/tomiyasu45/sta...

タグ：掛算

posted at 20:16:36

昨日失敗した塩辛いマロンペーストをヤケクソで今日の夕飯のクリームシチューにぶち込んだらまさかの家族からめちゃくちゃ好評で、義母にレシピ聞かれたから「まず最初に、マロンペーストを作る際に砂糖と塩を間違えます」って答えておいた。 twitter.com/toppinpararin/...

タグ：

posted at 19:28:29

@AS_Insects @sekibunnteisuu 引き出しはたくさんないと困ることが多いので、「どれでもいい」んだけど、「複数のイメージを自在に使えるようになること」が目標。

算数で頭が硬くなる教育になっているのが辛い。

学生時代には、ろくに読みもせずに遠山啓さんは偉いと思っていましたが、今は全然偉くないと思っています。

タグ：

posted at 19:05:29

非公開

タグ：

posted at xx:xx:xx

非公開

タグ：

posted at xx:xx:xx

非公開

タグ：

posted at xx:xx:xx

M. Watanabe @labidochromis

@genkuroki @sekibunnteisuu @AS_Insects 海虎を虎だと考えて混乱する人が…

タグ：

posted at 17:31:34

非公開

タグ：

posted at xx:xx:xx

非公開

タグ：

posted at xx:xx:xx

@sekibunnteisuu @AS_Insects 「みかんを3分の2個食べました」で問題無し。

「矢線のあいだの角度は内積で計算できる。函数のあいだの角度も内積で計算できる」←これで全然問題ない。

「速さを積分すると距離になる。積分は面積だった。面積で距離を表せる。距離を面積のイメージで考えてよい」←これも全然問題ない。

タグ：

posted at 17:05:36

S (ﾂｲｰﾄはｽﾚｯﾄﾞ全体をご確認く @esumii

#数学授業メモ
小学生に中学数学教科書の方程式の文章題を解かせてみた。なんだかんだで全部出来た。

どうやったかというと、「あてはまるものを探す」というだけのこと。

タグ：数学授業メモ

posted at 14:19:21

論文本体（無料公開）はこちら：doi.org/10.11309/jssst... 元となった大堀先生のコンパイラの授業はこちら：www.pllab.riec.tohoku.ac.jp/education/lect... 「既存のコンパイラの教科書では，例えばこの基本的な原理の基礎となるアイデアなどが極めて分かりにくい」

タグ：

posted at 14:17:39

@genkuroki @AS_Insects 実数の掛け算とは全く無関係なものとして教えればいい。

「タイガーは虎だと教えるとブラックタイガーを虎だと思って混乱する人がいるから、タイガーは虎ではないと教えるべき」

対案
タイガーは虎だけどブラックタイガーは虎じゃなくてエビだと教える
あるいはブラックタイガーの名称を変える

タグ：

posted at 13:16:50

@genkuroki @AS_Insects 掛け算の順序でも、行列のような非可換な乗法もあるからどーたら、という人がいるけど、「掛け算は可換と教わったので、行列の積で混乱する」という人が本当にいるなら（そのような人がいるのか甚だ疑問）、行列の積を「積」とは言わないで、算数で習ったあの掛け算を想起するような名称をやめて、

タグ：

posted at 13:12:54

@genkuroki @AS_Insects べき乗を「同じ数を何度も掛ける」と認識していたことは、指数が負数や分数である場合について考える際の妨げにはならなかった。むしろ、３^-2　は、３を掛けることを－２回行う、つまり、３を掛けることの逆を２回行うことだから、３で割ることを２回やればいいわけで、理屈に合う、と思った。

タグ：

posted at 13:09:36

@genkuroki @AS_Insects 関数がベクトルを言われて、「なるほど！そうすると微分や不定積分は線型写像か。基底とかあるのかな？微分を表す行列とかは？」となりました。

最初に教わったのに強く拘束されるから、より一般的な定義で教えるべき、という遠山啓の主張には到底納得できない。

タグ：

posted at 13:05:40

片瀬久美子 @kumikokatase

"将来、南さんの乳がんが再発しないとしても代替医療のおかげではない。代替医療を行わなくても、もともとステージIの乳がん術後の予後は良いからだ。"
/ 乳がん術後の「抗がん剤ストップ」のリスクはどれぐらい？ - NATROMの日記d.hatena.ne.jp/NATROM/2017100...

タグ：

posted at 09:23:42

Ishida the Brain Dam @tbs_i

日本政府のやりたがってる「選択と集中」ってのは、「この1/1000を事前に予測すれば100%の効率なんじゃね」という馬鹿げた理屈。 twitter.com/genkuroki/stat...

タグ：

posted at 09:13:40

砂___の___女 @vecchio_ciao

#算数

この先の引用ツイートは、 #さくらんぼ算の「強制」で、抽象的思考能力を奪っている実例そのものではないか…

せっかく本人がイメージしやすいように分解しているのに、10にこだわる必要性が理解できない。 twitter.com/kageyama_hideo...

タグ：さくらんぼ算算数

posted at 06:09:52

大栗博司 @PlanckScale

連載「大人のための最先端理科」のワームホールの記事：今回ノーベル物理学賞を受賞されたキップ・ソーンさんも、ワームホールについて研究されていて、彼が科学監修をした映画『インターステラー』でもワームホールが重要な役割をします。dw.diamond.ne.jp/articles/-/21406

タグ：

posted at 05:58:33

非公開

タグ：

posted at xx:xx:xx

非公開

タグ：

posted at xx:xx:xx

#数楽 #統計 #JuliaLang
gist.github.com/genkuroki/1e1e...
動物の体重と脳の重さのグラフの日本語版
対数グラフが見易い。 pic.twitter.com/HRYwRlMb2r

タグ： JuliaLang 数楽統計

posted at 01:13:57

非公開

タグ：

posted at xx:xx:xx

@hagegga いえ、深夜に笑わせてもらいました。どうもありがとう😁

タグ：

posted at 00:29:58

うさだ萌え @hagegga

@genkuroki 申し訳ありません。

タグ：

posted at 00:04:24

外してみた。

タグ：

posted at 00:04:07

@hagegga うまく行っています。しかし、それだと、私に延々とメンションが飛ぶことになるので、返答先から私を外す方法も試してみるといいと思います。

タグ：

posted at 00:03:44