黒木玄 Gen Kuroki(@genkuroki)/2021年01月/Page 11

授業のため、地震波形の立ち上がり=P波到達の瞬間を読み取るためのページを作った。 Plotly.js のおかげで比較的簡単 pic.twitter.com/nBn7QO4v9B

タグ：

posted at 02:59:52

@tsatie 【どもならんようです。】だけだと、何が起こっているのか不明すぎてどもならんです。

エラーメッセージ全体のスクショの類の情報があれば全然違う。

他にもOS、Juliaのバージョン、Pythonは何を使っているか、など、とにかくあらゆる情報を最初から全部出すとさらによい。

タグ：

posted at 04:03:24

#統計

 amazon.co.jp/dp/4130413007
竹内啓・竹村彰通編
数理統計学の理論と応用
1994
第5章竹内啓統計的推測理論の諸問題

に最尤法が漸近的に全然最良でないシンプルな例が載っていたので(添付画像)、#Julia言語で数値的に確認してみた↓

nbviewer.jupyter.org/gist/genkuroki...

ベイズ統計に繋がる話題。続く pic.twitter.com/HQKUFaUBJr

タグ： Julia言語統計

posted at 04:22:16

#統計その節のタイトルは「5 非正則な場合の漸近推定論」で、尤度函数が漸近的にフラットになる場合(一様事前分布の事後分布が漸近的に一様分布になる場合)のシンプルな例を作っているので、渡辺澄雄『ベイズ統計の理論と方法』の読者は特に興味を持つと思ったので、紹介することにしました。

タグ：統計

posted at 04:22:59

#統計データを生成する真の分布は添付画像の密度函数を持つtruncated normal distributionです。標準正規分布を |x|>1 なら確率密度が0になるように改変したもの。

モデルはこの分布を並行移動したものです。パラメータは平均μのみ。

分布の台がパラメータμごとに違うモデルになっている。 pic.twitter.com/91XiSCPZkr

タグ：統計

posted at 04:26:15

#統計その場合に、

* 最尤法(max.lik.estim.)

* サンプル中の値の最大値と最小値の平均を推定値として採用(mean extrema)

の2つを比較すると、添付画像のように、後者を使った方が真の値の0に近い値が得られる確率が高くなります。

n=10だと違いは小さいにですが、n=100だと違いは明瞭。 pic.twitter.com/qWqRWInj20

タグ：統計

posted at 04:41:54

#統計 #Julia言語せっかく計算したので n=1000, 10000の場合も。

最尤法(max. lik. estim.)は、最大値と最小値の平均を推定値として採用するシンプルな推定法に惨敗しています。

分散固定のtruncated normal distribution modelでこのようなことが起こるわけです。 pic.twitter.com/1roMhWoOMk

タグ： Julia言語統計

posted at 04:45:38

#統計 #Julia言語

 nbviewer.jupyter.org/gist/genkuroki...

添付画像はランダムに生成したサンプルの尤度函数のグラフです。

n=10, 100, 1000とサンプルサイズnを大きくして行くと、尤度函数が区間上ほぼ一定値の形に近付いて行く様子が見えます。微小な傾きが原因で最尤推定値は区間の両端に偏りがちになる。 pic.twitter.com/wM2nH3s7aZ

タグ： Julia言語統計

posted at 04:50:00

#統計最尤法が有効なのは、サンプルサイズ大で、尤度函数の形が正規分布の密度函数の定数倍でよく近似される釣鐘型になる場合です。

上の切断正規分布モデルの尤度函数は釣鐘型には全然近付かず、一様分布の密度函数の定数倍の形に近付き、最尤法による推定は全然最良にならない。

タグ：統計

posted at 04:55:57

#統計この場合には、サンプルサイズ大のとき、最尤推定量よりも優れている「サンプル中の最大値と最小値の平均」は平坦事前分布から得られる事後分布の平均値に近似的に等しくなる。

尤度函数が持っている貴重な情報の利用の仕方として、最尤法が最良ではないことは、この例からもわかるわけです。

タグ：統計

posted at 05:00:32

#統計このスレッドのトップで引用した竹内啓さんによる「5 非正則な場合の漸近推定論」の内容は、最尤法が良い方法として使用可能なのは漸近的にベイズ統計の結果と一致する場合で、そうでない場合にはベイズ統計が優れた方法になることを示唆しているとみなせます。

タグ：統計

posted at 05:08:20

#統計そこで引用した文献は1994年のものであり、現代においては(少なくとも私にタイムラインでは)

「渡辺澄雄『ベイズ統計の理論と方法』をみんな読んでいる」

という雰囲気になっており、最尤法が最良の方法でない場合にはベイズ統計が良い方法になることを

「みんな知っている」

わけです。

タグ：統計

posted at 05:08:21

#統計以下のリンク先のスレッドを見ても、ベイズ統計のような尤度函数全体の情報をうまく利用しようとする方法は、「主観確率」だの「ベイズ主義」だの「尤度原理」だのそういうくだらない話と無関係に、「誤差が小さい」という良い性質があるがゆえに使う価値がある場合があることが分かります。 twitter.com/genkuroki/stat...

タグ：統計

posted at 05:11:35

#統計最尤法にも非常にうまく行く場合が結構あります。そういう場合には別にベイズ統計を使う必要はないです。

しかし、推測用に使うモデルをちょっと複雑にするだけで、最尤法が良い方法だとは言えそうもない状況が生じる可能性があって注意が必要だという話です。

タグ：統計

posted at 05:18:53

#統計注意・警告: このスレッドを見て、「最尤法はダメで、ベイズ統計がよい」と解釈した人はひどく誤解している！

最尤法が非常にうまく行く場合は結構あります。そういう場合にはベイズ統計を使う必要はないです。

「ケース・バイ・ケースで自分の目的に合った方法を使う」以上のことは言えない。

タグ：統計

posted at 05:29:11

#統計色々な統計モデルの尤度函数のプロットをすると、釣鐘型になって最尤法が非常にうまく行きそうな場合にも多数出会うし、全然釣鐘型にならず、最尤法の使用はやめた方が良さそうな場合にも出会います。

モデルを作るのはユーザー側なので、どの道具をどのように適切に使うかはユーザー側の責任。

タグ：統計

posted at 05:32:17

@kuri_kurita

pic.twitter.com/5QMLjK2M7q

タグ：

posted at 06:07:36

#統計一般に、確率密度函数p(x)が p(b)=C>0, p(x)=0 (x>b) を満たすとき、その密度函数で定まる分布のサイズnのサンプルの最大値Mについて、b - M が従う分布は、n大のとき、期待値 1/(nC) の指数分布で近似されます。

真の最大値と標本の最大値の差は1/nのオーダーで小さくなります。

タグ：統計

posted at 07:25:17

#統計一方、真の平均と標本平均の差は、中心極限定理より、1/√nのオーダーでしか小さくなって行きません。

だから、nが大きなとき、標本最大値と比較すると、標本平均の揺らぎの大きさは圧倒的に大きくなる。

これがこのスレッドで紹介した例の理解では重要になります。

タグ：統計

posted at 07:29:35

タグ：統計

posted at 07:46:11

@tomoak1n @tsatie #Julia言語以下のリンク先の添付画像の行列計算には、Juliaの公式バイナリしか必要ない。

あと、そもそも、すでにJupyterでJuliaが使えているのだから、「Pythonなにも知りません」状態のはずがない。

エラーの様子の詳細情報を待つのが正しいです。 twitter.com/genkuroki/stat...

タグ： Julia言語

posted at 07:50:33

Juliaのダウンロード数、直近1年でそれ以前の9割近くに到達している。 pic.twitter.com/TOykEesMJs

タグ：

posted at 07:53:44

#統計尤度函数は

L(μ) = const. exp(-n(μ-X̅)/2) if B-1≤μ≤A+1
L(μ) = 0 otherwise

なので、標本平均X̅が、標本最大値-1以上標本最小値+1以下の区間から外れると(n大で外れる確率は1に近付く)、L(μ)を最大化するμは区間の両端のどちらかになります。

タグ：統計

posted at 07:54:55

#統計本当は尤度函数の台になっている区間の真ん中あたりがもっともらしいのに、尤度最大化にこだわるとその区間の両端の値を推定値として採用してしまう確率が高くなって、誤差を無駄に大きくしてしまうことになるわけです。

尤度最大化は必ずしも「もっともらしさ」の最大化にはなりません。

タグ：統計

posted at 07:57:58

#統計「尤度」(ゆうど)は英語のlikelihoodの翻訳語で、英語でlikelihoodは「もっともらしさ」という意味を持っているのですが、数学的に定義された尤度はそのような代物ではないので、likelihoodと名付けた人は尤度について誤解を招く専門用語を作ってしまったことになります。

タグ：統計

posted at 08:01:22

#統計数学的に定義された尤度は「もっともらしさ」ではないのに、likelihoodと呼ぶことになったせいで、論理的に考えることよりも、言葉の意味で考えてしまう傾向の強い人達が、尤度について不毛な哲学を20世紀に展開した疑いがある。

誰かそういう黒歴史についてきちんと研究するべきだと思います。 twitter.com/genkuroki/stat...

タグ：統計

posted at 08:05:37

@miguelraz_ I have no idea, but some fundamental packages are downloaded thousands times everyday (see: discourse.julialang.org/t/pkg-ecosyste...), which seems to exclude automation tools like CI.

タグ：

posted at 08:08:10

#統計 #Julia言語区間[-1,1]の外側を切断した標準正規分布のサンプルの最大値Mについて、1-Mが従う分布が指数分布で近似されることの数値的に確認。

ヒストグラムはモンテカルロ法でのMの分布。
青線はMの正確な分布。
赤の破線は指数分布による近似。

nbviewer.jupyter.org/gist/genkuroki... pic.twitter.com/Dayv9qXd4R

タグ： Julia言語統計

posted at 08:17:28

#数楽 Akahira-Takeuchi (1979)は結局見ていない。

切断正規分布の尤度函数の様子を調べるだけなら、大学新入生レベルの易しい微積分の計算に過ぎない。

しかし、実際には、大学新入生レベルの易しい微積分の計算を自由にできるようになるには、数年以上の修練が必要になる。

数学はかなり大変。

タグ：数楽

posted at 08:25:54

#数楽大学新入生レベルの微積分だけではなく、線形代数の難易度も同様で、自由に使えるようになるには、数年以上の修練が必要になります。

数ヶ月間勉強して理解できた気分になれなくてもがっかりする必要はなくて、「勉強時間が足りないだけ」(←「だけ」を強調)と考えて気楽に構えた方がお得。

タグ：数楽

posted at 08:29:28

#数楽どうして成立するかが全然理解できない数学的結果を使うときにも、「数年～数十年かけて理解すればいいや」と気楽に構えて、正々堂々と「理解していないことを使っています！」と言ってよいと思います。

そして、同じ「理解していない」であっても様々なパターンがあって同一視はできない。

タグ：数楽

posted at 08:38:00

#数楽「正直かつ気楽」でないと数学の勉強はきつすぎたり、トンデモ化したりします。

「正直かつ常にシリアス」だと神経がすり潰されてアウト。😰

「気楽に不正直」なのは単なる嘘つきです。😅

「正直かつ気楽」以外の道はないと思う。😊

タグ：数楽

posted at 08:38:02

昨日悩んでたJuliaのべき乗問題、Juliaのslackで聞いて解決しました。^(a,b)がBase.literal_pow(^,a,Base.Val{b}())のような形に変換されてるらしいです。
当時の関連issue:
github.com/JuliaLang/juli...

タグ：

posted at 08:56:52

>Experimental feature: x^n for integer literals n (e.g. x^3 or x^-3) is now lowered to Base.literal_pow(^, x, Val{n}), to enable compile-time specialization for literal integer exponents (#20530, #20889).
らしいです
github.com/JuliaLang/juli...

タグ：

posted at 09:02:24

julia-syntax.scmでこの操作が定義されてる様子
github.com/JuliaLang/juli...

タグ：

posted at 09:07:16

literal_powだけが特殊っぽいし、自前で定義した関数にこのような正負判定の分岐を入れるのは難しそう

タグ：

posted at 09:09:51

Frames Catherine Whi @oxinabox_frames

@tsatie 把握することができていれば、自力で解決可能なので、把握できていないのは仕方がないです。

しかし、把握できていなくても、再度同じ失敗を繰り返しながら記録を取って、失敗の様子のスクショや、OS、Juliaのバージョン、などなど考えられる限りすべての必要そうな情報を出すことはできます。 twitter.com/tsatie/status/...

タグ：

posted at 09:11:20

Tim Holy wrote a blog post explaining precompilation.
I have for ages wondered how it actually worked and what the precompile function actually did, and if it was actually related to what happens during ]precompile. And this answers all that. #JuliaLang

julialang.org/blog/2021/01/p...

タグ： JuliaLang

posted at 09:16:26

Daisuke KATO @Dsuke_KATO

vscode用のJuliaプラグインでworkspaceの変数を確認できるのはありがたいけど、Junoみたいな感じのほうが見やすいかなぁ

タグ：

posted at 09:22:00

秋田魁新報社 @sakigake

横手市積雪１９３センチ、観測史上最大 #横手市 #大雪 #akita #秋田 www.sakigake.jp/news/article/2...

タグ： akita 大雪横手市秋田

posted at 09:30:32

こがわなぎさ＠はやぶさ725号 @Nagisa_Kogawa

Julia-parserとsyntaxを一緒にしてたかもしれん。

タグ：

posted at 09:50:59

@sakigake ※記事にも書いてますが、ヨンパチ豪雪は観測開始前なので記録に含まれません。

タグ：

posted at 10:09:11

[文] -> 字句解析と構文解析(julia-parser.scm) -> [AST] -> マクロ展開 -> 構文解析？(julia-syntax.scm)(syntaxエラーはここ)

タグ：

posted at 10:16:40

マクロはマクロでmacroexpand.scmがある。

タグ：

posted at 10:19:11

じゃあマクロ展開した後のASTにjulia-syntaxかけてliteral_powになってないのは？

タグ：

posted at 10:20:58

Crystalのissuesのkind:bugラベルたくさんあって大変そうだなと思ってたけどJuliaも結構あってみんな大変そう。

タグ：

posted at 10:43:38

@tsatie やった！おめでとうございます！ twitter.com/tsatie/status/...

タグ：

posted at 11:29:27

@tsatie #Julia言語 SymPy.jl を使えているなら、ドキュメントを読むだけで多くの問題が解決します。

行列の対角化なら↓
juliahub.com/docs/SymPy/Kze... twitter.com/tsatie/status/... pic.twitter.com/Sv3xPZy2PD

タグ： Julia言語

posted at 11:39:14

@tsatie #Julia言語

SymPy で行列の対角化

gist.github.com/genkuroki/7bf5... pic.twitter.com/HXeiRwkVpy

タグ： Julia言語

posted at 11:42:08

#統計平均をμと書くとき、μ±1の外側を切り落とした分散1の正規分布モデルの(真の分布はμ=0に対応)の場合には、異なるμごとに分布の台が異なるせいで、最尤法の予測分布の汎化誤差は確率1で∞になります！

タグ：統計

posted at 12:02:49

#統計なぜならば、分布q(x)の台が分布p*(x)の台に含まれないとき、その含まれないq(x)の台内の点をxとするとq(x) > 0, p*(x)=0なので、-q(x) log p*(x) = ∞ となるからです。

こういうことからも、この場合に最尤法は不適切そうであることが分かります。

タグ：統計

posted at 12:02:50

l_ppp @ppp3141592ppp

#Julia v1.6.0-beta1 お試し中

precompileのパラレル化で、PCのリソース持ってかれてビビった
（メチャ早く終わったけど）

タグ： Julia

posted at 12:35:37

歩行者は右側通行 @JikanBae

これまで #Julia言語でわざわざround(Integer, 44100 / 2)としてたけど、44100÷2でいいのか。（÷は\div[tab]で出る）
ちゃんとマニュアル読もうね、うん。

タグ： Julia言語

posted at 13:15:05

pythonでいうところの，glob操作がこれでjuliaでもできるようになるのかな．インストール中．

github.com/vtjnash/Glob.jl

タグ：

posted at 13:26:37

マンマ @image_initium

OokuboTact　大久保中二病中年 @OokuboTact

@minibusgo ほんと、8割おじさんのインタビュー本にも、そうではないことがわかります。
理論疫学者・西浦博の挑戦-新型コロナからいのちを守れ! (単行本) 西浦博 www.amazon.co.jp/dp/4120053598/...

タグ：

posted at 14:20:04

@IshidaTsuyoshi ＞　教科書には「.0 は消す」とは書いてなかったが、おそらく指導書には書いてあるのだろうね。

参考　東京書籍のサイトから
www.tokyo-shoseki.co.jp/question/e/san... pic.twitter.com/cL4GqXJyYm

タグ：

posted at 14:41:47

ショーン @minibusgo

電子版も発見したのですが、これは一体どういうフォーマットなんだろう。

store.isho.jp/search/detail/...

タグ：

posted at 15:27:20

ショーン @minibusgo

あと個人的には若者へのメッセージという章があってそこを読んで私は感動しました。

タグ：

posted at 15:51:10

JuliaのDataFrame, 特定の列で別の列すべてを割るの，これでいいのね． pic.twitter.com/FKsL8U37c0

タグ：

posted at 16:06:33

くずの王子様 @kz_kiyoshi

JuliaLang本、大体見たいところは全部目を通した。とても良かった。

タグ：

posted at 16:06:54

@ppp3141592ppp @physics303 #Julia言語

str 中の 'I' と等しい文字の個数を数える
↓直訳
count(==('I'), str)

タグ： Julia言語

posted at 17:08:59

斉藤ひでみ・現職教師（西村祐二） @kimamanigo0815

@genkuroki @ppp3141592ppp なるほど。直訳で分かりやすいです、ありがとうございます！

タグ：

posted at 17:10:43

自身の小中高時代よりも、規則も指導のレベルも、キツく、厳しくなってるんじゃないかという実感があった。
実際に校内暴力が収まったにも関わらず、校則はこの20年厳しくなり続けた。
そして部活も教員勤務も、質量ともに確実に厳しくなった。

その解は、【20年前よりも学校に求めるものが増えた】。

タグ：

posted at 17:12:06

juliaさん，appendで配列に文字を入れようとする文字がバラバラになる．pushを使うと回避できる． pic.twitter.com/Vvh86Vnwg0

タグ：

posted at 18:51:24

非公開

タグ：

posted at xx:xx:xx

非公開

タグ：

posted at xx:xx:xx

ʇɥƃıluooɯ ǝıʇɐs @tsatie

素敵やなぁ♬ PythonなSymPyの威力なのかJuliaなのか渾然一体としてよう分からんけど。 twitter.com/genkuroki/stat... pic.twitter.com/bhbRZYouZT

タグ：

posted at 20:08:54

Julia 1.6でマシン語の出力がカラフルになったのが地味に嬉しい。 pic.twitter.com/l0RpSS9ZTZ

タグ：

posted at 20:24:41

ごまふあざらし(GomahuAzaras @MathSorcerer

Julia 1.5なんて使ってるとみんなに笑われちゃうゾ☆

タグ：

posted at 20:29:06

OhMyREPL 楽しい．

#Julia言語 pic.twitter.com/J1ydNV41Uk

タグ： Julia言語

posted at 20:30:29

岡竜之介 @agajo

Juliaを使うと環論で遊べるのか！これはやってみたいぞ twitter.com/nekomath271828...

タグ：

posted at 20:44:49

Tomoya TENDO @end_tt

pic.twitter.com/lz1jlPAzxh

タグ：

posted at 21:35:56

Luxor.jlにバグあったのでissueとPR投げた
github.com/JuliaGraphics/...

タグ：

posted at 21:52:33

Cでは右シフトのシフト幅がビット幅を超えるときは未定義なんだけど、Juliaでは（余計な？）気を回してうまいこと定義されているので、いくぶん長いコードが生成されるんやで。0x3fとかでマスクすれば回避できる。ってかこれ前もハマった気がする。

タグ：

posted at 21:54:41

Julia日本語記事まとめ @julia_kizi

昔書いた「n+1点を通るn-1次元球面」(pdf)が役に立ちました
hyrodium.github.io/pdf/#n1%E7%82%... pic.twitter.com/Xht31QEnSz

タグ：

posted at 22:08:04

新しい記事がZennにアップされました！
zenn.dev/takilog/articl...👈

タグ：

posted at 23:14:39

Hiromitsu Takagi @HiromitsuTakagi

こりゃまた稚拙なことを。あのね「人間中心のデジタル社会」（とか人間中心のAI社会）てそんな瑣末なことじゃないんだよ？人間の尊厳が尊重されるとかそういうこと。何を問題視して「人間中心の——」と言われてるのかまるでわかってない。
twitter.com/ledgeai/status...
「デジタルなデータこそが「元本」」 pic.twitter.com/gcRS7LVm37

タグ：

posted at 23:18:40

Hiromitsu Takagi @HiromitsuTakagi