黒木玄 Gen Kuroki(@genkuroki)/2021年02月/Page 25

#統計その本(添付画像にp.17から引用)の著者は、AIC以前の問題として、回帰直線のような基本的な事柄さえ理解していない可能性さえあります。

データの分布が楕円形に分布しているときに、回帰直線は楕円の長軸ではなく、y軸またはx軸に平行な直線と楕円が接する点を通る直線になります。 pic.twitter.com/VP9MxRf5WM

タグ：統計

posted at 23:58:11

#統計このスレッドに書いたようなことは、統計学の初学者には理解不可能なことです。初学者になってから数年以上勉強しないと理解できないと思う。

それをいいことに不正直にもデタラメが書いてあることには一切触れずにお勧めの本だとする奴らがいる。

そういうことはやめた方が良いと思う。

タグ：統計

posted at 23:51:14

#統計モデルA内で可能なベストの推定結果よりも、モデルA内で可能なベストの推定結果の方の精度が高い場合には、サンプルサイズn→∞で、モデルBの対数尤度がモデルAよりずっと大きくなり、モデルBによる推定結果が真実により近付くことによってモデルBがAICで選択されるようになります。

タグ：統計

posted at 23:47:29

#統計 AICにおける対数尤度の-2倍の部分の差が大きくなるのは、比較する統計モデルの少なくとも片方において、データを生成している未知の真の分布が実現不可能な場合です。

そういうモデルではそもそも「n→∞での推定結果の真実への収束」は起こりえず、「一致性」とは別の話になります。 pic.twitter.com/90EpFSrb23

タグ：統計

posted at 23:44:47

#統計最尤法のAICによるモデル選択と比較するべき対象はベイズ統計におけるWAICによるモデル選択。どちらも一致性を持たない。

ベイズ統計におけるパラメータの事後分布の漸近挙動と比較するべきなのは、最尤法で得たパラメータの推定値の漸近挙動。良い状況ではどちらも真の値に収束します。

タグ：統計

posted at 23:40:52

#統計統計学用語での「一致性」は「サンプルサイズn→∞で推定結果が真実に収束する」という意味で使われるのですが、AICによるモデル選択が一致性を持たないことと、ベイズ統計におけるパラメータの事後分布のn→∞での挙動を比較するのはひどくミスリーディングです。

タグ：統計

posted at 23:40:51

#統計以上の予備知識を前提に『統計学を哲学する』のp.152を見ると、見事に理解している人であれば絶対に書きそうもない説明になっていることが分かると思います。

この本を他人に勧める人がいても良いが、統計学の説明が杜撰であることを正直に説明しておかないと非常にまずいです。 pic.twitter.com/xg6FaZ3qM5

タグ：統計

posted at 23:34:14

#統計ベイズ統計と最尤法や通常の仮設検定などの事前分布を使わない道具を比較する場合には、主義に基く統計学の暗黒史を完全に無視して、対応する道具を適切に選んで比較する必要がある。

AICは一致性を持たないが、ベイズ統計はそうではない、というような主張をする人は何もわかっていません。

タグ：統計

posted at 23:31:49

#統計最尤法のAICに対応するベイズ法でのモデル選択の道具はWAICです。WAICのn→∞での漸近挙動は最尤法が有効(でモデル内で真の分布が実現可能)な状況ではAICと一致します。

だから、ベイズ統計におけるWAICもAICと同様に一致性を持ちません。

タグ：統計

posted at 23:28:29

#統計渡辺澄夫『ベイズ統計の理論と方法』の第4章では、最尤法とベイズ法の違いについて詳しく説明されている。

最尤法が数学的に有効な道具になり場合には、ベイズ法も有効な道具になるのですが、逆は言えません。

特異モデルの場合にはベイズ法は有効だが、最尤法はそうではないかもしれない。

タグ：統計

posted at 23:25:19

#統計最尤法でもベイズ法でも、それらが数学的道具として有効な場合であれば、サンプルサイズnを大きくする極限で予測分布がモデル内で実現可能な最良の結果(モデルが真の分布を含むなら真の分布)に収束します。

この手のことで、最尤法とベイズ法に違いはありません。

タグ：統計

posted at 23:21:36

Willie WY Wong @_qnlw

And that got me looking.

#JuliaLang has at least three packages that implement this. Tullio.jl, TensorOperations.jl, and Einsum.jl

Posting mainly so I remember. twitter.com/ArashVahdat/st...

タグ： JuliaLang

posted at 23:20:49

高橋カヲル @kaoru6

@OokuboTact @genkuroki iwate-u.repo.nii.ac.jp/index.php?acti...

タグ：

posted at 23:19:29

#統計最尤法でもベイズ法でも、それらが有効な道具である状況においては、サンプルサイズnを大きくすると、予測分布はモデル内で実現可能な真の確率分布に最も近いものに収束します。

モデル内で真の確率分布が実現可能なら、最尤法でもベイズ法でも、n→∞で予測分布は真の確率分布に収束します。

タグ：統計

posted at 23:18:43

#統計対数尤度の側の影響がパラメータ数によるペナルティーをn→∞で上回るためには、単純な側のモデルで真の確率分布が実現不可能で、複雑な側のモデルが真の確率分布を実現可能である(もしくはそれに近い)というような状況である必要があります。続く

タグ：統計

posted at 23:14:32

#統計これは大数の法則から当然そうなります。

モデル0ではモデル内での成功確率がp=0.5に固定されているのですが、真の成功確率はq=0.51なので、サンプルサイズを十分に大きくすればモデル0が間違っていることが(確率的に)分かってしまいます。AICもモデル1を選択するようになる。 pic.twitter.com/qGC6v9YWNn

タグ：統計

posted at 23:10:37

Julia News @julialang_news

Weave.jl – Scientific Reports Using Julia weavejl.mpastell.com/stable/ #hackernews

タグ： hackernews

posted at 23:09:27

#統計添付画像のOut[3]は以下の場合です。

真の分布：成功確率q=0.51
データ：n回中k回成功

統計モデル0：成功確率p=0.5 (真の成功確率とちょっとだけ違う)
統計モデル1：成功確率pは可変パラメータ(k/nに最尤推定)

この場合には、nを大きくするとモデル1の側が選択される確率が大きくなる。 pic.twitter.com/CBT1oQbm0u

タグ：統計

posted at 23:07:43

#統計「AICによるモデル選択は一致性を持たない」は、(真の確率分布に等しい)単純な統計モデルの側が選択される確率がn→∞で100%に収束せずに84%のような100より真に小さな値に収束してしまうという意味であり、複雑な側のモデルが選択される確率が段々大きくなることを意味しません。

タグ：統計

posted at 23:03:41

ht @hhhzzzttt

@kikumaco Juliaは入門者レベルだけど、MをC言語のポインタと考えれば、そう振る舞いそう。

タグ：

posted at 23:01:42

#統計

運良く統計モデル0がデータを生成している真の確率分布そのものだったとしても、パラメータを増やしたより複雑な統計モデル1の側がAICによって選択される確率は、サンプルサイズnを大きくしても0に収束しない。

これが「AICによるモデル選択は一致性を持たない」の意味です。

タグ：統計

posted at 23:00:04

あ〜る菊池誠(反緊縮)公式 @kikumaco

#統計添付画像のOut[2]の設定では、単純な側のモデルがデータを生成している真の確率分布に等しいのですが、サンプルサイズnをn→∞としても、単純なモデル=真の確率分布の側がAICで選択されない確率は16%程度に収束してしまうわけです。

n→∞としても0%にはならない。 pic.twitter.com/FvTIeIgWku

タグ：統計

posted at 22:56:13

Juliaの関数に配列を渡したときの挙動がわからなくて、たとえば

function f(M)
M=rand(10)
end

みたいにしても渡した配列の中身は変わらないんだけど

function f(M)
M[1]=rand()
end

だと変わるんだよね。

当たり前？当たり前な気もするけど、わかんない

タグ：

posted at 22:54:25

#統計以上と本質的に同じことを

粕谷英一(2015)
www.jstage.jst.go.jp/article/seitai...

にも書いてあります。

Wilks' theoremの単純な帰結なので、AICについて理解している人であれば、一般の場合についてノータイムで証明できることです。

タグ：統計

posted at 22:52:04

#統計例えば、添付画像のOut[2]の場合には、AICによって単純な側のモデルが選択される確率は、n→∞で

cdf(Chisq(1), 2) = 84.27%

に収束することを証明できます。

#Julia言語による計算結果のOut[2]でも実際にそうなっています。 pic.twitter.com/hEMYBvi0xI

タグ： Julia言語統計

posted at 22:48:52

#統計 2つの統計モデルのパラメータ空間のあいだに包含関係があって、どちらもデータを生成している真の分布を実現可能で、幾つかの条件を満たしているならば、AICでより単純な(=パラメータ数の少ない)統計モデルが選択される確率は、サンプルサイズn→∞で正の値に収束することを示せます。続く

タグ：統計

posted at 22:43:05

#統計

真の分布：成功確率q=0.5
データ：n回中k回成功

モデル0：成功確率p=0.5
モデル1：成功確率pは可変パラメータ(k/nと最尤推定)

この場合にモデル0が選ばれる確率がOut[2]に表示されています。

nを大きくしても、AICによって相対的に単純なモデル0が選択される確率は84%程度で不変です。続く pic.twitter.com/DTR7xp09B0

タグ：統計

posted at 22:37:28

#統計まず、読むだけ時間の無駄な本の内容は無視して、数学的に正しい結果について説明。

試行回数nを固定した成功確率qのベルヌイ試行で「n回中k回成功」というデータが得られたときの、AICによるモデル選択で相対的に単純なモデルが選択される確率を計算しています。続く

gist.github.com/genkuroki/240f... pic.twitter.com/03pa3KCPUA

タグ：統計

posted at 22:37:25

#統計私のツイログを『統計学を哲学する』検索 twilog.org/genkuroki/sear... して頂ければ分かるように、その本での統計学の説明は非常に杜撰です。

そのp.152(添付画像)の説明も酷くて理解できるほうがおかしいです。続く twitter.com/kuboyama_temma... pic.twitter.com/ytIPP1HXZE

タグ：統計

posted at 22:37:23

自分、static な言語でいい経験したことがないから
動的な言語でかつパフォーマンスが出る要請をもっているのであればJuliaをしらべるべきだとおもう。

タグ：

posted at 22:09:16

非公開

タグ：

posted at xx:xx:xx

@OokuboTact どこからの引用ですか？

タグ：

posted at 21:52:03

c＋＋ユーザーも切り替える価値あると思います。 twitter.com/takeokato719/s...

タグ：

posted at 21:43:04

河合祐介 @tkawai18_tkawai

やっぱJulia良さそうで扱いたいけど、自然言語処理が一通り終わるまでは無理だな

タグ：

posted at 21:38:00

鰹節猫吉 @sunchanuiguru

陰山流戦法。
#超算数 twitter.com/Apple_mathlove...

タグ：超算数

posted at 20:02:09

講談社サイエンティフィク @kspub_kodansha

ちなみにゴマちゃんの飼い主が作った MyWorkflow.jl も GitHub Actions のテンプレートを用いてました．

github.com/terasakisatosh...

qiita.com/SatoshiTerasak... twitter.com/HShinaoka/stat...

タグ：

posted at 19:30:49

講談社サイエンティフィク @kspub_kodansha

【プログラミングの補足資料と追加の演習問題の入手先】
・原著者のウェブサイト:vmls-book.stanford.edu
・補足資料の日本語訳:github.com/tttamaki/julia...

タグ：

posted at 19:05:36

『スタンフォード　ベクトル・行列からはじめる最適化数学』📔（2/25より順次発売）

298問の章末問題とは別に、Juliaによるプログラミング課題が原著者のサイトで公開されています。さらに、こちらを翻訳したものが下記サイトで公開されています！
vmls-book.stanford.edu

www.amazon.co.jp/dp/4065161967

タグ：

posted at 18:30:00

１日１回 #Julia言語を見るできゅ

タグ： Julia言語

posted at 18:21:55

非公開

タグ：

posted at xx:xx:xx

Hiroyasu Kamo @kamo_hiroyasu

Weierstrassの多項式近似定理の近似多項式を具体的に構成する形の証明は、誤差評価を計算可能性の観点から精密化するだけで、計算可能多項式近似定理の証明にできることも便利です。 twitter.com/genkuroki/stat...

タグ：

posted at 15:07:03

K.B.砂糖 @KB_satou

というかページの一番下に
Powered by Documenter.jl and the Julia Programming Language.
って書いてあるやんけ…… twitter.com/KB_satou/statu...

タグ：

posted at 15:00:46

#Julia言語 #数楽単にWeierstrassの多項式近似定理の証明のどれか(沢山ある)を知っているだけではなく、多項式近似の具体的な作り方も知っていたり、その具体的な作り方では"n"をどれくらい大きくするとどの程度の近似になるかの具体例を多数知っていた方が、楽に理解が進むと思う。

タグ： Julia言語数楽

posted at 14:30:43

#Julia言語二項分布を使って閉区間上の連続函数の一様近似を作るBernstein (1912)の方法のJuliaへの「直訳」で閉区間の端点の値を指定できるようにした。

gist.github.com/genkuroki/5fed... pic.twitter.com/hIun2QQbjW

タグ： Julia言語

posted at 14:27:09

Hiroshi Shinaoka @HShinaoka

PkgTemplates.jlを使って、GitHub Actionsと連携させてパッケージを生成してみた。zenn.dev/h_shinaoka/art... #Julia言語

タグ： Julia言語

posted at 14:26:59

みるか @mirucaaura

@N_Y_Big_Apple @physics303 Julia やりましょう

タグ：

posted at 14:11:40

N.Y @N_Y_Big_Apple

@physics303 Julia したいな

タグ：

posted at 14:10:40

yudai.jl @physics303

まぁ，ディープやらないならJuliaにしたら？という気持ちである．

タグ：

posted at 14:04:38

MathPhyMaL @MatPhy

ベイズ統計の理論と方法
Amazonアウトレットで
￥2,535です。
定番の本です。
この辺りなかなか古書店でも安くならないのでお得です。

amzn.to/36F2blP

タグ：

posted at 13:21:25

#数楽 #Julia言語

using Distributions
bernstein(f, n, x) = sum(f(k/n)*pdf(Binomial(n, x), k) for k in 0:n)

で閉区間[0,1]上の連続函数fのBernstein近似の函数が作れます。

1つ前のツイートの式のJuliaへの直訳。

近似の様子は添付画像のようになる。

gist.github.com/genkuroki/5fed... pic.twitter.com/biiIgVKArR

タグ： Julia言語数楽

posted at 13:16:07

@kuri_kurita

pic.twitter.com/BqWvKktKHt

タグ：

posted at 13:10:01

あんちもん2 @antimon2

生活必需品なら不要不急の外出に当たらないはず（ #Julia言語 pic.twitter.com/Z7NsSG5LAh

タグ： Julia言語

posted at 12:56:06

#数楽 [0,1]上の連続函数f(x)に対して、

f_n(x) = Σ_{k=0}^n f(k/n) binom(n, k) xᵏ(1-x)ⁿ⁻ᵏ

(ここでbinom(n,k)=n!/(k!(n-k)!))

とおくと、f_nはfに[0,1]上で一様収束する(Bernstein(1912))。

n→∞で成功確率xの二項分布におけるk/nがxに集中することから、そうなることを証明できる。

タグ：数楽

posted at 12:53:55

#数楽閉区間上の任意の連続函数が多項式函数で幾らでも一様近似できるというWeierstrassの定理は有名。

その巧妙でシンプルな証明の1つとして、二項分布の性質を使うBernsteinの証明法があります。

ググれば幾らでも情報が得られます↓

www.google.com/search?q=weier...

タグ：数楽

posted at 12:53:54

れもん @sd__1012

@33kitta pic.twitter.com/1fcfNyQYy2

タグ：

posted at 12:43:18

100年以上の歴史を持つチョー算数の人脈に末裔である現代の算数教育専門家達は、算数の教科書や教科書のマニュアル本(一般人購入不可の教師用指導書)や教科書準拠の算数プリントを通して、小学校の算数の時間を子供にとっての地獄にしていることを全然認識していないと思う。

タグ：

posted at 12:41:40

私自身は、算数や数学については周囲の子と違うやり方をしていることで褒められた記憶しかない。私に教えてくれた先生達がどんなによい先生だったかがこの歳になってよくわかった。運が良かった。

そして、全員が運の良い状況になれば世界が変わるんじゃないかとも思います。

タグ：

posted at 12:34:34

#超算数周囲の子の目が先生と同じ「やり方」に合わせる圧力になってしまったりする。

こういうのって地獄そのものだと思います(泣)😭

特に算数を教えるときには「答えが正しければ、周囲の子とやり方が違っていてもよい。いや、違っている方がよい！」と強調しないとまずいと思います。

タグ：超算数

posted at 12:34:33

Julia日本語記事まとめ @julia_kizi

#超算数小学校では、児童の考え方を授業時間に比較する場合がかなり多く、「目立ちたくない」と思っている子は周囲の子と全然違う考え方で答えを出すところを見られたくないので、周囲の子が「式と答え」形式の解答欄に先生が言った通りの方法で「正解」を書いているなら、それに合わせようとします。

タグ：超算数

posted at 12:23:45

まーぬ／彼女のために働いています @ma_nu39

新しい記事がQiitaにアップされました！qiita.com/ttabata/items/...👈

タグ：

posted at 12:18:54

非公開

タグ：

posted at xx:xx:xx

@33kitta ３話でピースしてる人がいる(拾画) pic.twitter.com/xkpvrSFG93

タグ：

posted at 11:04:30

Grant Sanderson @3blue1brown

@fizziksBoris It's not that bad, actually. On my machine, it rendered at about 14 iterations per second.

I've rewritten manim to be built on OpenGL (via moderngl), and this was something I was doing to test how well it handles large cloud of dots.

タグ：

posted at 09:56:31

非公開

タグ：

posted at xx:xx:xx

非公開

タグ：

posted at xx:xx:xx

Grant Sanderson @3blue1brown

るるりら@髪型がひつじ @1cxx5make1830

What happens if you take a grid of 1,000,000 points centered in the complex plane, starting off in a 2π-by-2π box, and repeatedly apply the function z -> exp(z)? pic.twitter.com/UAdchB0RI0

タグ：

posted at 09:12:25

PyrhonやJulia言語を使った量子計算でも手を出してみようかしら
何か良い本ないかしら？
興味のある計算を身に着けたい言語でやってみるというチャレンジ。

Juliaが結局流行ってるならJuliaが良いけど、手に入れた知識で会社で計算回すにはプロキシ通せる自信がないという

タグ：

posted at 08:57:12

BigFloatでも対角化いけるらしい。
Methods to diagonalize a Matrix{BigFloat}? - Domains / Numerics - JuliaLang discourse.julialang.org/t/methods-to-d...

タグ：

posted at 08:41:42

@sumikkophysik ここにありますね。

discourse.julialang.org/t/methods-to-d...

タグ：

posted at 08:37:18

@sumikkophysik 試してないのでわかりませんが、要素がBigFloatのArrayを投げても倍精度になってしまいますか？全部Juliaで閉じていれば(外部ライブラリ呼んでないなら)BigFloatのままでいけるかもしれません

タグ：

posted at 08:36:02

非公開

タグ：

posted at xx:xx:xx

最大あるいは最小固有値固有ベクトルだけなら逐次的なソルバーパッケージでいけそう

タグ：

posted at 08:12:32

非公開

タグ：

posted at xx:xx:xx

l_ppp @ppp3141592ppp

@KB_satou せっかくJuliaなら
qiita.com/SatoshiTerasak...

タグ：

posted at 07:55:45

Julia News @julialang_news

Quantitative Economics with Julia – Table of Contents julia.quantecon.org/index_toc.html #hackernews

タグ： hackernews

posted at 07:48:46

非公開

タグ：

posted at xx:xx:xx

JuliaCon 2023 @JuliaConOrg

"Experiences" is a new track that we are introducing this year. The purpose of this track is to welcome new members in the community. Be sure to spread the word to new users! #Julialang pic.twitter.com/fN2b57ujuf

タグ： Julialang

posted at 04:56:14

John Lapeyre @LapeyreJohn

@erikengheim Just tried it in ipython. Got the same completion. But, completion had noticeable latency compared to the same test in the Julia repl, FWIW.

タグ：

posted at 02:40:17

れもん @sd__1012

@33kitta pic.twitter.com/2XyQh9ERC2

タグ：

posted at 02:30:58

@nan_bayesstat

Juliaが汎用言語にはならずとも、Rみたいな分野特化の存在には落ち着きそう
（私が心配することではないが）

タグ：

posted at 01:29:46

Z0ZR @Iteng11959

julia言語ってシステム開発で使われることあるのだろうか

タグ：

posted at 00:51:29

Erik Engheim @erikengheim