黒木玄 Gen Kuroki(@genkuroki)/2018年04月/Page 8

Google colab、これたぶんdisk ioが激重なのかな…cpuのスペックもあるだろうけど、手元のmacとくらべて30倍くらい遅い…厳しい…

タグ：

posted at 00:02:49

非公開

タグ：

posted at xx:xx:xx

twitter.com/tonagai/status...

#数楽 #Julia言語のIntervalArithmetic.jlによる計算と厳密開の比較をしてみました。ソースファイルが次のリンク先にあります。

nbviewer.jupyter.org/gist/genkuroki...

2^10ビット精度の浮動小数点数で計算。薄い青線は区間の上端で濃い青の破線は区間の下端です。赤は厳密解。 pic.twitter.com/XtouMyDMpC

タグ： Julia言語数楽

posted at 00:17:06

#Julia言語 Jacobiの楕円積分とその逆函数として定義されるsn函数の任意精度計算が必要になったのですが、Python mpmathライブラリを使った。

ときどき「Pythonライブラリを使ったらJuliaを使う意味がないだろう」のような反応があるのですが、Juliaは糊言語としても優秀なのでそんなことはないです。

タグ： Julia言語

posted at 00:20:00

#Julia言語使用したJulia言語のライブラリのIntervalArithmetic.jlは

verifiedby.me/adiary/0100

で言及されている【メキシコから来た某juliaおじさん】作のライブラリです。Julia言語のコードをほとんど変更せずに、区間をまるで数のように計算できるようになります。

github.com/JuliaIntervals...

タグ： Julia言語

posted at 00:23:45

#Julia言語の周辺にはおもろい人が多い。

twitter.com/bicycle1885/st...

タグ： Julia言語

posted at 00:25:33

#数楽 #Julia言語失敗談。最初は楕円函数側も高精度計算するのが面倒なので、Float64で計算してIntervalArithmetic.jlの計算と比較してみました。すると厳密解を楕円函数で計算した側がn=50くらいで大きくずれ始める。これは式を見れば当たり前で楕円函数側も高精度で計算しなければ無意味でした。

タグ： Julia言語数楽

posted at 00:27:51

@AS_Insects @takotakot いえ、私もすでに書いたように、私自身もひどい失敗(無礼なことをしてそのまんまのようなこと)をツイッターを使い始めた初期には結構やっていたような気がするし、この手のことはよくあることだと思うので、大して気にしていません。

この程度のことなら本当に全然大したことじゃないと思います。

タグ：

posted at 00:48:37

@AS_Insects @takotakot こういうので消耗するのは「全員が負けるコース」なのでもうやめませう。

タグ：

posted at 00:53:40

非公開

タグ：

posted at xx:xx:xx

非公開

タグ：

posted at xx:xx:xx

遊べそう

docs.julialang.org/en/stable/manu... pic.twitter.com/lDsH3sR7oK

タグ：

posted at 01:19:26

津川友介 @TsugawaYusuke

最近思うのは健康に関するトンデモ本の大多数は医師、栄養士、整体師などいわゆる専門的な免許を持った人によって書かれているということです。「医師監修」がどこまで効果的か少し疑問視しています。 twitter.com/masatoyo_san/s...

タグ：

posted at 01:21:14

牙龍一:脱財政再建！ @kiba_r

継続出来ているって事は、今のところ上手く行っているんだろうね。

／／…自治体が子ども食堂に手を差し伸べるケースも増…埼玉県では今年から食堂と支援者を結びつけるネットワーク事業を開始。愛知県では５年後に４倍の２００カ所に増やす目標…「子ども食堂」2年間で急増 news.livedoor.com/lite/article_d...

タグ：

posted at 01:40:23

#Julia言語任意精度interval arithmeticのライブラリに

arblib.org
Arb

があって、その一部分がJuliaでも

ArbFloats.jl

として利用可能なのですが、現時点では複素数をサポートしていないせいで、楕円函数は「これから」ということらしい。

github.com/JuliaArbTypes/...

タグ： Julia言語

posted at 02:07:15

setprecision(2)してsetrounding(BigFloat, RoundUp)とsetrounding(BigFloat, RoundDown)したやつ pic.twitter.com/fNPknlmpZE

タグ：

posted at 02:17:03

あってんのかな

タグ：

posted at 02:18:16

#Julia言語 v0.6.2で書かれたコードは、v0.7.xの段階ではv1.0で廃止される機能については警告を出して結構そのまま動いてくれるはずなので、そのときに、廃止警告メッセージしたがってコードを書き換えれば大丈夫なはず。

タグ： Julia言語

posted at 03:03:30

#Julia言語自分で書いたものなら、v0.7.xが出してくれる廃止警告メッセージに従って書き変えればきっと大丈夫。

廃止警告メッセージは

`linspace(start, stop, length::Integer)` is deprecated,
use `range(start, stop=stop, length=length)` instead.

のような感じで具体的で親切です。

タグ： Julia言語

posted at 03:03:31

#Julia言語きっと大丈夫だいじょうぶ。だいじょーぶだから。

今からJulia言語を使い始めないと、みんなで悲鳴を上げるイベントに参加できないよ。あれ？(笑) 😝

タグ： Julia言語

posted at 03:03:31

@genkuroki こんなにさらっと変わるんですね...
github.com/JuliaLang/juli...

タグ：

posted at 03:14:55

IEEE 754に従った2進数から単精度浮動小数点数への変換。下記リンクの例題。

Example Converting from IEEE 754 Form
www.oxfordmathcenter.com/drupal7/node/43 pic.twitter.com/c7zGuIvXuE

タグ：

posted at 03:23:52

武内　修 @osamu_takeuchi

Julia の関数について勉強した #Julia言語
 nbviewer.jupyter.org/gist/osamutake... pic.twitter.com/wukqXack3T

タグ： Julia言語

posted at 03:41:32

非公開

タグ：

posted at xx:xx:xx

「現政権を支持か不支持か」という発想をしている人達は日本にとって有害な考え方をしていることを厳しく批判されるべきだと思う。

「〇〇という政策には賛成だが、△△には反対だ。政権をどこが担ったとしても、〇〇は維持もしくは強化し、△△はやめてもらいたい」の様に考えるべきだと思う。

タグ：

posted at 05:50:21

政策のセット販売による不毛な争いこそクズそのもの。

タグ：

posted at 05:50:22

yoshitake-h @yoshitakeh

結び目理論の未解決問題１０ - NAVER まとめ matome.naver.jp/odai/213348955...

タグ：

posted at 05:52:42

そうそう、離散力学系なら丸め誤差しかないから区間演算だけで精度保証できるけど、連続力学系は離散化誤差もあるので区間演算だけではどうにもならない、という難しさが分かってもらえて嬉しい。 twitter.com/ceptree/status...

タグ：

posted at 06:01:45

じゃあ離散力学系の精度保証は簡単かというとそうでもなくて、ただの区間演算ではすぐに区間幅が膨らんでしまう問題があります。そこを工夫するのが面白い。 verifiedby.me/adiary/044

タグ：

posted at 06:07:41

#Julia言語対応の環境を使えばCやC++並の速度で気軽に超高級電卓的な手軽さで数値計算できるのですが、区間演算および「それ以上の方法」も手軽に使えて欲しいものだと思いました。

CやC++で書いてコンパイルして実行より、Jupyter notebookでJuliaの方が圧倒的に楽。視覚化もすぐにできる。

タグ： Julia言語

posted at 06:46:12

#Julia言語単純な区間演算をちょっと試してみたけど、使用する浮動小数点数の制度を上げてもあっというまに区間の幅が発散する。

工夫が必要なことが非常によくわかった。

タグ： Julia言語

posted at 06:49:38

河添　誠　KAWAZOE Makoto @kawazoemakoto

#Julia言語百聞は一見に如かず。

単純な区間演算だけではなく、それ以上の方法をJuliaでも使えて欲しいと思いました。

タグ： Julia言語

posted at 06:50:56

いま、テレビ朝日の番組で、１９５７年に撮られた、女性が土俵上であいさつしている写真が出ていた。いやあ、いろいろ出てくるな。おもしろい。この女性は、女相撲の大関だった人で、地方巡業の興行主だったために、あいさつを土俵上でおこなったとの紹介。もうちょっと深めて報道してほしい。

タグ：

posted at 07:24:57

勝川俊雄 @katukawa

これは面白い！ありがとうございます！ twitter.com/sakinotk/statu...

タグ：

posted at 08:30:08

buvery @buvery

いや、私はキクマコさんは別に変だとは思わないな。辛淑玉活動家が常軌を逸した言動を続けてきた（例えば、『在日朝鮮人は日本人が強姦して産ませた』等）のは歴然たる事実であって、たまたま今回は矛先を福島に向けただけ。韓国人だから差別を行って良いなどいう方がおかしい。

タグ：

posted at 09:07:45

#仮面ライダービルド　今週の黒板の式は、ベルナージュがテレポートを使ったことに合わせて、量子テレポーテーションの式です。これは未知の量子状態を別の場所へと移し替える方法です。ただし、これは通常イメージする「テレポート」とはだいぶ違う点には注意してください。

タグ：仮面ライダービルド

posted at 10:28:15

例えば「転送したい量子スピン」とそれとは別の「量子スピンA」が東京に、「量子スピンB」がニューヨークにあるとします。AとBはエンタングルメントという量子的な強い相関を持っているようにあらかじめ準備しておきます。ここで、東京の二つのスピンをうまく相互作用させてその状態を測定します。

タグ：

posted at 10:28:42

すると、東京の二つのスピンは完全に壊れてしまいます。ところが、東京の実験者が測定結果をニューヨークに電話して、ニューヨークで測定結果に基づいてスピンBに適切な操作をしてあげると、消えたはずの「転送したかったスピンの状態」がスピンBに復活します。これが量子テレポーテーションです。

タグ：

posted at 10:28:57

状況はこの絵を見るのが分かりやすいと思います。www1b.comm.eng.osaka-u.ac.jp/com02adm/pdf/l... pic.twitter.com/7YatSYefDX

タグ：

posted at 10:29:24

注意点二つ。まず「転送したい量子スピンを直接測れば、誰でも測定結果を元にそのスピンを復元できるのでは？」と思うかもしれませんが、実はそうはなりません。日常的な物体と違って、量子状態は一度測定すると壊れてしまいますが、未知の状態は一回の測定では完全に特定することが出来ません。

タグ：

posted at 10:29:40

量子テレポーテーションでは、エンタングルメントを利用することで、一回の測定で未知の状態を完璧に転送することが出来ます。「転送された未知の状態は実のところどういう状態なのか」は、実はテレポーテーションの測定を行った人すら分かりません。でも転送だけは確かにできます。

タグ：

posted at 10:30:04

Iwao KIMURA @iwaokimura

CoCalcにHaskell到来。Jupyterのkernelにghcが選べます。 twitter.com/cocalc_com/sta...

タグ：

posted at 10:30:19

次に、「ニューヨークで電話が鳴る前の時点でニューヨークの量子状態は変わっているのだから、これは因果律を破るのでは？」と思う人もいるかもしれませんが、これは問題ありません。電話で測定結果の情報をもらわないと、ニューヨークで何をしても東京で起きたことの情報は一切得られません。

タグ：

posted at 10:30:22

tomo @tonagai

仮面ライダービルド"勝利の法則"を導く物理学アドバイザー、白石直人さんに迫る！ via @LabOn_science lab-on.jp/article/150

タグ：

posted at 10:59:47

つるじろう @tsurujiro_drago

@pinceana16 掛け算の順序に意味があるっていう思想がどこから出てくるのか、すごく疑問ですね。

タグ：

posted at 11:02:41

つるじろう @tsurujiro_drago

@takumi_bookmath おそらく4×3を誤答にした先生は、なぜ誤答なのかと質問しても、きちんと答えられないと思います。
#超算数

タグ：超算数

posted at 11:27:48

言迷水 @genmeisui

なかつくにあき⋈ @nakatsukuniaki

今日の謎水。
ヤケになって漫画を描いたよ。
ジャンプPAINTすごいね。 pic.twitter.com/DrySQOrhVW

タグ：

posted at 11:48:23

非公開

タグ：

posted at xx:xx:xx

中村甄ノ丞あるある早くいいたい @ms06r1a

ゲゲゲの鬼太郎の見上げ入道が「毎年8万人が行方不明」とか言ったせいで「なぜ報道されないんだ」「怖い」みたいなツイート散見しますが「行方不明の届けが8万人」であって、ちょっと旅行してたとか喧嘩してぷち家出してたとか迷子になってましたとかが大半でほとんど見つかってるので心配すんな pic.twitter.com/qPiBRd9rJz

タグ：

posted at 12:45:53

非公開

タグ：

posted at xx:xx:xx

twitter.com/liyonyon/statu...
幾ら瀬戸内寂聴にケチつけたいからって、これは物知らん過ぎやろ。
東慶寺・満德寺をあげなくっても、ブッダからして妻子を捨ててるし、テリー・ガーターにも良い妻になりたかったけど三度離婚して尼になって今とても幸せ！みたいなエピソードが載ってるで。

タグ：

posted at 12:49:34

KokyuHatuden @breathingpower

訂正します。EM研究機構が被害者として訴えたので、刑事告発ではなく刑事告訴が正しいです。ja.wikipedia.org/wiki/%E5%91%8A...

タグ：

posted at 12:57:19

くるる @kururu_goedel

アメリカでの話ではあるけど、行きつけの歯医者においてあってうちの子たちは割と楽しく遊んでましたけれども。 twitter.com/otakunews6398/...

タグ：

posted at 13:23:32

山本龍一 / Ryuichi Yama @r9y9

想定される用途を超えた利用な感じがあるが、とりまcolabでもろもろやることはできた。うまく使えば便利だな。フリーGPUしゅごい

タグ：

posted at 13:40:08

Jake VanderPlas @jakevdp

pic.twitter.com/Alo5BlPG6V

タグ：

posted at 13:53:20

非公開

タグ：

posted at xx:xx:xx

Jake VanderPlas @jakevdp

source here: gist.github.com/jakevdp/d4a20a...

タグ：

posted at 14:02:29

Julia Bloggers @juliabloggers

A small adventure into Julia macro land www.juliabloggers.com/a-small-advent... #julialang (Re-post)

タグ： julialang

posted at 15:00:16

Qiita_Python @qiita_python

sympy で量子計算 - qiita.com/41semicolon/it...

タグ：

posted at 15:25:16

Astellon @astellon_music

julia練習中 pic.twitter.com/k9kW41mOW6

タグ：

posted at 15:35:14

微分方程式を抽象的な数学的対象とみるか、物理現象をモデル化したものとみるか、の違いでしょうね。物理現象の近似とみるならば、近似であるところの方程式の解を一生懸命精度保証したところであまり意味がないのでは、という指摘はまさにその通り。

タグ：

posted at 15:42:20

それでも、計算中の誤差を完全に把握できることに意味がないとは思わない。また、方程式の初期値やパラメータを区間値として精度保証することも(極端に変化に鋭敏な方程式でなければ)可能なので、現実問題に役立つこともあるんじゃないかと思ってる。

タグ：

posted at 15:46:58

Shuuji Kajita @s_kajita

@3thpan_harmony ハッシュタグ #掛算 #超算数で検索するとこれが一筋縄では行かない問題である事が分かります。

タグ：掛算超算数

posted at 16:00:47

DeaDenD @deadend_nrc

IJuliaを導入しようとしてたらエラー吐かれて困った。zeromq@3.2なんてformulaはないと言われてしまったので、~/.julia/v0.6/ZMQ/deps/build.jlのzeromq@3.2をzeromqに書き換えたらとりあえずうまくいってそう

タグ：

posted at 16:14:19

DeaDenD @deadend_nrc

うまくいってなかった。

タグ：

posted at 16:15:42

小清水さん @curekoshimizu

区間演算で精度保証すると、区間爆発してこれそもそも計算そのものが破綻している可能性あるからこの数値計算結果、そとそもなんの意味すら持ってないのでは…とか疑いやすいの結構好き。なので、精度保証はそれ自体結構価値あると思うんですよね。モデル誤差云々の前に。 twitter.com/mkashi/status/...

タグ：

posted at 16:18:40

Tensorflow ってとっつきにくいけど、ようするにLaTexと同じで設計してから実行してるだけか

タグ：

posted at 16:19:07

Tensorflow妖精にグラフを渡した後に、妖精が計算してくれるという

タグ：

posted at 16:19:53

小清水さん @curekoshimizu

計算自体が破綻して、意味を持たない計算例をたくさん見ないと、倍精度で計算した気になるだけの危険性に気づけないかもしれない…とも思っている。

タグ：

posted at 16:19:58

JuliaでTensorflow する記事書いたとしたら需要あるのだろうか

タグ：

posted at 16:20:56

初期値の違う二つの解軌道のx成分の統計？のようなもの pic.twitter.com/VkOjmeSb9O

タグ：

posted at 16:41:00

初期値は違うし、次の瞬間の場所なんかも違うのにどれぐらいたむろしているかの統計を取ると似てるっていうのは面白い

タグ：

posted at 16:47:33

浮動小数点の丸めの方向と性質 (1)
math-koshimizu.hatenablog.jp/entry/2016/12/...

タグ：

posted at 16:51:00

簡単なモデルで丸めによって値がどうなるかというまさに知りたかった記事。

タグ：

posted at 16:53:58

鬼ヶ島 pic.twitter.com/Awrt0YU6M7

タグ：

posted at 16:54:37

JuliaとPlotsで陰関数のプロットとアニメーションの練習にL1～L135までの単位円のプロット pic.twitter.com/vFu65ab4d2

タグ：

posted at 19:38:49

JuliaでTensorFlow その1 on @Qiita qiita.com/cometscome_phy...

タグ：

posted at 20:03:09

JuliaでTensorFlowを使う場合、tf.ほにゃららってやらなくて良い

タグ：

posted at 20:07:07

小清水さん @curekoshimizu

@ceptree そう言っていただき、ありがとうございます！

タグ：

posted at 20:24:09

非公開

タグ：

posted at xx:xx:xx

非公開

タグ：

posted at xx:xx:xx

4月になると新入生に対して上からものを言いたくなるのですが、大学で普通に講義を聞いて、普通に予習復習を重ねていけば、一生の宝になると思います。1年の時に、毎日1時間でいいから微積分や線型代数の勉強するというのは当たり前のようで大変なのです。
twitter.com/docr2s/status/...

タグ：

posted at 20:56:05

大学も日本社会の一部ですので、現在はいろんな問題を抱えています。が、そうはいっても大学が学生に対して用意しているインフラは相当なものがあり、講義、教員、図書館、情報センター、無線、さらに日常を支えてくださる事務スタッフは、学生にとっても大いに助けになると思います。

タグ：

posted at 20:58:37

「大学で勉強する」というのは、特別なことではありません。数学の難しさを語るオソロシイ先輩もいれば、楽な単位取得方を囁くダメ先輩もおります。修得するのは決して簡単ではありませんが、多くの大学では、講師の方々がそれぞれの大学・学部で見合った講義を準備しています。

タグ：

posted at 21:04:20

新しい環境に移ったとき、誰でも不安と希望があるものです。新たな気持と抱負を大切にしつつ、等身大で精一杯やりたいことをやればよいと思います。やりたいことがすぐに見つからなくても慌てず、しっかり講義を聞いて勉強していってください（終

タグ：

posted at 21:09:13

#Julia言語 #統計

 nbviewer.jupyter.org/gist/genkuroki...
KL情報量に関するSanovの定理の数値的確認 pic.twitter.com/deLIk2xEL9

タグ： Julia言語統計

posted at 22:05:07

#Julia言語 #統計

 nbviewer.jupyter.org/gist/genkuroki...
混合正規分布と正規分布のKL情報量

2つ山の1次元混合正規分布Qを固定し, 正規分布の範囲内でKL(P||Q)を最小化するPを求めてみました。そのようなPは

正規分布の中で、Qに従う独立試行で生成されるサンプルの分布に近くなる確率が最大のもの

になります。

タグ： Julia言語統計

posted at 22:07:37

@curekoshimizu 大変分かりやすい記事で勉強になりました。小清水さんの記事を参考にさせて頂いて、理解のために２進数から浮動小数点数へ変換するプログラムをJuliaでつくってみました。 pic.twitter.com/fU9Iilqapf

タグ：

posted at 22:14:57

#統計次の2つを厳密に区別する必要があり！固定されたQについて

(1)正規分布Pの中でKL(Q||P)を最小にするものを求めること。

(2)正規分布Pの中でKL(P||Q)を最小にするものを求めること。

(1)のPはそれに従う独立試行で生成されたサンプルの分布がQに近くなる確率が最も高いものになり、続く

タグ：統計

posted at 22:23:38

#統計 (2)のPはQに従う独立試行で生成されたサンプルの分布に近くなる確率が最も高いものになります。

これはSanovの定理からの帰結。Sanovの定理は大数の法則と中心極限定理に匹敵するほど基本的な定理なので、知らないと統計学における多くのことを直観的に理解できなくなります。

タグ：統計

posted at 22:23:38

#統計 Kullback-Leibler情報量に関するSanovの定理については

genkuroki.github.io/documents/2016...

を参照。

タグ：統計

posted at 22:23:38

#統計例1

青線の混合正規分布Qの左右の山の確率はどちらも50%.

KL(P||Q)を最小化する正規分布PはほぼQの左側の山そのものになっている。 pic.twitter.com/9JknAL5vHD

タグ：統計

posted at 22:23:39

#統計例2

この例の青線の混合正規分布Qは例1のそれより右側の山が少し高くなっている。(右側の山の確率が55%になっている。)

そのせいで、KL(P||Q)を最小化する正規分布PはほぼQの右側の山そのものになっている。

理解度確認問題：Sanovの定理を用いて直観的に説明せよ。 pic.twitter.com/Hy6i29PVq6

タグ：統計

posted at 22:23:39

#統計例3

この例の青線の混合正規分布Qは例1のそれより左右の山のあいだの間隔が狭くなっている。狭くなったので、KL(P||Q)を最小化する正規分布PはQの2つの山をまたがった分布になった。

理解度確認問題：Sanovの定理を用いて直観的に説明せよ。 pic.twitter.com/dc7MaR0EOO

タグ：統計

posted at 22:23:40

非公開

タグ：

posted at xx:xx:xx

OokuboTact　大久保中二病中年 @OokuboTact

#数楽【豆知識】Sanovの定理より、KL情報量KL(P||Q)はQに従う独立試行で生成されたサイズnのサンプルの分布がPに近くなる確率の対数の-1/n倍に漸近的に等しいので、パラメーターに依存するKL情報量をプロットするときには、その-1倍のexpをプロットすると見易くなる場合が多い。

タグ：数楽

posted at 22:30:05

＃超算数　　資料
向山洋一『教師修業十年　プロ教師への道』（１９８６年） pic.twitter.com/RZjpvJJ4sq

タグ：超算数

posted at 22:30:58

Mitsuru Ambai @ambee_whisper

なんか最近TLがjulia julia騒がしいので、matlab派の僕もjulia試したくなってきた

タグ：

posted at 22:34:52

twitter.com/genkuroki/stat...

#統計 #数楽解答例

2つ山の混合正規分布に従う独立試行で生成されたサンプルが正規分布に近くなるのは、左側の山ばかりを引き当てた場合、右側の山ばかりを引き当てた場合、両方の山から来るサンプルを合わせたら正規分布に見える場合の3つの場合がありそうである。

タグ：数楽統計

posted at 22:44:02

#統計 #数楽例1は左側の低い山ばかりを引き当てた場合に対応する正規分布に近くなる確率が最も高い場合になっている。

例2では右側の山を引き当てる確率を高くしたので、結果的に、右側の山ばかりを引き当てた場合に対応する正規分布に近くなる確率が最も高くなっている。

タグ：数楽統計

posted at 22:44:03

残り11件のツイートを見る

#統計 #数楽例3では2つの山の間隔を狭くしたので、両方の山から来るサンプルを合わせた場合に正規分布に近くなる確率が最も高い場合になった。

以上の結果はSanovの定理と整合的である。

タグ：数楽統計

posted at 22:44:03

#統計 #数楽

固定されたQに対して、KL(Q||Normal(μ,σ))は唯一の極小点を持つので、最小化の数値計算は易しい。

それに対して、KL(Normal(μ,σ)||Q)は複数の極小点を持つ場合があるので、最小化の数値計算はちょっと面倒になります。同じ問題が所謂「変分ベイズ」の場合にも起こります。

タグ：数楽統計

posted at 22:44:03

Limg @LimgTW

これは確かに気持ち悪い流れだな。
①E=R×I はどれが一定でも残りの２つの関係を表す。
②数式に「一定」を含意させるなら、同レベルの慣習で「因果」も含意させるから、電流＝a／抵抗と抵抗＝a／電流の２式に分かれ、３つの式では済まない。
③そもそも電流＝電圧／抵抗は電圧と抵抗のどちらが一定？ twitter.com/genkuroki/stat...

タグ：

posted at 22:46:35

#数楽 Sanovの定理の立場では、KL情報量の「次元」は「1サンプルサイズあたりの『確率の対数』」だと思っておくと色々分かり易くなる。

Sanovの定理については

genkuroki.github.io/documents/2016...

Sanovの定理はKL情報量に関する直観の源泉になるので、それを知らない人はKL情報量について理解していない。

タグ：数楽

posted at 22:46:37

#統計 #数楽以下のリンク先のスレッドのプロットを見ればわかるように、KL(Normal(μ,σ)||Q)を最小化する (μ, σ) は混合正規分布 Q をほんの少し変化させただけで、不連続にジャンプしてしまうことにも注意。最適化問題の解はパラメーターについて不連続になることがある。

twitter.com/genkuroki/stat...

タグ：数楽統計

posted at 22:52:09

#数楽少し訂正。正しくは

Sanovの定理の立場では、KL情報量の「次元」は「1サンプルサイズあたりの『確率の対数の-1倍』」になることを知っておくと色々分かり易くなる。

相対エントロピーはKL情報量の-1倍なので、その「次元」は「1サンプルサイズあたりの『確率の対数』」になる。

タグ：数楽

posted at 22:57:53