黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 特異値分解は、大学新入生向けの線形代数の講義の定番である次の結果の内積有り版に過ぎないです:

任意のm×n行列は行と列の基本変形の有限回の繰り返しで次のような形に変形できる:

1 0 0 0 0
0 1 0 0 0
0 0 1 0 0
0 0 0 0 0

斜め45度に並んでいる1の個数は行列のランク。続く

タグ： 数楽

posted at 00:47:39

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 行列の基本変形の言葉を使わずに同じ結果を述べると、

* 任意のm×n行列は、上で述べた形の斜め45度に1が並んでいる行列をΣと書くと、ある可逆な行列U,Vが存在して

UΣV⁻¹

の形に表せる。

このように書けば特異値分解との類似は明らかでしょう。(普通は逆向きに易しい方向で考える。)続く

タグ： 数楽

posted at 00:52:30

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 上の結果は、行列の基本変形を経由せずに以下のようにして証明できます。

行列Aを線型写像とみなす。定義域でのKer Aの補空間の基底v_1,…,v_rとKer Aの基底v_{r+1},…,v_nを作る。u_i=Av_iとおいて、それを拡張して値域の基底を作る。v_i,u_iを並べて行列V,Uを作るとそれが欲しいもの。

タグ： 数楽

posted at 00:59:21

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 そのV,Uの構成を、内積有りの場合に適切に拡張すると(例えば基底は正規直交基底に置き代わり、行列ノルムを使ってv_i, u_iを順番に選んで行く)、特異値分解が自然に得られます。

「内積無しの場合の易しい線形代数の内積有り版」という発想ができれば多くの事柄の理解が易しくなります。

タグ： 数楽

posted at 01:03:17

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 やはり易しい基本的なことの理解は重要で、特異値分解に初めて触れたときに「こんな話を線形代数の講義で聞いたことがない！」と感じると苦しくなる。

「行列の基本変形やランクや次元公式で似たような話をやったことがある！」と思えれば超絶楽になる。

「なんか見たことがある感」は大事。

タグ： 数楽

posted at 01:07:13

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽

B君曰く「全部、イロハを使えば出るんだよ」

特異値分解を出すためのイロハは

* 内積がない場合に行列のkernelとimageに相性のよい基底を作る話

* 内積があれば単なる基底よりも便利な正規直交基底を使えること

であり、そこに

* 内積がある場合の行列ノルム

を付け加えれば終わり。 twitter.com/genkuroki/stat...

タグ： 数楽

posted at 01:14:25

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 大学1年生レベルの線形代数の理解(=B君のように関連する問題に出会ったら、大学1年生レベルの線形代数と結びつけて「これもあれもそうだ」と思えるようになること)は非常に大変で、意識して努力して多分数年くらいの時間が必要。

数学の大変な所は理解しないと苦しいことと時間を取られること。

タグ： 数楽

posted at 01:20:09

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 数学的な道具はあまりにも多彩なので、ある人達にとって必須の道具だからといって、それをそのまま教科書に載せたり、講義で教えたりできるようなものではないです。

基礎を理解してもらって、どんな問題に出会っても基礎的な理解に戻って解決できるようになることを目指す以上のことは苦しい。

タグ： 数楽

posted at 01:23:48

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 そもそも「やり方を知らなければできない」というのを数学の応用で認めちゃうのは非常にまずい。

やり方を知らなくても、基礎に戻って何とかする力を身につけないと、どこまで行っても苦しいままになる。

タグ： 数楽

posted at 01:26:15

オレンジシャーベット @dcKEPi

22年5月1日

佐武にも斎藤にも書いてあるものを「載ってないことが多い」というのはさすがに

（ただし佐武では特異値分解という名前は出してない）

タグ：

posted at 06:04:31

オレンジシャーベット @dcKEPi

22年5月1日

興味ある人のため：佐武の IV章 §3 に書いてある。
例2は実行列の直交行列によるSVD。このセクションの最後の箇条書きの6)が複素行列のユニタリ行列によるSVD。

タグ：

posted at 07:40:09

黒木玄 Gen Kuroki @genkuroki

22年5月1日

いかんな。すっかり生活時間帯が狂ってしまった。

タグ：

posted at 08:14:40

蒼き夜に @aokiyoruni

22年5月1日

あと、何回も言ったけど「アジア特有(または東アジア特有、或いはアジアとオセアニア特有等)の未知のファクターＸ」ってどうなったのかな。

タグ：

posted at 08:15:22

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 私がイメージした特異値分解の構成法はこうです。

単位球面をAでうつして原点から最も離れる所を探す。その点を与える単位ベクトルをv₁とし、Av₁=σ₁u₁, σ₁≥0, u₁も単位ベクトルとする。ℝv₁, ℝu₁の両方の直交補空間を作って同じことを繰り返す(繰り返せる)。

タグ： 数楽

posted at 08:28:35

Julia日本語記事まとめ @julia_kizi

22年5月1日

新しい記事がQiitaにアップされました！#Julia言語 #Julia日本語記事
qiita.com/RhT/items/0c34...👈

タグ： Julia日本語記事 Julia言語

posted at 08:33:17

あ〜る菊池誠(反緊縮)公式 @kikumaco

22年5月1日

国が経済成長しないのに大学だけ3%も経済成長できると考えている財務省は算数ができない

タグ：

posted at 11:28:00

PurPurPurkinje @tak_yamm

22年5月1日

それってあなたの感想ですよね？

qiita.com/AKKYM/items/78...

タグ：

posted at 14:22:58

ぺん @penchan912

22年5月1日

頭ごつん！！！
🤣🤣🤣 pic.twitter.com/3XSZJvSUXu

タグ：

posted at 15:29:52

ぺん @penchan912

22年5月1日

衝撃の瞬間ww pic.twitter.com/aG9IkIIC1N

タグ：

posted at 15:30:29

椎名高志 @Takashi_Shiina

22年5月1日

そんな風に作ってる『異伝・絵本草子　半妖の夜叉姫』最新第二巻は5月18日頃発売です！
pic.twitter.com/5LZYMHqheJ

タグ：

posted at 15:47:54

居合澤試合 @IAIZAWASIAI

22年5月1日

正しさの商人読んでいるんだけれど、震災、原発事故、コロナ、この度の戦争と眺めてきておおむね問題を理解しているつもりなんだけれど、絶望的な気持ちになる。やっぱり、大手メディアがもっと責任のある報道をするようにならんとダメじゃないですかね……？

タグ：

posted at 16:10:11

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 Aの転置A'に関するv = A'u₁に||Av||≤σ₁||v||を適用すると、A'u₁=σ₁v₁が得られ、σ₁が特異値だと分かり、Aがℝv₁の直交補空間をℝu₁の直交補空間にうつすこともわかる。この部分の議論がほんのちょっとだけ非自明ですが、これで特異値分解の構成法の証明が得られる。

タグ： 数楽

posted at 16:52:54

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 佐武一郎『線型代数学』のIVの§3 対称行列の標準化の例2(p.155)には、実対称行列 A'A の直交行列による対角化に特異値分解の構成を帰着する方法が書いてある。

いずれにせよ、特異値分解は大学1年生レベルの線形代数の話題だと言って良いと思う。

タグ： 数楽

posted at 16:59:36

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 固有値が0以上の実対称行列A'Aを直交行列Vで V'A'AV=(対角行列) と対角化すれば、この対角化はAVの0でない列ベクトルが互いに直交していることを意味するので、ある直交行列UでU'AV=(斜め45度上の成分((i,i)成分以外は0の行列)となるものを容易に作れる

タグ： 数楽

posted at 17:10:11

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 大学1年生レベルの微積分の題材として、ガンマ函数によるベータ函数の表示

B(a,b)=Γ(a)Γ(b)/Γ(a+b)

は定番ですが、逆にベータ函数のスケール極限でガンマ函数を

lim_{n→∞} nᵃB(a, b+n) = Γ(a)

と表示できることも重要。続く

タグ： 数楽

posted at 17:28:56

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽

Γ(a)Γ(b)=Γ(a+b)B(a,b)のa=1/2,b=ν/2の場合から、「分散の逆数がガンマ分布にした正規分布がt分布になること」が出てくる。

そのとき、ベータ函数のスケール極限でガンマ函数を表示できることから、ν→∞でt分布が標準正規分布に収束することが出て来ます。続く

タグ： 数楽

posted at 17:28:57

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#統計 分散を確率的に揺らがせることによって、正規分布からt分布に移り、その揺らぎを小さくする極限で正規分布に戻って来ることは、大学1年生の微積分的にはガンマ函数とベータ函数の関係の部分ですでにやっている。

(ベータ函数のスケール極限でガンマ函数を表示できるところまではやらないかも。)

タグ： 統計

posted at 17:31:37

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 ベータ函数のスケール極限でガンマ函数を表示できることは、t分布の極限が正規分布になっていることの一般化になっているのですが、ベータ函数のガンマ函数表示と合わせて使うと、ベータ函数のスケール極限でのガンマ函数の表示は、ガンマ函数の無限積表示にもなっていることがわかります。

タグ： 数楽

posted at 17:33:50

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 #統計 正規分布とt分布を使う平均に関する区間推定や検定の話は、大学1年生レベルの微積分的には、ガンマ函数(正規分布ワールドの住人)とベータ函数(ベータ分布ワールドはt分布を含む)の関係に関する数学的に定番の話題にもろになっています！

基礎を理解していれば色々楽になります。

タグ： 数楽 統計

posted at 17:37:42

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 #統計 数学的にテクニカルな部分について最初から基礎的な理解ができていれば、数学的なややこしさに煩わされることなく、より本質的なことに集中し易くなると思う。

数学というフィクションの世界がクリアに見えていれば、フィクションである統計モデルを現実と混同することは無理になります。

タグ： 数楽 統計

posted at 17:40:29

黒木玄 Gen Kuroki @genkuroki

22年5月1日

幽霊のようにクリアに見えていないものを利用してしまうと、無駄な恐れが生じて、幽霊が現実にいるかのように錯覚してしまうかもしれない。

タグ：

posted at 17:41:54

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#統計 二項分布モデルと正規分布モデルを扱う統計学入門において、ベータ分布とその変種は数学的にテクニカルな部分について中心的な役割を果たしており、関連の基本特殊函数達はコンピュータによる統計分析で毎日ものすごい回数実行されている。

タグ： 統計

posted at 17:48:26

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#統計 数十年前だったら、「各種の分布に関する数表を使って信頼区間やP値を計算する」という知識が教養だったのかもしれませんが、現代的には「正規分布、ガンマ分布、ベータ分布関係の基本特殊函数ライブラリを使って信頼区間やP値を計算する」に置き換えられます。

タグ： 統計

posted at 17:53:21

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#統計 多分多くの人にとって、基本特殊函数ライブラリに関する知識は必要ないかもしれませんが、「詳細を忘れても困らない知識」としては十分に意味のある教養だと思います。

「もう忘れてしまったけど、この信頼区間の計算はベータ函数がらみの特殊函数で計算されているらしい」と言えるような教養。

タグ： 統計

posted at 17:58:00

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#統計 我々の文明がどれだけ複雑で繊細で地道な技術の集積によって維持されているかを理解することは結構大事なことだと思います。

個人的な意見ではそういうことをある程度理解できるようになると人生の楽しみも大幅に増える。

タグ： 統計

posted at 18:01:18

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#統計 #数楽

t分布→正規分布

の極限は、ベータ函数のスケール極限の特別な場合

√n B(1/2, n+1) → Γ(1/2)

にちょうど対応していて、この極限については「Wallisの公式」として間接的に講義で聞いているかもしれません。

複雑な式の見掛けは数学の本質でないので理解が重要になります。

タグ： 数楽 統計

posted at 18:11:16

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 ベータ函数の定義は多くの場合に

B(a,b)=∫_0^∞ pᵃ⁻¹ (1-p)ᵇ⁻¹ dp

でされていますが、統計学との関係では、p=u/(1+u)と「確率」pをその「オッズ」u=p/(1-p)に変換して得られる

B(a,b)=∫_0^∞ uᵃ⁻¹/(1 + u)ᵃ⁺ᵇ du

も重要です。後者に付随する確率分布がベータプライム分布です。

タグ： 数楽

posted at 18:46:04

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 さらに、u=t²/ν, a=1/2, b=ν/2とおくと、

√ν B(1/2,ν/2)=∫_{-∞}^∞ (1 + t²/ν)^{-(ν+1)/2} dt

となって、この表示からt分布が得られます。t分布は本質的にベータプライム分布の特別な場合の変数変換になっているということです。

F分布はベータプライム分布のスケール変換です。

タグ： 数楽

posted at 18:46:05

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#統計 t分布やF分布(や二項分布や負の二項分布)の累積分布函数の計算はベータ分布の累積分布函数の計算に帰着します。

で、そのベータ分布の累積分布函数は「正則化された不完全ベータ函数」と呼ばれており、広く使われている実装のソースコードは以下のリンク先で読める。

github.com/JuliaStats/Rma...

タグ： 統計

posted at 19:01:19

黒木玄 Gen Kuroki @genkuroki

22年5月1日

「ちょっと練習のために #Julia言語 で実装してみよう」と思って調査してみて

github.com/JuliaStats/Rma...

を発見したのですが、2000行以上あって、これは「ちょっとした練習」にはならないことが非常によく分かった(笑)

タグ： Julia言語

posted at 19:05:06

黒木玄 Gen Kuroki @genkuroki

22年5月1日

正規分布の分位点函数の計算で必要な誤差函数の逆函数erfinvの実装については

youtu.be/mSgXWpvQEHE

を参照。 #Julia言語 では基本的な函数の再実装にはかなりのメリットがあって実際にそうされています。

正規分布の累積分布函数の計算には誤差函数erfを使う。 pic.twitter.com/7kJkAMFDED

タグ： Julia言語

posted at 19:20:28

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#統計 二項分布の累積分布函数は

F(x) = Σ_{k≤x} binom(n,k) pᵏ(1-p)ⁿ⁻ᵏ

の形をしているのですが、n≈10⁶のような場合にはそのオーダーの和になります。そのまま素朴に実装するとスケールしなくなります。

F(x)をベータ分布の累積分布函数でぴったり計算できることを使えばその問題は解決。

タグ： 統計

posted at 19:25:23

Scomb @Scomb

22年5月1日

イッテQでホタルイカを海辺で獲ってそのまま穫れたてを食べる、とか言ってるけど、ホタルイカの生食は旋尾線虫症っていう寄生虫が皮膚を這う感染症になるからそういう危険な情報を流布するのはやめてほしいなあ。

@itteq_ntv

タグ：

posted at 20:33:31

Julia日本語記事まとめ @julia_kizi

22年5月1日

新しい記事がZennにアップされました！#Julia言語　#Julia日本語記事
zenn.dev/terasakisatosh...👈

タグ： Julia日本語記事 Julia言語

posted at 21:19:48

鰹節猫吉 @sunchanuiguru

22年5月1日

デメリットでしかないですが。
#超算数 twitter.com/ikecchi_poke/s...

タグ： 超算数

posted at 21:58:43

鰹節猫吉 @sunchanuiguru

22年5月1日

これが大学教員らしいです。
教員養成らしいです。
教育学部は馬鹿を作る教育を推進してるのかと不安になってしまいました。
#超算数 twitter.com/papagreen10/st... pic.twitter.com/rt3gvF0MJX

タグ： 超算数

posted at 22:04:54

ムラカミ@スタジオ・ザルツウェルツ @saultswalt

22年5月1日

@mirage1031 @m_petit_non 現場がきて職人が募集されているのに電話が鳴らないのか…😭😭😭

タグ：

posted at 22:23:14

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 ノート放流

添付画像①の内積を使わない場合の「プロトタイプ」の存在を認識していれば、それを内積を使う場合(単なる基底ではなく、正規直交基底を取る場合)の話への良い拡張があって欲しいと感じるはず。それが②の特異値分解。

数値計算的な事柄では内積を使うバージョンを普通考える。 pic.twitter.com/CqSwbRHutk

タグ： 数楽

posted at 22:27:29

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 1つ前のツイートの添付画像①の定理は、任意の連立一次方程式が線形な変数変換によって、x_1,…,x_nに関する

x_1 = c_1
…
x_r = c_r
0 = c_{r+1}
…
0 = c_m

という自明な連立方程式に変換されることを意味している。(c_{r+1}=…=c_m=0でない場合には解なしになる。

タグ： 数楽

posted at 22:32:56

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 2つ前の添付画像②の結果は、実数係数の場合には、線形な変数変換を、直交変換(回転と鏡映)に置き換えてもほぼ同様のことをいえることを意味している。あと、幾何的イメージも鮮明。

線形変換は数値的に潰れるような変換も含むが、直交変換は回転や鏡映で距離を保ってくれる。

タグ： 数楽

posted at 22:39:32

黒木玄 Gen Kuroki @genkuroki

22年5月1日

#数楽 線形代数の実用的な道具の多くが、「便利な良い基底を取り直せる」というスタイルになっている。

ℝⁿの標準基底を通して見ると恐ろしく複雑に見える行列が、別の基底をうまく取った瞬間にシンプルで簡単なものに見えて来る場合がある。

こういう視点で全てを見直すと理解が深まる。

タグ： 数楽

posted at 22:43:04

Yossy @Yossy_K

22年5月1日

結局、「違うように見えたものが、同じように見える」というか、端的に言えば「サイエンスの計算なんて、大概は比例と反比例、比の計算の枠組みで処理できるよね」みたいになったほうが、よほどコストの省略になると思うんだよなあ。

タグ：

posted at 23:05:32