まつど
- いいね数 102,851/144,366
- フォロー 1,895 フォロワー 2,964 ツイート 80,115
- Web https://scrapbox.io/education/
- 自己紹介 批評とアニメ好き/ラノベ・漫画積読リスト http://scrapbox.io/lightnovel/
2023年01月29日(日)
柳野かなた@最果てのパラディン @yanaginokanata
「価値観をアップデート」って言葉は反吐がでるほど嫌いですが、「胡椒は腐りかけの肉をどうこうするもんではない」「乳酸は疲労物質ではない」「西洋剣は力で叩くものではない」みたいな、「知識のアップデート」の方はとても大事だとおもう。
タグ:
posted at 05:25:46
Takuya Kitagawa/北川拓也 @takuyakitagawa
上記のグラフは、複数ステップの計算、大学レベルの試験、文脈の言葉の意味を読み取る精度だ
この急激なAIの進化は他のところでも観測されており、
例えば「質問の仕方を変えればAIのアウトプットが圧倒的によくなる」という現象も、ある一定の計算量がなければ起こらない
5/n pic.twitter.com/Z2XfPL3gLf
タグ:
posted at 10:51:40
Takuya Kitagawa/北川拓也 @takuyakitagawa
この現象は実はいまだに理解されていない。
なぜこんな転換点が存在するのか。
実は人類がこのような現象に出会ったのは初めてではない。
これこそが物理学においてこの100年間研究されてきた「相転移」という現象なのだ。
6/n
タグ:
posted at 10:51:41
Takuya Kitagawa/北川拓也 @takuyakitagawa
昔に、物理学者は還元主義を信じ、
「世界の最小単位のものの振る舞いを理解すれば、世界の全てを理解できるはず」
と思っていた時代があった。
これをPhilip Andersonという稀代の物理学者が
More is Different (量が質を変える)
という論文でパラダイムシフトを起こした
7/n
タグ:
posted at 10:51:42
ChatGPTショックと我々にとって何だったのか?野尻さんは指摘する。ChatGPTは所詮、自分が何を言ってるのかさえ理解できていない。そのくせにここまでメチャ有能に仕事できる。という事は逆に、今まで人間だけが知能を持ってて物事を理解して行動するってのがウソだったんじゃないのか? →RT
タグ:
posted at 11:13:55
whisper.cpp : WASM example whisper.ggerganov.com ブラウザで Whisper (whisper.cpp) が簡単に試せる。日本語もいける。
タグ:
posted at 11:27:36
みわよしこ/Yoshiko Miwa, @miwachan_info
まとめ避けに、アフィリエイトも。
バリアフリー化というかアクセシビリティに関する自分の著書は、現時点ではこちら(共著)がイチオシです。
音声合成技術は進歩が非常に早く、技術的には1~2世代前の話になってますけど。
帯に言葉を寄せてくださったのは、故・篠沢教授。
amzn.to/3WPMe3k
タグ:
posted at 14:14:38
本来、学習習慣は大学を出た後もずっと続けていくもの。一方、学習習慣がストップする場面もあり、例えば仕事や育児で忙しくなって学習に手が回らなくなったとかだから、岸田総理の提唱する育休中の学び直し支援はそこまで的外れではないと思う。
タグ:
posted at 14:24:34
読書猿『独学大全』14刷26万部、『文章 @kurubushi_rm
自分にとって #ChatGPT の一番の使いみちは、いわゆる「壁打ち」の相手になってもらうことです。
画像は、今書いている『文章大全』のための「壁打ち」。
最後には、これまでの「対話」をまとめてくれます。 pic.twitter.com/eRj7PDBcpo
タグ: ChatGPT
posted at 15:19:29
ブラウザで試せるWhisiper.cpp 早速試してみました
Small Modelで検証
・Modelのダウンロードに数分
・メモリ使用率は2GBくらい
・変換中のCPU使用率は結構高い
さすがに自作サービスに組み込むのは厳しいか~ pic.twitter.com/GxhoyBw72C
タグ:
posted at 16:04:04
Twitterで教えてもらった謎のアプリケーション(恋愛目的でなく趣味で同性異性関係なくつながれる)で人と会ってお茶してみたが、面白い人であった。謎の人と謎に会うという不思議体験もあるんだな。
タグ:
posted at 16:45:17
あらすじを作るのが下手な人と、そうで無い人の違いを、ここ数ヶ月ぐらいつらつらと考えていたんだけど、ようやく言語化ができるようになった。一言で説明すると、「パターン化できる部分をパターン化しない」だ。
タグ:
posted at 17:08:13
ただキャベツ多めだとお腹が膨れない…。山芋どっさり入れるのは同意です / “大阪出身の友人に聞いたお好み焼きの作り方を真似したら概念が変わる美味しさだった「私が今まで食べてたのはソース味の小麦粉だった」” htn.to/4ypa5gmsbb
タグ:
posted at 21:54:09
いとう!@AIを1日1つ作る @itosinitosin123
リワードモデルとは、ChatGPTがここまでのクオリティ実現させることができた今回目玉の手法で、ザックリ言うと、
GPTが生成したテキストを人間がランク付けして、それを学習させることで、より人間好みのテキスト生成をさせるための手法です。
公式が発表している図でいう真ん中のSTEP2です。
2/n pic.twitter.com/W7kGy3QDyX
タグ:
posted at 21:58:00
だからボクは、教育って言葉を滅多に使わないんだよね
十分に準備しないで掲げるのも無責任だし、その十分な準備のコストが膨大すぎるから
軽々しく、自分に教育的価値がある、なんて恐ろしすぎて言えない
タグ:
posted at 22:26:54
ジェイソン・ブキャナン『アゲインスト・デモクラシー』(勁草書房2022)を読みました。政治哲学におけるデモクラシーの理論的批判は古代ギリシアに遡る長い歴史をもちますが、その現代版として、議論の深化のためにとても重要な研究ではないかと思います(たとえ賛成しないにせよ)。(続) pic.twitter.com/XlQKKp2xtn
タグ:
posted at 22:29:39
1年前だったか2年前だったか忘れたけどrakusaiさんに「自分にはもっといいアイデアがあると言うんだったら同意なんか求めずに雑でもいいから実装してデモすればいいじゃないですか。エンジニアなんだから」という趣旨のことを言われたの強烈に印象に残ってて、最近ようやくその気持ちがわかりました
タグ:
posted at 23:10:15
僕の好きな海外の諺に「私が勝つだけでは充分ではない、誰かが負ける必要がある」というのがあり、これは「自分と他人を比べない」の逆を徹底している。「他人と比べない」ことが最も理想的なのは間違いないが、同時に悟りのようにとても難しくもある。競って勝つことのほうがむしろ容易なくらいに→ twitter.com/buruzer/status...
タグ:
posted at 23:31:49