76
AI研究者のジョークで「めんどうなことはAIにやらせて俺たちはゲームで遊んで暮らそうと思ってたら,なぜかAIがゲームをやって俺たちがAI様の世話をしていた」というやつ,AIイラストの方でも似たような現象が発生しているのでは・・・
77
東工大、医科歯科大、外語大、一橋大が合体して東京究極大学になったのを見て焦った東大が京大と合体して東京都(ひがしきょうと)大学になるやつ
78
名前の「メタバース工学部」から,「メタバース工学」なる学問を教える東大のキラキラ新設学部っぽく聞こえてしまうと思うのですが,実際には中高生・社会人など外部の方達にも立場や地理的な制限を超えて工学部の教育プログラムを提供するもので,真面目なやつです
t.u-tokyo.ac.jp/press/pr2022-0…
79
マイクラの中で,まさかのゲーム内でブロックを組み合わせてニューラルネットワークを作成し,分類タスクを解いている動画が非常に面白いです
bilibili.com/video/BV1yv4y1…
一切のライブラリもなく単純計算の回路の組み合わせで実現しているので,凄まじいサイズになってますが・・・
80
スタンフォード大学でTransformerに関する講義が始まっています
youtube.com/playlist?list=…
元々,言語処理の手法だったところが,画像処理に強化学習にAlphaFoldを始めとした他分野応用などで革命を起こしすぎたせいで,自然言語の講義から独立して,Transformer単体で講義が作られるようになった模様
81
スタンフォード大の教授らが書いた意思決定アルゴリズムに関する700ページの書籍が公開されています
algorithmsbook.com
著者は私の研究分野(強化学習)でも有名な方だったので,期待して読んでみたところ,まさにこれだ!という内容でした
ベイズ,強化学習,探索,ゲーム理論等全部詰めです
82
大変面白い論文が出ています!
なんと言語生成AIであるGPT-3に,「GPT-3は学術論文を書けるのか?」という論文を書かせたものです
(第一著者もしっかりGpt Generative Pretrained Transformer)
hal.archives-ouvertes.fr/hal-03701250v1
SF, ジョークネタのような話ですが,内容や構成はまともで,文章は立派な学術論文です
83
昨年話題になったミクシィの技術研修資料が今年も公開されています
mixi-developers.mixi.co.jp/22-technical-t…
去年よりもさらに公開内容が増え,AI研修やチーム開発などの内容が追加されています
去年も思ったのですが,「研修」というには凄まじい量と内容で,普通なら数年かけてようやくといったレベルの量です
84
国際数学者会議における応用数学者の講演をベースにした,AI研究における数学を論じた文章です
The Mathematics of Artificial Intelligence
arxiv.org/abs/2203.08890
AI研究x数学は定期的に話題になるトピックで,大量の議論や文章がありますが,本物のガチ勢による資料で大変よく整理されています
85
海外名門辺りの機械学習博士課程の希望者インフレが進みすぎて「博士課程に入るために、まずは助教になって業績を稼がないと」みたいな大逆転ジョークが爆誕しており、うーんみが深い
86
グラフニューラルネットワーク(GNN)などの、深層学習 for グラフに関する大型の書籍が公開されています
web.njit.edu/~ym329/dlg_boo…
この分野の資料としてはおそらく最大のもので,GNNの全体論のほか、言語処理,ヘルスケア,生化学その他への応用も幅広く紹介されています
87
東大工学部2号館のサブウェイ、閉店告知直後によほどのアクションがあったのか、閉店が撤回されて継続するそうな
88
DeepMindが非常に革新的なAI「AlphaCode」を発表しました
テーマはAIによる高度な自動プログラミングです
競技プログラミングのように,高度な課題でも人間の平均を超えるパフォーマンスをみせています
夢の楽園,全自動プログラミング社会に一歩前進
deepmind.com/blog/article/C…
89
90
Google, DeepMindの研究者らによる、分布型強化学習に関する教科書のドラフトが公開されています
distributional-rl.org
単なるスカラー値の期待収益ではなく,より情報が多い収益分布を使う手法で、深層強化学習以前から研究(金融応用等)されてきた分野ですが、まさか教科書が出るレベルになるとは
91
海外大学が公開している最新の機械学習講義についてまとめられています
github.com/dair-ai/ML-You…
似たまとめはいくつかありますが、これは本当に最近の講義で評価が高いものに絞ってまとめており、リアルタイムに追加もされているので、最新の話題をカバーしたい場合はおすすめ
NLPがかなり多い印象
92
有名なアルゴリズムの考え方について、シンプルに、中学生レベルの数学で解説した良資料です
speakerdeck.com/e869120/algori…
東大生とはいえ学部一年でこの解説のわかりやすさはすごいと思っていたら、経歴が凄まじかった(国際情報オリンピック金、AtCoder赤、競プロ作問、競プロの著作などなど)
93
先日紹介した、東工大で使用されたPythonを用いた機械学習の学習教材『機械学習帳』ですが、それの前段階でPython学習に主眼を置いた『Python早見帳』もあるようですね
chokkan.github.io/python/
手軽に参照でき。なぜこう書くのかの理由の説明、注意点もあって初学者の入門によさそう
94
東工大の機械学習の講義で使用された、理論の解説とPythonプログラムの実装・実行が一体になった「機械学習帳」という講義ノートが無料公開されています
chokkan.github.io/mlnote/
解説や図の豊富さやアニメーション、詳細な式展開、実装・実行の簡易さなど、Webの公開資料としては破格の内容です
95
ひたすらMatplotlibでいろんな図を作る奥義集みたいな書籍が海外で出版され、実装と本の内容がWebで公開されているようです
github.com/rougier/scient…
96
なんと!個人的に今年のトップニュースです
現時点でも深層学習の必読書だったMLPシリーズの『深層学習』が、トランスフォーマーやグラフネット、生成モデル(多分GANやVAEも?)などの最近の大人気モデルを加えて刷新されるようです!
「初代」深層学習本が再び「最強」深層学習本に twitter.com/kspub_kodansha…
97
藤井4冠、強さを追い求めるあまり全ての賞金をGPU・計算環境に課金して、いつか大学の研究室や国立研究所も抜き去って日本一計算資源を持ってる個人になったりしないですかね
98
海外のそこそこ有名なテック企業の求人の要求に「BERTを使った機械学習・自然言語処理の経験を4年以上」(※BERTの論文公開は2018年)みたいのがあったらしく、盛大にネタにされているっぽい
99
東大の研究室でやっている深層学習の講義、演習教材にGoogle colabを使っているのですが、最近仕様が極端に悪化してきて(セッション数、GPUの制限)、ついに講義前の軽い確認作業でGPUの使用量限界に達してしまうレベルになったので、色々考える必要がありそうです
100
スタンフォード大学のNLP+深層学習の講義2021年度版が公開されています
youtube.com/playlist?list=…
この講義,2年前くらいはTransformerやAttentionを講義の最終版でやってましたが,研究の加速により,この辺は当たり前と言わんばかりに中盤で消化して,後半は最近話題の言語モデル等の話になってます