101
102
東大工学部2号館のサブウェイ、閉店告知直後によほどのアクションがあったのか、閉店が撤回されて継続するそうな
103
GAFAをはじめとする代表的なテック企業のプロダクトへの機械学習・データサイエンスの応用例が公表されている論文や記事を集めたリポジトリ
github.com/eugeneyan/appl…
データの扱い,検索や推薦システム等メジャーなものから,NLP,CV,異常検知,その他(RLも!)色々あり,具体的な応用を目指している人は必見
104
既に機械学習界のインフラ的サイトになっていたPaper With Codeに続いて,論文のデータセットもまとめた「Paper with Datasets」(名前はツイッターでの呼称で,サイト自体は同じ)ができたようです
paperswithcode.com/datasets
データセット探しの定番になるかもしれないですね
105
グラフニューラルネットワーク(GNN)などの、深層学習 for グラフに関する大型の書籍が公開されています
web.njit.edu/~ym329/dlg_boo…
この分野の資料としてはおそらく最大のもので,GNNの全体論のほか、言語処理,ヘルスケア,生化学その他への応用も幅広く紹介されています
106
なんと岸田首相自らが、ChatGPT生成AIがG7サミットの議題になることを明言!
正真正銘、主要国の首脳の話題に生成AIが出てくる事態になるとは…
具体的には"AIのあり方をめぐる国際的なルールづくり"が焦点だそう。
開催国が日本というのがよい。
www3.nhk.or.jp/news/html/2023…
107
実は,ChatGPTみたいな超高性能対話AI(LLM)はOpenAIやその他GAFAMみたいなBig Techしか作れず,独占状態になるかと思っていたのですが,どうも最近の流れを見ているとそうでもなさそうです… twitter.com/i/web/status/1…
108
スタンフォード大学とかは, ChatGPT, GPT-4みたいな大規模言語モデルの教育にも力を入れてて,授業で基礎知識の講義や論文レビュー,更に計算機リソースを与えて実際に言語モデルを作らせたりしてます
stanford-cs324.github.io/winter2022/
講義資料も講義サイトで公開されているため,GPT,LLMに興味がある人は是非!
109
講義動画付きのコンピュータサイエンスの講義大全的なリポジトリがありました
github.com/Developer-Y/cs…
めちゃくちゃ量が多い。コンピュータサイエンス入門、数学、機械学習、Webからなんでもあり、最近の話題を反映してか量子コンピューティングやブロックチェーンの話やゲーム開発的な話まであります
110
名前の「メタバース工学部」から,「メタバース工学」なる学問を教える東大のキラキラ新設学部っぽく聞こえてしまうと思うのですが,実際には中高生・社会人など外部の方達にも立場や地理的な制限を超えて工学部の教育プログラムを提供するもので,真面目なやつです
t.u-tokyo.ac.jp/press/pr2022-0…
111
海外のそこそこ有名なテック企業の求人の要求に「BERTを使った機械学習・自然言語処理の経験を4年以上」(※BERTの論文公開は2018年)みたいのがあったらしく、盛大にネタにされているっぽい
112
スタンフォード大学でTransformerに関する講義が始まっています
youtube.com/playlist?list=…
元々,言語処理の手法だったところが,画像処理に強化学習にAlphaFoldを始めとした他分野応用などで革命を起こしすぎたせいで,自然言語の講義から独立して,Transformer単体で講義が作られるようになった模様
113
深層学習の金融応用についてまとめたサーベイ論文
かなりの大著で52ページからなり,引用文献数も200を超えていて非常に網羅的
応用状況の分析や,仮想通貨関連の話題も含み,この論文を起点に色々な知見を得られそう
"Deep Learning for Financial Applications : A Survey"
arxiv.org/abs/2002.05786
114
研究者の中では、GPT-3が出た辺りから「こりゃGPT-10になるころにはGPTじゃなくて"Human"を名乗りそうだな」的なジョークがあったんですが、この調子だとGPT-6くらいでHumanになって、GPT-10くらいだともう新世界の神を称する何かになりそう
115
AI研究者のジョークで「めんどうなことはAIにやらせて俺たちはゲームで遊んで暮らそうと思ってたら,なぜかAIがゲームをやって俺たちがAI様の世話をしていた」というやつ,AIイラストの方でも似たような現象が発生しているのでは・・・
116
117
昨年話題になったミクシィの技術研修資料が今年も公開されています
mixi-developers.mixi.co.jp/22-technical-t…
去年よりもさらに公開内容が増え,AI研修やチーム開発などの内容が追加されています
去年も思ったのですが,「研修」というには凄まじい量と内容で,普通なら数年かけてようやくといったレベルの量です
118
119
これは面白い
GPT-4が「TenetLang」なる新しいプログラミング言語を作ってくれたという
GPT-4にソフトウェア開発のなんたるかを聞き,
重要な要素を満たす言語を設計してくれるように頼んだとのこと
既にgithubで実際に公開されている
lukebechtel.com/blog/gpt4-gene…
github: github.com/tenetlang/tene…
120
深層学習のほとんどの分野を網羅したKerasの実装本の最新版が公開されています
(大学の講義で使うことを目的に書かれたようですが、500ページ超の実装本をやる講義とは一体...)
"Applications of Deep Neural Networks with Keras"
arxiv.org/pdf/2009.05673…
PyTorch版も欲しい内容ですね
121
みんな絶対来ると思っていた"Transformer is All You Need"論文が爆誕
arxiv.org/abs/2102.10772
122
非常に喜ばしいニュース
深層学習の開発者であり,御三家とも呼ばれるGeoffrey Hinton,Yann LeCun,Yoshua Bengioの3人が,コンピュータ科学のノーベル賞とされるチューリング賞を受賞することに
まさに現在のAIブームを巻き起こした創始者達が受賞するという象徴的な出来事
nyti.ms/2UXfl5T
123
京都大学 数理解析学研究所の一般向け数学入門公開講座の講義ノートが公開されている
kurims.kyoto-u.ac.jp/ja/special-01.…
"入門"と付いていても大学までで習う数学とは一線を画すレベルの内容だが,最先端の数学に少しでも近づけるような工夫を凝らしたノートになっている
ABC予想の件で有名な望月教授の講義も
125
深層学習を使う場合の学習効率化,高速化などの手法,テクニックなどが非常に網羅的にまとめられたサーベイ論文です
研究や開発で深層学習を使う人には非常に重要な知見の宝庫
"Efficient Deep Learning: A Survey on Making Deep Learning Models Smaller, Faster, and Better"
arxiv.org/abs/2106.08962