ドラえもんのほんやくコンニャクに近い研究です. なんと自分の声を維持したまま,自国語の音声を外国語の音声に変換できる手法VALL-E Xがマイクロソフトから発表されました. vallex-demo.github.io デモのページに変換の例が載せてあり,リアルほんやくコンニャク感があります.
東大工学部2号館のサブウェイ、閉店告知直後によほどのアクションがあったのか、閉店が撤回されて継続するそうな
GAFAをはじめとする代表的なテック企業のプロダクトへの機械学習・データサイエンスの応用例が公表されている論文や記事を集めたリポジトリ github.com/eugeneyan/appl… データの扱い,検索や推薦システム等メジャーなものから,NLP,CV,異常検知,その他(RLも!)色々あり,具体的な応用を目指している人は必見
既に機械学習界のインフラ的サイトになっていたPaper With Codeに続いて,論文のデータセットもまとめた「Paper with Datasets」(名前はツイッターでの呼称で,サイト自体は同じ)ができたようです paperswithcode.com/datasets データセット探しの定番になるかもしれないですね
グラフニューラルネットワーク(GNN)などの、深層学習 for グラフに関する大型の書籍が公開されています web.njit.edu/~ym329/dlg_boo… この分野の資料としてはおそらく最大のもので,GNNの全体論のほか、言語処理,ヘルスケア,生化学その他への応用も幅広く紹介されています
なんと岸田首相自らが、ChatGPT生成AIがG7サミットの議題になることを明言! 正真正銘、主要国の首脳の話題に生成AIが出てくる事態になるとは… 具体的には"AIのあり方をめぐる国際的なルールづくり"が焦点だそう。 開催国が日本というのがよい。 www3.nhk.or.jp/news/html/2023…
実は,ChatGPTみたいな超高性能対話AI(LLM)はOpenAIやその他GAFAMみたいなBig Techしか作れず,独占状態になるかと思っていたのですが,どうも最近の流れを見ているとそうでもなさそうです… twitter.com/i/web/status/1…
スタンフォード大学とかは, ChatGPT, GPT-4みたいな大規模言語モデルの教育にも力を入れてて,授業で基礎知識の講義や論文レビュー,更に計算機リソースを与えて実際に言語モデルを作らせたりしてます stanford-cs324.github.io/winter2022/ 講義資料も講義サイトで公開されているため,GPT,LLMに興味がある人は是非!
講義動画付きのコンピュータサイエンスの講義大全的なリポジトリがありました github.com/Developer-Y/cs… めちゃくちゃ量が多い。コンピュータサイエンス入門、数学、機械学習、Webからなんでもあり、最近の話題を反映してか量子コンピューティングやブロックチェーンの話やゲーム開発的な話まであります
名前の「メタバース工学部」から,「メタバース工学」なる学問を教える東大のキラキラ新設学部っぽく聞こえてしまうと思うのですが,実際には中高生・社会人など外部の方達にも立場や地理的な制限を超えて工学部の教育プログラムを提供するもので,真面目なやつです t.u-tokyo.ac.jp/press/pr2022-0…
海外のそこそこ有名なテック企業の求人の要求に「BERTを使った機械学習・自然言語処理の経験を4年以上」(※BERTの論文公開は2018年)みたいのがあったらしく、盛大にネタにされているっぽい
スタンフォード大学でTransformerに関する講義が始まっています youtube.com/playlist?list=… 元々,言語処理の手法だったところが,画像処理に強化学習にAlphaFoldを始めとした他分野応用などで革命を起こしすぎたせいで,自然言語の講義から独立して,Transformer単体で講義が作られるようになった模様
深層学習の金融応用についてまとめたサーベイ論文 かなりの大著で52ページからなり,引用文献数も200を超えていて非常に網羅的 応用状況の分析や,仮想通貨関連の話題も含み,この論文を起点に色々な知見を得られそう "Deep Learning for Financial Applications : A Survey" arxiv.org/abs/2002.05786
研究者の中では、GPT-3が出た辺りから「こりゃGPT-10になるころにはGPTじゃなくて"Human"を名乗りそうだな」的なジョークがあったんですが、この調子だとGPT-6くらいでHumanになって、GPT-10くらいだともう新世界の神を称する何かになりそう
AI研究者のジョークで「めんどうなことはAIにやらせて俺たちはゲームで遊んで暮らそうと思ってたら,なぜかAIがゲームをやって俺たちがAI様の世話をしていた」というやつ,AIイラストの方でも似たような現象が発生しているのでは・・・
機械学習プロフェッショナルシリーズ『深層学習』改訂第2版をご恵増いただきました! まず驚いたのが初版の2.5倍はあろうかという圧倒的な分厚さです 内容についても2021年までの研究を豊富に含んで,完全に別の本として生まれ変わっており,現在の深層学習を理解する上での必読本でしょう!
昨年話題になったミクシィの技術研修資料が今年も公開されています mixi-developers.mixi.co.jp/22-technical-t… 去年よりもさらに公開内容が増え,AI研修やチーム開発などの内容が追加されています 去年も思ったのですが,「研修」というには凄まじい量と内容で,普通なら数年かけてようやくといったレベルの量です
GPT-4の論文に突如登場する日本のエレコムの「ケーブルマニア」 この画像を見て, GPT-4:「この画像の面白いのは,大きくて時代遅れのVGAコネクタを,小さくて最新のスマートフォン充電ポートに差し込むという不条理さ!」との回答 GPT-4は画像の認識もジョークも完璧な模様
これは面白い GPT-4が「TenetLang」なる新しいプログラミング言語を作ってくれたという GPT-4にソフトウェア開発のなんたるかを聞き, 重要な要素を満たす言語を設計してくれるように頼んだとのこと 既にgithubで実際に公開されている lukebechtel.com/blog/gpt4-gene… github: github.com/tenetlang/tene…
深層学習のほとんどの分野を網羅したKerasの実装本の最新版が公開されています (大学の講義で使うことを目的に書かれたようですが、500ページ超の実装本をやる講義とは一体...) "Applications of Deep Neural Networks with Keras" arxiv.org/pdf/2009.05673… PyTorch版も欲しい内容ですね
みんな絶対来ると思っていた"Transformer is All You Need"論文が爆誕 arxiv.org/abs/2102.10772
非常に喜ばしいニュース 深層学習の開発者であり,御三家とも呼ばれるGeoffrey Hinton,Yann LeCun,Yoshua Bengioの3人が,コンピュータ科学のノーベル賞とされるチューリング賞を受賞することに まさに現在のAIブームを巻き起こした創始者達が受賞するという象徴的な出来事 nyti.ms/2UXfl5T
京都大学 数理解析学研究所の一般向け数学入門公開講座の講義ノートが公開されている kurims.kyoto-u.ac.jp/ja/special-01.… "入門"と付いていても大学までで習う数学とは一線を画すレベルの内容だが,最先端の数学に少しでも近づけるような工夫を凝らしたノートになっている ABC予想の件で有名な望月教授の講義も
機械学習が実際に現実の問題を解決しているのかという話、強化学習では分野の大ボスがこんなジョークを言う有様なので、肩身が狭い…
深層学習を使う場合の学習効率化,高速化などの手法,テクニックなどが非常に網羅的にまとめられたサーベイ論文です 研究や開発で深層学習を使う人には非常に重要な知見の宝庫 "Efficient Deep Learning: A Survey on Making Deep Learning Models Smaller, Faster, and Better" arxiv.org/abs/2106.08962