176
「GPT-3の学習には460万ドル(約4億9000万円)のコストがかかり、1台のGPUを使用した場合は計算に355年かかるとのこと」
＿人人人人人人人人人人＿
＞ 4億9000万円 ＜
￣Y^Y^Y^Y^Y^Y^Y^Y^Y￣
＿人人人人人人＿
＞ 355年 ＜
￣Y^Y^Y^Y^Y￣
gigazine.net/news/20200729-…
177
速報です！
OpenAIがついにChatGPTのAPI提供を開始しました！
openai.com/blog/introduci…
・既存のGPT(davinci等)の最大モデルより10倍「安く」(!!)使える
・GPTに入力したデータは今後，学習に使われてしまうことがなくなる
・ChatGPTで使用していたGPTのモデル/APIの名前は，GPT-3.5-Turbo
178
私、この組合せ爆発を解説した「数え上げお姉さん」の動画の存在を昨日教えてもらって初めて知ったんですが、界隈では結構有名だったんでしょうか…？ twitter.com/__tmats__/stat…
179
AlphaGoなどのAIが囲碁や将棋で人間を倒したあと，棋士たちは研究を重ねて，それ以前より遥かに強くなった
ChatGPTやGPT-4とかでも同じことが起きて，知能や人間の強みを考え直した結果，GPT以前の人と比べて根本的に考え方が異なるようになったりするかも（もはやニュータイプである）
180
OpenAIがChatGPTのiOSアプリを公開しました
apps.apple.com/app/openai-cha…
まずはUSユーザーに先行公開し，徐々に利用可能範囲を増やしていくとのこと
以前にOpenAIがiPhoneアプリ開発者の求人を出してたので，近いうちに出るのでは？と言われてましたが，ここにきて出してきました
181
強化学習な人の定番ジョークの,
・面倒なことはAIがやって俺たちはゲームで遊ぶ→×
・俺たちがAIの学習のために面倒なことをやってAIがゲームで遊ぶ→○
というやつが姿を変えて,
・単純労働はAIに任せて人間は知的な創作で自由に過ごす→×
・人間が単純労働をやってAIが創作を行う→○
になりつつある
182
IBMがAIで代替できそうな仕事については採用を停止したという報道
bloomberg.com/news/articles/…
数百人規模かと思いきや，7000人以上の規模らしくなかなか怖い話
183
イーロンはTwitterを手に入れた段階でTwitterが保持するツイートデータの塊をいかにお金に変えるか・・・と色々考えてたと思うんですが，ここにChatGPT/生成AIブームがやってきたのが最悪のシナジーを生んでいる気がする… twitter.com/i/web/status/1…
184
今までGoogleで働いていたGANの父Ian Goodfellowが，機械学習プロジェクトのディレクターとしてアップルに転職した模様
かつてOpenAIで働いていたときの収入は約9000万円だったらしいが，今はどうなっているやら
cnbc.com/2019/04/04/app…
185
解散してしまった創文社から出ていた、竹村先生の超名著『現代数理統計学』、新装改訂版として学術図書出版から９月に改めて発売されるようですね（内容も一部追加）
amazon.co.jp/dp/4780608600/…
元の本が絶版になり、Amazonとかで4万近くの値段がついて入手が困難になっていたため、嬉しいお知らせ
186
有名なファインマン先生の物理講義、講義の録音音声がWeb上で公開されたのか（なお、書籍のファインマン物理学はおすすめされたが途中で挫折）
feynmanlectures.caltech.edu/flptapes.html
結構な量があるのでリスニング練習にも使えそう（？）
187
Google BrainとDeepMindが一つになって「Google DeepMind」に
同じGoogle内のAI研究チームであるにも関わらず不仲説まであった両者が合体したところを見るに,GoogleはChatGPTなどの躍進に相当危機感を持っている模様
ラスボス戦で犬猿の仲の二人が共闘する漫画あるあるでは
blog.google/technology/ai/…
188
とんでもないことになってきました．GoogleのPaLM APIの公開に応戦するかのように，先週から公開が噂されていたGPT-4がOpenAIから先ほど公開されました！
openai.com/product/gpt-4
ChatGPTすら超える言語能力が示されており，さらに画像なども処理可能となったマルチモーダルなモデルのようです！
189
"やりたいことを好き勝手にやって、それが結果に結びついた。ラッキーでした"
破壊力のある言葉
AIの未来開拓、甘利俊一さん 文化勲章に「ラッキー」：朝日新聞デジタル asahi.com/articles/ASMBW…
190
Google→Google→Amazon→MS→Slack→Appleと毎日のように障害が発生して、次はFacebookでも落ちるのかと思ったら東京証券取引所で障害発生というオチだった twitter.com/nhk_news/statu…
191
ChatGPT，さすがにまだまだ甘いところがあるなぁと思って，色々試していたのですが，ふとかなり専門的な質問を投げてみると，ほとんど完璧な模範的な回答が返ってきたので，学習データの偏りがある気が・・・
192
イカが人間の子供の知能テストに合格したという話題
sciencealert.com/cuttlefish-can…
実はこれ去年も話題があり,強化学習の講義で触れようと思ってました
「長期的な利益を考慮した行動(餌を我慢すると後からその数倍貰える等)」がイカには可能らしく,強化学習の視点だと価値関数的なものを学習しているのでは
193
一応，「一時的な制限」としているが，いつまで続くのかは未定
ログインしないとツイートが見れないというのも致命的だったが，これはサービスの根幹を揺るがすレベル
194
Twitterの API制限に伴うツイートの取得上限を上げて，普通のアカウントは800，新規が400，課金アカウントは8000にするというイーロンの告知
ところで，英語で「五十歩百歩」や「焼け石に水」に相当する表現はあるんでしたっけ twitter.com/elonmusk/statu…
195
ツイッターの仕様変更，生成AI/大規模言語モデルの学習のエサとして大量のリクエストが飛んできてるのが背景かと思いきや，Twitter側のバグでTwitteからTwitter自身に大量のリクエストがループ的に投げられるバグが原因という説が
Twitter自身のやらかしで世界中に迷惑をかけている可能性... twitter.com/ImAI_Eruel/sta…
東京大学 工学系研究科 技術経営戦略学専攻 松尾研究室 @Matsuo_Lab / 人工知能を研究 強化学習，深層学習，マルチエージェント強化学習，生成AI，LLM，ゲームAI @UTokyo_News_en / 著書：『G検定公式テキスト 第2版』『AI白書』 / 翻訳書：『強化学習』/ 金沢出身