1
トランプ氏のTwitterアカウントが永久凍結されてしまったようなので、ここで改めて彼の良ツイートを共有しておこうと思う。
2
英語、「話せないと死ぬ」みたいな環境に身を置くのが一番上達する気がしていて、自分はアメリカでの博士課程で英語話せないのに授業を持つことになって、当然ながらあまり授業上手くできずアメリカ人にブチ切れられ、めっちゃ泣きながらも頑張った時期が一番英語が上達した気がしている。
3
三角関数不要論が話題になる度、高卒から34歳で高校数学をチャート式から始めて、今は40代半ばでアメリカのトップスクールの自然言語処理の博士課程にいるアイツを思い出してしまうので、高校で何を習うかなんて比較的些細な問題で、大切なのは学びを止めないことなんだと思ってしまったりするよね☺️
4
何かを始めるのに「遅すぎる」ということはそんなに無いというか、自分の周りでNLPで世界的に活躍してる人々は、28歳で数学が分からんと言って多変数関数の微分積分の授業とってたり、35歳でチャート式で数学勉強してたりなので、みんな年齢を言い訳にせずにどんどん挑戦してほしいという思いがある。
5
コロナの感染者数、割と「理論通り」の動きをしているにも関わらず、特に政治家の皆さんがある閾値を超えると突然慌て始めるのが全然理解できなくて、今の値ってここ数週間の動きを見れば理論的には大変尤もらしい値だし、人類に微分方程式の解への理解を求めるのは無理なのではという気がしている。
6
何をやるにしてもまずは知識を身につけることが重要で、その分野で有名な本はとりあえず「全部」読めと思うし、自分が「強い」と思う人々は大体それをやっているし、みんな全然本を読んでないのでそれをやっただけでも割と抜きん出た存在になれるという印象を持っている。
7
音楽業界、こういう人々を絶対に許しちゃいけないし、ちゃんと業界内で声をあげてほしいという思いがある。
#NAMIMONOGATARI
togetter.com/li/1766881
8
地位が高い人ほど自分で意思決定を行わなければならないので知識が必要だと思うのだけれども、多くの人はどこかの段階で知識の更新を止め、サンプル数の少ない「自身の経験」で知識不足を補い始める印象があり、そうならないように気をつけたいと思う今日この頃。
9
32歳高卒TOEFL14点で渡米し、高校数学から分からんのでチャート式から始めて、8年くらいかけてアメリカのトップスクールのCSの博士課程に入学した例のヤバい人、40代半ばで遂に博士とったらしいのだけれども、感想聞いてみたら「博士とっても何も分からんことだけ分かりました」で、最高にロック☺️
10
大学院時代、自分がすげえ頭が良いと思ってる複数の人々が「勉強しても使わなければすぐ忘れるので、使わないものは勉強しないことにしている」と言ってたのが割と印象に残っているし、少なくとも自分はそれは割と正しいと思っている。
11
自分が社会に出て驚いたこととして、「自信」というものが異常に重要視されるというのがあって、自信なんて普通に議論の正誤が判断できる人間からすれば何の価値も無いと思うのだけれども、自信を持って喋ると信用されるし、自信無さげな人は気持ち悪がられるし、何なんだこれはと思った記憶がある。
12
G○○gle、チームによって機械学習のレベルは全然違うし、何億回説明してもテストデータを学習データにリークさせるようなチームもあって機械学習ちゃんとやってきた新入社員にブチ切れられたりもするので、「G○○gleの機械学習」として一纏めにするのは大変良くないという思いが強い☺️
13
日本、医療AIなんかやるよりもまずは電子カルテの規格を標準化したり使いやすくする方が遥かに重要かつ有益なのではないかということに最近気づき始めてる☺
14
自分は機械学習を学びたい全ての人類に（CourseraのAndrew Ngのコースをやった後に）Andrew NgのStanfordのCS229の講義を見ることをオススメしてるんですけど、その講義の2018年度バージョンが公開されてる。自分が今まで見た機械学習の講義の中で最も良いものだと思う。 youtube.com/playlist?list=…
15
ニューヨーク大学データサイエンス学科による「機械学習に必要な数学」の講義が一般公開されている。自分は「機械学習やりたいんですが、数学は何をやればいいですか？」というのをよく聞かれ、かつ回答に困るのだけれども、これからはこれをすすめていきたい☺
cds.nyu.edu/math-tools/
16
基礎を復習するのに遅すぎるというのは無い気がしていて、自分の修士時代の数学科卒のクラスメイトは修士なのに学部レベルの多変数関数の微分積分の授業とってたのだけれども、そいつは今はMITで助教やってるので、恥ずかしがらずに分からなかったら基礎に立ち返るのが大事だと思っている。
17
「コンサルって人にアドバイスする仕事ですよね？何で大学出たばっかりの人がやってるんですか？」って聞かれて、「マジ何でやろうな☺」と答えたのが今日のハイライト。
18
プロンプトエンジニアリング、訳の分からん人のポエムよりも公式の話を聞いた方が良いと思うので、公式のベストプラクティス集を貼っておく。ちょっと古いけど未だに有用そうなテクニックが多いのと、community forumのリンクもついてるので、それ見ると捗りそう。 help.openai.com/en/articles/66…
19
「研究チームの皆さんってどんなことやってるんですか？」と日本の企業の人に聞くと「最新の論文読んで勉強してます！」と言われることが多いのだけれども、それは研究じゃねえ新しいものを作れ論文出せ、あと紛らわしいから「研究チーム」じゃなくて「勉強チーム」と呼んでほしいという思いがある。
20
最近、機械学習を独学できてない人に結構な数遭遇しているので、おすすめの勉強法を紹介（定期）しておくのだけれども、
1. CourseraのMachine Learningの講座 coursera.org/specialization…
2. StanfordのCS229 youtube.com/playlist?list=…
の2つはMLエンジニアになりたければ何が何でもやるべきだと思う。
21
理論物理みたいなめっちゃ頭の良さが効いてきそうな分野ですら、実際はちゃんと手を動かして試行錯誤する人がいい結果を出すような傾向があった気がしていて、いわんや他の分野をやという気がするので、「賢い人間」になるな、「手を動かして試行錯誤できる人間」になれという思いがある。
22
「ギフテッド」というのが話題になってて、ワイ割と「天才」に囲まれて育ったので書くんですけど、こういう人々は
1. 何かをやると決めた時のものすごい集中力
2. 興味がある分野への圧倒的に深い理解
3. 頭の中で考えるだけで終わらせずちゃんと手を動かす
という点で共通してる印象はある。
23
ChatGPTで実サービスを作ろうとしてみての現時点での感想：
- 0→80%を作るのは楽
- 80%以上を目指すなら専門性（ML＆ドメイン＆プロダクト）が必要
- モデルを評価する仕事は絶対に無くならない
- 3.5と4は結構違う
- 過度なプロンプトエンジニアリングはそのうち不要になる
- 人はやがて死ぬ
24
優秀なエンジニア、社内の禁止事項が一つ増えるたびに採用できる確率が半減し、離職する確率が倍になるということを皆さんもうちょっと認識してほしい☺
25
これミスリーディングというか、赤の破線はランダムな予測の精度なので「飽和していた精度が突然上がり始めた」という話ではなく、「データとモデルサイズを増やしたらある時点でランダムでない出力を出すようになった」という話。難しいタスクやる時の学習は大体こんな感じな気がする。 twitter.com/takuyakitagawa…
カミングフレーバー／チームS／9期／D3／自由人担当⚾
生成AIに興味があります☺
お仕事の相談や生成AIの話聞きたいみたいなやつはDMにお願いします。