View profile

Weekly Machine Learning #250

Weekly Machine Learning #250
By piqcy • Issue #251 • View online
News:
Kaggleが機械学習エンジニア・データサイエンティスト向けにとっていたアンケートが公開されました。各国ごと・・・というか、USか否かで結構回答内容に差があるのは興味深いです。プログラマーがデータサイエンスを始めるルートが、先進国?では多いのかもしれないですね。View2021は産業応用についてたくさん事例が聞けるチャンス!と思います。
Articles:
事前学習済み言語モデルを利用した教師なし翻訳は興味深いです。翻訳以外のタスクでも教師なし学習が広まるかもしれませんね。分類はもとより、QAや要約などはターゲットになりそうです。Super GLUEでも人間のスコアを超えてしまっているので、今後は新しいタスクや教師なし、また省モデル化が主要な流れになると予測しています。
Resources:
GoogleのBaselinesはあり難いですね。強化学習でもStable Baselineがありますが、堅いベースラインが整備されることは研究だけでなく産業応用でも意義があると思います。野生の実装やブログから引用されたコードが現場で息づいていることは結構あると思うので・・・。Sustainable AIとMicrosoft x NVIDIAの5300億パラメーターの記事を並べています。個人的にはAI研究の格差やインパクトは真剣に取り組む課題と考えています。ただ、だからと言って大規模モデルの研究を批判するのは違うかなと思います。

News
State of AI Report 2021
ViEW 2021
ChangeLog · opencv/opencv Wiki · GitHub
Articles
Resources
Google AI Blog: Baselines for Uncertainty and Robustness in Deep Learning
The Imperative for Sustainable AI Systems
Using DeepSpeed and Megatron to Train Megatron-Turing NLG 530B, the World’s Largest and Most Powerful Generative Language Model - Microsoft Research
Listeners
先週はGartnerのハイプサイクルが1位でした。トレンド系の記事は注目度が高いですね。今週だと、State of AI Reportが伸びるかも。ICCVの参加フォームに31click、RecSys勉強会に29clickがありました。学びのチャンスにつながっていれば幸いです。
  1. The 4 Trends That Prevail on the Gartner Hype Cycle for AI, 2021 (126click, ctr:7.5%)
  2. Operationalizing machine learning in processes (94click, ctr:5.6%)
  3. Patches Are All You Need?(78click, ctr4.7%)
先週実施したアンケートの結果が出ました。
他社へのコンサルが33.7%、組織長や役員が27.4%、チームマネージャーが23.2%、チームメンバーが15.8%という結果でした(投票数は95票)。結果より、機械学習の導入には上位役職者への説明が欠かせない印象です。会社によると思いますが、機械学習の期待値コントロールが難しそうですね。過度ではいけないし、小さすぎても投資する意味がなくなってしまうという。
アンケートについての感想や所感などあれば、ぜひお便りでお願いします。
Twitterハッシュタグ: #weeklyml
Weekly Machine Learningは機械学習の開発者・研究者を応援するメディアを目指しています。掲載してほしいイベントや論文があればぜひご連絡ください!
Did you enjoy this issue?
piqcy
By piqcy

make machine learning engineer and researcher more cheerful

In order to unsubscribe, click here.
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue