View profile

Weekly Machine Learning #230

Weekly Machine Learning #230
By piqcy • Issue #231 • View online
News:
Microsoftからテキストをソースコードに変換する機能がリリースされました。Open AIから独占ライセンスを獲得したGPT-3が使用されています。自然言語処理のプロダクト応用としてはかなりエポックメイキングな出来事ではないかと思います。上手いなと思ったのは、指示を与えるテキスト側にも入力補完を入れている点です。モデルが上手く動作するよう人間が調整する、という仕掛けは自然言語処理の活用に不可欠だと感じます(翻訳されやすいようテキストを書くなど)。Googleは手話の認識を行うプロジェクトに参画しています。GAFAという枠組みだと、Amazonからはあまりこうした活動を見ないですね。
Articles:
DeepMindから発表された強化学習の研究を掲載しています。連続値制御と長期のプランニングとマルチエージェントを全部やるというチャレンジングな研究です。最初は模倣学習で制御を、次に獲得したPolicyをベースに長期を、最後に複数環境での同時学習(Population Learning)を使用しているようです。サッカーの環境を使用していますが人間のプレイヤー同士の対戦に見えるのは驚きです。
Resources:
ドライブレコーダーを使用した地図のメンテナンスは興味深いです。地図以外にも、道路や橋梁といったインフラのメンテナンスに使えるとよいなと感じます(オブジェクト位置の推定という本研究にはあまり関わりないですが、ドライブレコードx機械学習の文脈で)。Transformerを超える全結合層と話題のgMLPの実装を紹介しています。今後の似たモデルの登場、性能や性質の検証を注視しています。
Listeners:
今回はNewsが多かったので、Newsについて感じたことなど感想頂ければうれしいです。Weekly Machine Learningは機械学習の開発者・研究者を応援するメディアを目指しています。活動(掲載記事のキュレーションや記事執筆)に興味がある方がいたらぜひご連絡いただければと思います。
Twitterハッシュタグ: #weeklyml

News
グーグルが手話認識技術を開発、日本財団らが手話とろう者への理解促進を目指した手話学習オンラインゲームをベータ公開 | TechCrunch Japan
Dynaboard: Moving beyond accuracy to holistic model evaluation in NLP
AndroidEnv: The Android Learning Environment | DeepMind
Lightning Flash 0.3 — New Tasks, Visualization Tools, Data Pipeline, and Flash Registry API | by PyTorch Lightning team | May, 2021 | Medium
PRMU 研究メンターシッププログラム x cvpaper.challenge 研究メンバー 参加募集
Articles
学習後のサッカープレイが見られる公式動画
学習後のサッカープレイが見られる公式動画
Resources
ドラレコ映像を使った地図メンテナンスを支えるコンピュータビジョン技術 | MoT Lab (Mobility Technologies Engineering Blog)
GitHub - lucidrains/g-mlp-pytorch: Implementation of gMLP, an all-MLP replacement for Transformers, in Pytorch
K-fold Cross Validationの理論的優位性について - Ridge-institute R&D Blog
Listeners
先週は開封率がちょっと少なかったです(平均52% vs 49%)。Vertex AIは注目のサービスですね。 まだ使ってみた!という記事は見当たらないので試してみた方がいたらぜひ掲載させていただきたいのでお便り頂ければと思います。Pay Attention~は、100click行きましたね。論文で100行くのはなかなかないので、注目度の高さがうかがえます。
  1. AIの開発や本番環境への導入が少ないコードで簡単にできる「Vertex AI」がGoogle Cloudで一般提供開始、実際に使ってみた (156 click)
  2. Pay Attention to MLPs (100 click)
  3. Googleが自然な会話を実現する対話特化型AI「LaMDA」を発表、LaMDAが冥王星や紙飛行機になりきって会話するデモも公開 (66 click)
Did you enjoy this issue?
Become a member for $5 per month
Don’t miss out on the other issues by piqcy
piqcy
By piqcy

make machine learning engineer and researcher more cheerful

You can manage your subscription here.
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue