View profile

Weekly Machine Learning #144

Revue
 
News: TensorFlow 2.0がとうとう発表されました!正直で遅れてしまった感は否めませんが、これからどれぐらい普及するのかが勝負になってくると思います。Rettyがデータの提供を始めたのはと
 

piqcy

October 4 · Issue #145 · View online
All change is not growth, as all movement is not forward. Ellen Glasgow

News:
TensorFlow 2.0がとうとう発表されました!正直で遅れてしまった感は否めませんが、これからどれぐらい普及するのかが勝負になってくると思います。Rettyがデータの提供を始めたのはとても良い試みだと思います。機械学習で何かやろうとしたとき最初に直面するのがデータの問題ですが、そこが(有料にせよ)クリアできるようになる意義は大きいと思います。量子コンピューターでの深層強化学習応用は、かなりハイエンドな組み合わせと感じました。強化学習の応用が広まるのは何にせようれしいです。
Articles:
ICLR2020のオープンレビューが始まったこともあり、今週は本数が多かったです。 Large-scale Pretrainingを見ると、モデルの存在意義とは・・・と感じさせられます。今後は精度というよりスケーラビリティを持つモデルの方が重要になるかもしれません(Sutton先生もそんな話をしていたような)。Neural Text Generation with~は、言われてみれば、と感じる良い研究だと思います。私が観測する範囲では全体として小粒の改善が多かったなという印象です。今後も定期的な事前学習済みモデルのブレイクスルーがあるとするなら、MetaPruningのように蒸留手法の方が重要になってくるのかもしれません(事前学習済みモデルを差し替えるだけですぐにダウンサイズ/高速化できる的な)。
Resources:
視覚からの触覚特性の推定はとても面白い研究と思います。データセットも公開されていますが、私が知る限り初めてではないかと思います。先日日立が工場内の異常音のデータセットを公開しましたが、こうして実用よりのデータセットが公開されていくことはとても意義があると思います。機械学習プロジェクト向けPipelineは、MLOpsの難しさを感じさせられる記事です。個人的には、単一のベストプラクティスがある世界ではないような気がしています(使用人数規模や目的によって構成が変わる)。セキュリティX機械学習の連載が更新されました。NVDは監査をするときはなじみ深いので面白かったです。
Series:
2019年前半気になった論文を発表しました。今後は、タスクやモデルの意義をしっかりと検証することが重要になると感じています。AutoMLとAuto Pruningを回しておいて見つかったモデルで論文を書くという味気ない未来像から抜けていくには、本質的な問いを見失わないようにする必要があると感じています。

News
Release TensorFlow 2.0.0 · tensorflow/tensorflow · GitHub
Retty、食領域のビックデータ連携基盤「Food Data Platform」--連携の第一弾は出光興産 - CNET Japan
NEC、米国国立機関による顔認証の精度評価で第1位を獲得 (2019年10月3日): プレスリリース | NEC
How to respond to climate change, if you are an algorithm - Guest comment: Art Intell
Google AI Blog: Improving Quantum Computation with Classical Machine Learning
Articles
Large-scale Pretraining for Neural Machine Translation with Tens of Billions of Sentence Pairs | OpenReview
[1909.10056] Inducing Constituency Trees through Neural Machine Translation
[1909.11974] Read, Attend and Comment: A Deep Architecture for Automatic News Comment Generation
[1908.04319] Neural Text Generation with Unlikelihood Training
Compressive Transformers for Long-Range Sequence Modelling | OpenReview
[1909.11646] High Fidelity Speech Synthesis with Adversarial Networks
[1909.12200] A Framework for Data-Driven Robotics
[1909.13072] Regression Planning Networks
[1903.10258] MetaPruning: Meta Learning for Automatic Neural Network Channel Pruning
Resources
視覚からの触覚特性の推定 (ICRA2019 Best Conference Paper Award Finalist) | Preferred Research
機械学習を用いた3次元データ認識について - Speaker Deck
The Paths Perspective on Value Learning
スタートアップでAIを使うときの壁 - Speaker Deck
機械学習プロジェクト向けPipelineライブラリgokartを用いた開発と運用 - エムスリーテックブログ
ElasticsearchとBERTを組み合わせて類似文書検索 - Ahogrammer
machine_learning_security/Chap5_VulnerabilityTrend.md at master · 13o-bbr-bbq/machine_learning_security · GitHub
Series
arXivTimes Review: 2019年前半で印象に残った論文を振り返る
Did you enjoy this issue?
 
Become a member for $5 per month
Don’t miss out on the other issues by piqcy
You can manage your subscription here
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue