View profile

Weekly Machine Learning #115

Revue
 
News: OpenAIが、キャップ付きではありますが利益を上げる団体へと移行しました(一応非営利の部分は残る)。機械学習に必要な計算資源も高額になってきているので、資金調達を行うのは仕方がないかなとい
 

piqcy

March 16 · Issue #116 · View online
All change is not growth, as all movement is not forward. Ellen Glasgow

News: OpenAIが、キャップ付きではありますが利益を上げる団体へと移行しました(一応非営利の部分は残る)。機械学習に必要な計算資源も高額になってきているので、資金調達を行うのは仕方がないかなという気もします。持続可能、かつ特定企業の独占的な支配とならない形での研究開発、という難しいテーマにチャレンジしていると思います。そして、Apache BEAMが待望のPython3サポート!まちわびた。
Articles: Attention=説明ではないのでは?とするAttention is not Explanationは結構インパクトのある論文だと思います。もう少し深く読み込みたいです。State-Covering Self-Supervisedは報酬関数を推定する逆強化学習(Max Entropy)に近い手法ですが、論文中ではロボットのマニピュレーションタスクでこれを行っており、報酬推定も結構実用的なところに来ているんだなと感じます。Generative Graph~はこういう論文でないかな、と思っていたものが出たという感じでありがとうございますという感じです。
Resources: 今週はクジラコンペにファッションコーディネート、推薦にアノテーションなど実際のタスクに機械学習の手法を応用する資料が多くありました。特にアノテーションについては、これまできちんとプロジェクトで進めるような手法について書いた資料があまりなく、貴重だと思います。Handtrack.jsは個人的に注目のライブラリで、こういうことができるようになるとパソコン=キーボードでの入力、という前提がどんどん崩れてくるのかなという気がします。
Series: 今週はAirflowを実際に使ってみました。Airflowのチュートリアル的な記事となっております。

News
OpenAI LP
The Bitter Lesson
Update Python 3 support roadmap. by tvalentyn · Pull Request #8030 · apache/beam · GitHub
千葉工業大学、ディープラーニングのための世界最大の動画キャプションデータセット「STAIR Actions キャプションデータセット」を開発|千葉工業大学のプレスリリース
Articles
[1902.10186] Attention is not Explanation
[1903.05987] To Tune or Not to Tune? Adapting Pretrained Representations to Diverse Tasks
[1903.02930] Neural Language Modeling with Visual Features
State-Covering Self-Supervised
[1903.04128] Manipulation by Feel: Touch-Based Control with Deep Predictive Models
[1903.02640] Generative Graph Convolutional Network for Growing Graphs
[1903.03088] Self-Tuning Networks: Bilevel Optimization of Hyperparameters using Structured Best-Response Functions
[1903.01689] Domain Adaptation with Asymmetrically-Relaxed Distribution Alignment
A Mean Field Theory of Batch Normalization | OpenReview
平易なコーパスを用いないテキスト平易化/スタイル変換のための折り返し翻訳に基づく事前学習
Resources
Humpback whale identification challenge反省会
Set Transformerによるファッションコーディネート選択 / Set Transformer for Coordinating Outfits - Speaker Deck
Graphの推薦システムへの応用 - Speaker Deck
数百万件を超えるアノテーション実績から伝える、アノテーションマネージメントの重要性とそのノウハウ - Speaker Deck
これからの Vision & Language ~ Acadexit した4つの理由
Visual SLAM概観
The Promise of Hierarchical Reinforcement Learning
Variational Autoencoders with Tensorflow Probability Layers
Cloud AI helps you train and serve TensorFlow TFX pipelines seamlessly and at scale | Google Cloud Blog
Variational Auto Encoder入門 - Speaker Deck
Future of Natural Language Processing with Deep Learning (NLP/DL)
『Prestoとは何か,Prestoで何ができるか』 - Arm Treasure Data
2019年のAkufen ー Deep Learningを用いたマイクロサンプリングと音楽制作 – Nao Tokui (Qosmo) – Medium
Handtrack.js: Hand Tracking Interactions in the Browser using Tensorflow.js and 3 lines of code.
GitHub - rusty1s/pytorch_geometric: Geometric Deep Learning Extension Library for PyTorch
Series
Apache Airflowでエンドユーザーのための機械学習パイプラインを構築する Part2 – programming-soda – Medium
Did you enjoy this issue?
 
Become a member for $5 per month
Don’t miss out on the other issues by piqcy
You can manage your subscription here
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue