View profile

Weekly Machine Learning #56

News: PyTorchが一周年記念を迎えました。よく一年でここまで・・・と感じます。研究で使われているのはもちろん、PyTorchベースのツールなども増えてきました。東大のDNN講座のコンテンツが公


January 26 · Issue #56 · View online
All change is not growth, as all movement is not forward. Ellen Glasgow

News: PyTorchが一周年記念を迎えました。よく一年でここまで・・・と感じます。研究で使われているのはもちろん、PyTorchベースのツールなども増えてきました。東大のDNN講座のコンテンツが公開されました。今後、CN231N等のようにより多くのコンテンツが公開されるとよいと思います。
Articles: Fine-tuned Language Models~は言語モデルを利用した文書分類の転移学習の話で、NLPでも転移学習を行う手法の研究が進んでいます。ちなみに、以前Salesforceから出た"Learned in Translation: Contextualized Word Vectors“は翻訳モデルのEncoderを活用する話でした。どんなモデルが転移に有効かは、まだ研究の余地がありそうです。MaskGANはGANを利用した文生成でそれ自体に特別大きな工夫があるわけではありませんが、生成されたテキストの評価に一石を投じる内容になっています。
Resources: Facebookから矢継ぎ早にソフトウェアが公開されました。物体検知を行うDetectronは、アプリケーションへの組み込みもできそうです。KerasのYOLOv2も登場しており、物体検知はもうカジュアルに活用できるフェーズに移りつつあることを感じます。DeepLeagueは、ちょうど物体検知をゲームキャラクターの検出に使用した話になります。

PyTorch, a year in....
Deep Learning基礎講座演習コンテンツ 公開ページ | U-Tokyo Matsuo Lab
[1801.06146] Fine-tuned Language Models for Text Classification
[1801.06503] Global overview of Imitation Learning
[1711.05226v1] Interpretable R-CNN
[1712.06567] Deep Neuroevolution: Genetic Algorithms Are a Competitive Alternative for Training Deep Neural Networks for Reinforcement Learning
[1801.07736] MaskGAN: Better Text Generation via Filling in the ______
DroNet: Learning to Fly by Driving
8 Deep Learning Best Practices I Learned About in 2017
GitHub - facebookresearch/Detectron: FAIR's research platform for object detection research, implementing popular algorithms like Mask R-CNN and RetinaNet.
Enabling full body AR with Mask R-CNN2Go – Facebook Research
GitHub - facebookresearch/poincare-embeddings: PyTorch implementation of the NIPS-17 paper "Poincaré Embeddings for Learning Hierarchical Representations"
GitHub - allanzelener/YAD2K: YAD2K: Yet Another Darknet 2 Keras
Recurrent Neural Networks for Drawing Classification  |  TensorFlow
DeepLeague: leveraging computer vision and deep learning on the League of Legends mini map + giving…
Audio processing in TensorFlow – Towards Data Science
Kaggle Gym API Overview
Kaggle: Your Home for Data Science
Did you enjoy this issue?
Become a member for $5 per month
Don’t miss out on the other issues by piqcy
You can manage your subscription here
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue