View profile

Weekly Machine Learning #128

Revue
 
News: TensorFlow 2.0のβが公開されました。APIはほぼFIXのようなので、この段階で慣れておいてもよいかと思います。一方、PyTorchはHubを公開。TensorFlow Hubに
 

piqcy

June 15 · Issue #129 · View online
All change is not growth, as all movement is not forward. Ellen Glasgow

News: TensorFlow 2.0のβが公開されました。APIはほぼFIXのようなので、この段階で慣れておいてもよいかと思います。一方、PyTorchはHubを公開。TensorFlow Hubに相当する機能ですが、よりコミュニティドリブンな印象です。Stanfordの事例は、「効果」の測り方がとても興味深いです。医療だけでなく、Human Augmentationとして機械学習を使う場合は非常に参考になる事例だと思います。
Articles: SelfieはNLP X CVのミックス研究という印象で、学際色が強いです。DNNという一つの手法が様々な分野で使われることは、異分野の交流を加速しているように思います。そうした意味では、手法だけではないインパクトを及ぼしているのかもしれません。Visualizing~は、最近発表の多いBERT解析系の論文です。3つ点があると顔に見える、というのはよく言われますが、「見方」に気を付けないと「ある」と思い込んでしまうのかなという気がします。BERTが学習している/していないの判断はもうちょい慎重な判断が必要と感じます。Weight Agnostic~はとても面白い研究で、重み(学習方法)と構造、どっちが大事?という議論を呼びそうです。
Resources: AlphaStarの解説は、決定版というくらい良くまとまっています。マルチエージェントに興味がある方は、その出発点としてもよいと思います。Railyard/How to Deploy~は機械学習モデルの運用、testing statistical~はテストに関する記事です。あまり真新しいところはないですが、こうした運用よりの話が増えてきたのは技術としての浸透を感じます。Cross-Lingual Word Embeddings~は、ずいぶん特化した本が発売されたなという印象です。こうした本を見ると、情報格差というのをやっぱり感じるところです。

News
Announcing TensorFlow 2.0 Beta – TensorFlow – Medium
Towards Reproducible Research with PyTorch Hub | PyTorch
GitHub - google-research/football
Stanford researchers develop artificial intelligence tool to help detect brain aneurysms
NAACL 2019 Highlights
Semantic Sanity by Semantic Scholar
Google Developers ML Summit Tokyo 2019 - カンファレンス
Articles
[1906.02940] Selfie: Self-supervised Pretraining for Image Embedding
Disentangling Disentanglement in Variational Autoencoders
Robustness beyond Security: Computer Vision Applications – gradient science
[1906.04876] Visual Relationships as Functions: Enabling Few-Shot Scene Graph Prediction
[1906.02715] Visualizing and Measuring the Geometry of BERT
[1906.02916] Multi-hop Reading Comprehension through Question Decomposition and Rescoring
[1905.09418] Analyzing Multi-Head Self-Attention: Specialized Heads Do the Heavy Lifting, the Rest Can Be Pruned
[1904.09482] Improving Multi-Task Deep Neural Networks via Knowledge Distillation for Natural Language Understanding
[1906.03926] A Survey of Reinforcement Learning Informed by Natural Language
[1906.03402] Effective Use of Variational Embedding Capacity in Expressive End-to-End Speech Synthesis
[1906.05218] Monotonic Infinite Lookback Attention for Simultaneous Machine Translation
[1905.05393] Population Based Augmentation: Efficient Learning of Augmentation Policy Schedules
[1906.03352v1] Watch, Try, Learn: Meta-Learning from Demonstrations and Reward
Weight Agnostic Neural Networks
Adaptive Neural Trees
[1906.05433] Tackling Climate Change with Machine Learning
Resources
[DL輪読会]AlphaStarとその関連技術
ICASSP2019音声&音響論文読み会 「ICASSP2019における音声認識の最新技術動向」#yjtc #icassp2019jp
自然言語処理研究の最前線 ー海外でのビジネス事例6選ー | 人工知能ニュースメディア AINOW
Railyard: how we rapidly train machine learning models with Kubernetes
How to Deploy Machine Learning Models
aleatoric - testing statistical software
[2019年度版]ドラッグ&ドロップで機械学習のモデルがつくれる「Create ML」の使い方(macOS 10.15 Catalina) #WWDC19 - その後のその後
A Transformer Chatbot Tutorial with TensorFlow 2.0 – TensorFlow – Medium
Cross-Lingual Word Embeddings | Synthesis Lectures on Human Language Technologies
GitHub - keio-ytlab/study_group_of_model-based_rl
Stanford Team Aims at Alexa and Siri With a Privacy-Minded Alternative - The New York Times
ニューラル言語モデルの研究動向(NL研招待講演資料) - Speaker Deck
What is HowTo100M ?
RUNN
Did you enjoy this issue?
 
Become a member for $5 per month
Don’t miss out on the other issues by piqcy
You can manage your subscription here
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue