View profile

Weekly Machine Learning #98

Revue
 
News: 産総研xSONYで最速のImageNet学習、また物体認識のコンテストが開催など、日本発の明るいニュースが出てきました。ML.NETは後発のフレームワークということもあり、実用を見据えた良い
 

piqcy

November 16 · Issue #98 · View online
All change is not growth, as all movement is not forward. Ellen Glasgow

News: 産総研xSONYで最速のImageNet学習、また物体認識のコンテストが開催など、日本発の明るいニュースが出てきました。ML.NETは後発のフレームワークということもあり、実用を見据えた良い作りになっていると感じます(イメージ的にはscikit-learnとAllenNLPのいいところ取りをした感じです)。ネットワークを可視化できるtensorspaceはその見た目に驚かされます。単に面白いだけのツールではなく、UIもなかなか練られています。
Articles: Applying Deep Learning~はAibnbでのニューラルネットワークへの適用検証で、Deepとはいえ2層であり、そのシンプルなモデルで効果を出すまでの過程、また失敗した箇所にも触れられていてとても良いです。Measuring the Effects ~とPitfalls of Graph Neural~はいずれも学習方法による影響を調べたもので、特にGNNをやっている身としては参考になりました。Differentiable Monte Carlo~は画像のレンダリング処理を微分可能にするというもので、テーマ的にかなり面白い研究でした。
Resources: Kaggle GrandMaster達による講座は必見です。BigGANのデモはよくできていて、研究だけでなくアート方面への応用にも使えそうです。コンテナに関する資料はとてもよくまとめられており、機械学習でDockerを使いたいけどよくわからない、という時にはとてもよい資料です。セキュリティと医療に特化した機械学習を学ぶコンテンツを紹介しています。こうして、いろいろなドメインで「どう使えばいいか」というガイドが出てくるのは普及においてとても重要だと思います。
Series: Graph Attention Networkの実装は最終回です。Graphに対するAttentionのかけ方について、どういう手法が有効かを検証しました。次は実際自然言語処理に使ってみる予定です。

News
産総研:AI向けクラウド型計算システム「ABCI」が深層学習の学習速度で世界最速に
第1回「AIエッジコンテスト」を開催します (METI/経済産業省)
Blog - Salesforce Research: Celebrating the Inaugural Salesforce Research Deep Learning Grant Winners
Pommerman
機械が作った音楽は人の心を動かすか 「AIで自動作曲」研究するワケ (1/4) - ITmedia NEWS
Announcing ML.NET 0.7 (Machine Learning .NET) | .NET Blog
Magenta Studio
コーディングをAIが支援してくれる「Visual Studio IntelliCode」、Javaに対応。GitHubにあるコードを機械学習 - Publickey
GitHub - tensorspace-team/tensorspace: Neural network 3D visualization framework
💫 Add experimental ULMFit/BERT/Elmo-like pretraining by honnibal · Pull Request #2931 · explosion/spaCy · GitHub
Articles
[1810.09591] Applying Deep Learning To Airbnb Search
[1811.03600] Measuring the Effects of Data Parallelism on Neural Network Training
[1811.05868v1] Pitfalls of Graph Neural Network Evaluation
[1804.07781] Pathologies of Neural Models Make Interpretations Difficult
[1811.05013] Blindfold Baselines for Embodied QA
[1705.07386] DeepMasterPrints: Generating MasterPrints for Dictionary Attacks via Latent Variable Evolution
Differentiable Monte Carlo Ray Tracing through Edge Sampling
Universal Language Model Fine-tuning for Text Classification
Resources
How to Win a Data Science Competition: Learn from Top Kagglers
BigGAN Demo
コンテナ未経験新人が学ぶコンテナ技術入門
Introduction to Amazon SageMaker Object2Vec  | AWS Machine Learning Blog
Towards Open-domain Generation of Programs from Natural Language
Joint Models for NLP
GitHub - facebookresearch/Horizon: A platform for Applied Reinforcement Learning (Applied RL)
Introducing FBLearner Flow: Facebook's AI backbone - Facebook Code
Bighead: Airbnb’s End-to-End Machine Learning Platform
BERTの学習済みモデルを使ってみる | NHN テコラス Tech Blog | AWS、機械学習、IoTなどの技術ブログ
Python: 特徴量の重要度を Permutation Importance で計測する - CUBE SUGAR CONTAINER
machine_learning_security
メディカルAIコース オンライン講義資料 — メディカルAIコース オンライン講義資料
GitHub - masa-su/pixyz: a library for developing deep generative models in a more concise, intuitive and extendable way
Open Data Zürich - Stadt Zürich
Series
Graph Attention Network Layerを実装する Part3 – programming-soda – Medium
Did you enjoy this issue?
 
Become a member for $5 per month
Don’t miss out on the other issues by piqcy
You can manage your subscription here
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue