View profile

Weekly Machine Learning #142

Revue
 
News: Uberから因果推論のライブラリが公開されました。これでA/Bテストの分析なども楽になるかもしれません。ScaleAIは、アノテーションをオンタイムで行ってくれるサービスです。機械学習モデ
 

piqcy

September 21 · Issue #143 · View online
All change is not growth, as all movement is not forward. Ellen Glasgow

News:
Uberから因果推論のライブラリが公開されました。これでA/Bテストの分析なども楽になるかもしれません。ScaleAIは、アノテーションをオンタイムで行ってくれるサービスです。機械学習モデルとアノテーションツールを組み合わせて、最小限の労力で人のチェックが入ったデータを提供しているようです。OpenAIの研究で使われていて知りました。
Articles:
自然言語処理では、BERT解析系と判断根拠特定系の論文が多かったです。精度が比較的容易に出せるようになると、こうした論文が多くなるのは必然なのかなという気がします。実際応用するにあたってはモデルの解析・判断根拠の特定はメンテナンスに有用な情報になるため、実応用に近づいている証拠と言えるかもしれません。Statistical and Machine Learning ~とAre We Really Making Much Progress~は、いずれも現在提案されている手法について疑義を投げかける論文です。研究が発表される量とアルゴリズムの進化は果たして比例しているのか?を考えさせられる研究です。
Resources:
AI competitions don’t produce~は、Articlesにつづきリーダーボード上の精度向上を目指す傾向に疑問を呈する記事です。Adversarial Exampleのまとめ記事はどちらもとてもよくまとまっています。画像と自然言語処理を合わせて動向を知ることができます。音声がないですが、音声のAdversarialも研究があります。スマートスピーカーが普及する昨今では見逃せない研究です。The Care and Feeding of Data Scientistsは、データサイエンティストの迎え方とマネジメントの仕方がまとめられたかなりニッチな本です。機械学習エンジニアにも適用できるノウハウがあるかも?sしれません。
Series:
現在作成している、ESG評価を支える自然言語処理基盤についてお話してきました。早く自然言語処理のステージに行きたいものです。

News
GitHub - uber/causalml: Uplift modeling and causal inference with machine learning algorithms
Scale AI: The Data Platform for AI
Articles
[1909.06500] Adversarial Attack on Skeleton-based Human Action Recognition
[1909.01066] Language Models as Knowledge Bases?
[1909.01380] The Bottom-up Evolution of Representations in the Transformer: A Study with Machine Translation and Language Modeling Objectives
[1909.04547] What do Deep Networks Like to Read?
[1909.05863] Finding Generalizable Evidence by Learning to Convince Q&A Models
Emergent Tool Use from Multi-Agent Interaction
[1909.04630] Meta-Learning with Implicit Gradients
Fine-Tuning GPT-2 from Human Preferences
Statistical and Machine Learning forecasting methods: Concerns and ways forward
[1907.06902] Are We Really Making Much Progress? A Worrying Analysis of Recent Neural Recommendation Approaches
Resources
Adversarial Examples 分野の動向 (敵対的サンプル発表資料)
私のブックマーク「言語処理分野におけるAdversarial Example」 – 人工知能学会 (The Japanese Society for Artificial Intelligence)
CNNの精度向上手法のモデルサイズによる効果の違いを調べてみた - 終末 A.I.
The boring technology behind a one-person Internet company
Gaussian Processes, not quite for dummies - Yuge Shi
自然言語文のアノテーションをHackした話 - Qiita
NLP/CV SoTA Survey Challenge #3 - 資料一覧 - connpass
AI competitions don’t produce useful models – Luke Oakden-Rayner
The Care and Feeding of Data Scientists
How to Build a Recommender Engine for Medical Research Papers
Series
ESG評価を支える自然言語処理基盤の構築
Did you enjoy this issue?
 
Become a member for $5 per month
Don’t miss out on the other issues by piqcy
You can manage your subscription here
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue