View profile

Weekly Machine Learning #121

Revue
 
News: arXivが寄付金を募集中です。日頃の感謝に、寄付をしておきましょう!(入力フォームが面倒ですがめげずに・・・)。Mozilaの公開したIodideは、Jupyter Notebookライク
 

piqcy

April 26 · Issue #122 · View online
All change is not growth, as all movement is not forward. Ellen Glasgow

News: arXivが寄付金を募集中です。日頃の感謝に、寄付をしておきましょう!(入力フォームが面倒ですがめげずに・・・)。Mozilaの公開したIodideは、Jupyter Notebookライクにドキュメントとコードを一体で書けるノートブックです(共有もできます)。JavaScriptが書けるため表現力が、LaTeXが書けるためドキュメントにおける数式の表現力が向上しています。
Articles: Generative Modeling for~はTransformerを画像や音声に適用する研究で、これによりTransformerの活用範囲がさらに広がりそうです。Transformerが広がる=BERT/GPTのようなTransformerベースのモデルも展開されると思われるので、こちらも要注目です。Introducing SuperGLUEは、言語理解のベンチマークであるGLUEを作り直そうというものです。GLUEが公開されたのがちょうど1年ぐらい前なので、1年でベンチマークがサチってしまったということを考えると発展の速さを感じます。Learn to Growは個人的に感心した研究で、モデルの転移も自動探索で行う時代かという印象です。
Resources: A Recipe for Training Neural Networksは一線の研究者であるAndrej Karpathy先生がNNを学習させるための心構えとテクニックについて書かれた記事で、とても参考になります。Annotation Surveyはアノテーションを効率化する手法について調べられた研究で、まとまった資料はとても珍しいと思います。モデルの自動構築・パラメーター探索が自動化される中、データを作る作業は最後まで残るためアノテーションをいかに行うかというテーマは今後重要性をますと思います。画像から描き方を生成する強化学習システムは、画像からブラシストロークを学習する研究を試した記事です。今回はArticlesでもブラシストローク生成を扱った研究を挙げているので、合わせて是非。
Seriesは、絶賛構築中であるため一週お休みします。

News
Donate to arXiv | arXiv e-print repository
Executive Education Launches New Artificial Intelligence Program | Stanford Graduate School of Business
長岡技術科学大学の自然言語処理研究室が2020/3でClose
自然言語処理研究室(長岡技術科学大学)
プロフィール欄にありますように、長岡技術科学大学自然言語処理研究室は2020年3月に閉鎖します。これは指導教員(@y8o)の退職に伴う措置です。これに伴って本アカウントも来年3月に削除、または凍結されますので予めご了承ください。あと1年ですが、引き続きどうぞよろしくお願いいたします。
5:17 PM - 22 Apr 2019
日本語の平易化などをはじめとして有名な研究室でしたが、残念です。。。
Farewell to “Watson For Drug Discovery” | In the Pipeline
MuseNet
Iodide
Articles
Generative Modeling with Sparse Transformers
[1904.08653] Fooling automated surveillance cameras: adversarial patches to attack person detection
Image Synthesis with a Convolutional Capsule Generative Adversarial Network | OpenReview
Introducing SuperGLUE: A New Hope Against Muppetkind
[1904.09408] Language Models with Transformers
[1903.10318] Fine-tune BERT for Extractive Summarization
[1902.09243] Pretraining-Based Natural Language Generation for Text Summarization
[1904.08779] SpecAugment: A Simple Data Augmentation Method for Automatic Speech Recognition
[1904.08410] Neural Painters: A learned differentiable constraint for generating brushstroke paintings
[1903.04411] Learning to Paint with Model-based Deep Reinforcement Learning
[1904.08980] Exploring the Limitations of Behavior Cloning for Autonomous Driving
[1904.00310] Learn to Grow: A Continual Structure Learning Framework for Overcoming Catastrophic Forgetting
Resources
A Recipe for Training Neural Networks
arXiv NG: incremental decoupling and search | arXiv.org blog
GitHub - qubvel/segmentation_models.pytorch: Segmentation models with pretrained backbones. PyTorch.
190412 Annotation Survey@関東CV勉強会
Beginner's Guide to Audio Data 2 | Kaggle
画像から描き方を生成する強化学習システムSPIRALの追実装 - Dwango Media Village(ドワンゴメディアヴィレッジ,dmv)
Kaggle創薬コンペにおけるDeep Learningの適用 - Technical Hedgehog
機械学習とのつきあいかた / How to get involved with Machine Learning @ Wantedly - Speaker Deck
Automated Machine Learning: how do teams work together on an AutoML project?
Python: scikit-learn の cross_val_predict() 関数で OOF な特徴量を作る - CUBE SUGAR CONTAINER
分析基盤トーク DAFT#2 開催レポート – nttlabs – Medium
Did you enjoy this issue?
 
Become a member for $5 per month
Don’t miss out on the other issues by piqcy
You can manage your subscription here
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue