View profile

Weekly Machine Learning #105

Revue
 
News: CVPRの完全読破を行っているcvpaper.challengeに続き、ACLの完全読破を目指すnlpaper.challengeが発足しました。連携したイベントなども行っていくようで、分野
 

piqcy

January 5 · Issue #106 · View online
All change is not growth, as all movement is not forward. Ellen Glasgow

News: CVPRの完全読破を行っているcvpaper.challengeに続き、ACLの完全読破を目指すnlpaper.challengeが発足しました。連携したイベントなども行っていくようで、分野間をまたいだ研究が活発になればと思います。arXivTimesの活動も、なんらかの形でかかわれればなと思います。OSSの開発支援を行っているNumFOCUSが募金を行っています。普段お世話になっている方は、ぜひNumFOCUSにお年玉をあげよう!
Articles: Hyperbolic Deep Learning~は埋め込み空間を双曲空間にした研究です。中国語と日本語は共通点が多いため、中国語の文字ベースでいい精度が出たということは日本語でも・・・という期待が持てます。Looking for ELMo’s~は、自然言語処理で有用な事前学習を調べた研究です。つい最近まで「自然言語処理での転移学習は難しい」と言っていた気がするのですが、隔世の感があります。CoVeが出たのが2017/8でQ&A以外はあまりぱっとせず(モデルもちょっと複雑だった)、2018/1のULMFiTは効果があるもののチューニングちょっと大変だなという印象で、2018/2のELMoでヒットという感じです。CoVeとELMoの間は半年ほどしかないので、ちょっとすごいスピードです。しかもELMoは公開されていて誰でも使えるという。なお、昔のNLPの転移についてはこちらによくまとまっています。
Resouces: 年末年始のためか、良い教材が多く目につきました。Seeing Theoryは、これから確率/統計を学びたい方にはお勧めのコンテンツです。ビジュアライズを駆使した解説が行われており、とても分かりやすいです。また、プログラマーのための確率統計はJupyterで試しながら学べるコンテンツです。このほか、Gaussian Processes、BerkeleyのAIコース、NLPにおけるDNN系の手法のまとめなど、良いコンテンツがたくさんあります。
Series: アドヴェントカレンダーの宿題である、音楽フェスにおけるタイムテーブル予測に挑戦しました。出演は行けたのですが、やはりタイムテーブルを当てるのはちょっと難しそうです。そして、去年の活動のまとめと今年の抱負を。今年は、より多くの人がアプリ開発/研究開発で「食べていける」ための手段を確立していこうと思います。

News
nlpaper.challenge NLP/CV交流勉強会 (2019/01/19 13:00〜)
Nonprofit Fundraising - Engage your community. Fund your cause
AIでRCカーを走らせよう! ハンズオン&走行会&見学会 | Peatix
Overlooked No More: Karen Sparck Jones, Who Established the Basis for Search Engines - The New York Times
Articles
[1812.03982] SlowFast Networks for Video Recognition
[1812.10408] Hyperbolic Deep Learning for Chinese Natural Language Understanding
[1812.10860] Looking for ELMo's friends: Sentence-Level Pretraining Beyond Language Modeling
Backpropamine: training self-modifying neural networks with differentiable neuromodulated plasticity | OpenReview
Resources
Seeing Theory
GitHub - CamDavidsonPilon/Probabilistic-Programming-and-Bayesian-Methods-for-Hackers
A Visual Exploration of Gaussian Processes
CS 188: Introduction to Artificial Intelligence, Fall 2018
ジェネラティブ・アートを愛する理由 - lab.sugimototatsuo.com
Modern Deep Learning Techniques Applied to Natural Language Processing by Authors
Rasa · GitHub
whale/fluke_detection.ipynb at master · radekosmulski/whale · GitHub
GitHub - THUNLP-MT/MT-Reading-List: A machine translation reading list maintained by Tsinghua Natural Language Processing Group
Dungeon Generator (Part 1) - Node-Based Approach - Programming adventures
GitHub - eyalzk/sketch_rnn_keras: Keras implementation of Sketch RNN
GitHub - fastai/fastprogress: Simple and flexible progress bar for Jupyter Notebook and console
GitHub - njustesen/ffai: The Fantasy Football AI framework
My secret sauce to be in top 2% of a kaggle competition
ベイズ最適化とHyperbandを組み合わせた手法「BOHB」の解説 | Masahiro Nomura
Series
COUNT DOWN JAPANにおける、アーティストのタイムテーブルを予測する(後編) – programming-soda – Medium
from 2018 to 2019 – piqcy – Medium
Did you enjoy this issue?
 
Become a member for $5 per month
Don’t miss out on the other issues by piqcy
You can manage your subscription here
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue