View profile

Weekly Machine Learning #231

Weekly Machine Learning #231
By piqcy • Issue #232 • View online
News:
OpenAIがスタートアップへの援助をスタートしました。気候変動に対する機械学習の適用もテーマになっているので、その話題を扱ったセミナーも紹介しています。気候変動への対応が国の債権格付けに影響するという研究もあり、単に注目を集めるだけでなく重要視されつつあるテーマです。
Articles:
強化学習にTransformerを応用した研究を紹介しています。強化学習というより教師ありに近い設定なので、実際有効かはこれからだと思います。テキストをバイトで扱う手法は注目です。形態素解析の手間がなくなるだけで、自然言語処理がぐっとやりやすくなりますね。
Resources:
流星の検出はとても面白い記事です。機械学習ではなく前処理と画像処理で検出している点も個人的には良かったです。自然言語処理のモデルを省力化する研究の紹介はとてもよくまとめられています。実際BERTの推論をするとGPUなしには無理無理みたいな時間がかかかるので(GPTはもっと長い)、実用が進むには効率化の研究が欠かせないと感じます。
Listeners:
機械翻訳におけるイディオムの扱いについてお便りを頂いたので回答しています!
Weekly Machine Learningは機械学習の開発者・研究者を応援するメディアを目指しています。掲載記事の選択や記事執筆に興味がある方がいたら、ぜひご連絡いただければと思います。
Twitterハッシュタグ: #weeklyml

News
Investing in startups with big ideas about AI.
High-performance speech recognition with no supervision at all
The FLORES-101 data set: Helping build better translation systems around the world
Articles
Resources
Python+OpenCVで流星群画像を仕分ける | アストロアーツの屋上ch
STAIR Lab Seminar 202105
ZOZO研究所が実施する「検索/推薦技術に関する論文読み会」 - ZOZO Technologies TECH BLOG
Listeners
tkさんよりお便りをいただきました。
いつもありがたく拝読しております。駆け出し兼業作家のものです。
日々の業務がAIから離れてしまった中、こちらの情報に触れてなんとか意識を保っています。
ネタ集めのためのメールで恐縮なのですが、ニューラル言語処理モデル(特に翻訳)でのイディオムの扱われ方について触れた面白い論文/記事等あればご紹介頂けませんでしょうか。
私も日々の業務が機械学習から離れてしまっているので、非常に共感できる状況です。意識を保つお役に立っているならうれしいです!
イディオムの扱われ方は、ちょっと調べたところ「Translation of Idiomatic Expressions Across Different Languages: A Study of the Effectiveness of TransSearch」が面白かったです。イディオムとは、「甘いものには目がない」といった慣用句です。本論文は、Googleのような機械翻訳と用例ベースのTransSearchとでイディオムの扱われ方に差があるか比較しています。後者の方が表現のバリエーションが多く、翻訳の参考にしやすいとの結果が出ています。小説などを書くにはよいかも?ですね。機械学習を扱った小説としては、ケン・リュウ氏の小説もおすすめです。「紙の動物園」にニューラルネットを扱った短編が掲載されています。単に物珍しいというわけでなく、SF小説としてとても読みごたえがあります。
先週のアクセスランキングは以下の通りでした。GPT-3の活用はやはり衝撃的でしたね。
  1. [速報]マイクロソフト、自然言語をプログラミング言語にAIで変換、新ノーコード機能をPower Appsに搭載。AI言語モデル「GPT-3」を採用。Microsoft Build 2021
  2. From Motor Control to Team Play in Simulated Humanoid Football
  3. K-fold Cross Validationの理論的優位性について
Did you enjoy this issue?
Become a member for $5 per month
Don’t miss out on the other issues by piqcy
piqcy
By piqcy

make machine learning engineer and researcher more cheerful

You can manage your subscription here.
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue