View profile

Weekly Machine Learning #222

Weekly Machine Learning #222
By piqcy • Issue #223 • View online
News:
レトリバさんと国立国語研究所から、日本語話し言葉BERTが公開されました。こうした日本語リソースが公開されるのはとてもありがたいです。検索技術の情報交換を行うSlackが立ち上がりました。検索に興味がある/検索を行っている、という方は参加してみてください(私も参加しました)。オフラインで合うことも難しくなっているので、こうした場を活用したいですね。
Articles:
kurilabさんの論文まとめから、教師なしでキーポイントを検出する研究を引用させていただきました。2Dから3D、教師ありから教師なしへの動きが感じられます。Transformerを使用して学習データを増やす手法(Data Augmentation)を調査したので関連研究をまとめています。学習データの量産ができればより機械学習活用の幅が広がります。
Resources:
Articlesと関連しTransformerのライブラリを使用して地名や人名を特定する固有表現認識の学習データを量産した記事を紹介しています。Shuji Suzukiさんが先週紹介したPyTorch Profilerを使ってみた記事を公開してくれたのでご紹介しています。TensorBoardと統合してみられるのは便利そうです。また、PFNが公開したPythonフォーマット/チェックツールpysenのVS Code拡張を中の人であるYuki Igarashiさんが公開しています。VS Code使いの方はぜひ!
Listeners:
引き続きお便りを募集しております。Weekly Machine Learningは新年度もListenerの方と共に引き続き機械学習のトレンドを追っていければと思いますのでよろしくお願いいたします!質問・ご要望などぜひお寄せください。
Twitterハッシュタグ: #weeklyml

News
日本語話し言葉BERTを作成、公開します! - Retrieva TECH BLOG
GitHub - facebookresearch/flores: Facebook Low Resource (FLoRes) MT Benchmark
Articles
Resources
順序をもつ分類タスクで使える手法「label distribution learning」をご紹介 - OPTiM TECH BLOG
[DL輪読会]Few-Shot Unsupervised Image-to-Image Translation
弊社でインターンをしていた本多右京さんがNLP2021で若手奨励賞を受賞しました - sinicx - Medium
PyTorch 1.8.1で入ったPyTorch Profilerを使ってみた - まったり勉強ノート
Listeners
先週のアクセスランキングは以下の通りでした。「深層学習の原理を明らかにする理論の試み」はとても分かりやすかったですね。BERTへの注目もやはり大きいなと感じました。
  1. 深層学習の原理を明らかにする理論の試み
  2. BERT以降の事前学習済みモデルのトレンドと主要モデルを紹介! Part 1 学習方法編 - ELYZA Tech Blog
  3. GitHub - pfnet/pysen
Did you enjoy this issue?
Become a member for $5 per month
Don’t miss out on the other issues by piqcy
piqcy
By piqcy

make machine learning engineer and researcher more cheerful

You can manage your subscription here.
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue