News:
Googleからフェデレーションラーニングをシミュレートできるライブラリが公開されました。プライバシーの観点からも注目されている研究分野で、OSS公開により研究が進むのではないかと思います。ガートナーから2021年のハイプサイクルが公開されました。チャットボットや自動運転が幻滅期に入っています。個人的には幻滅というより現実的になってきた、期待値と実際できることのずれがなくなってきた印象です。
Articles:
Transformerが強いのではなくパッチ入力が強いのでは?この疑問を投げかけている論文は要チェックです。こんなカーネルサイズは設定したことないですが、これで精度が出るとは・・・久々に「DNN全然わからん」と声に出そうになった論文ですね。ICLR2022レビュー中の論文です。オプティマイザ用のメモリ削減は、目の付け所が素晴らしいと思いました。今まで意識したことがなかったですが、確かに勾配の統計量を取るために値をリザーブしているので、その分容量は食いますね。
Resources:
本番環境でのドリフト検知は要チェックです。MLOpsに始まり、運用段階で要求される機能がどんどんOSSで出てきた印象です。Feature StoreなどもOSSが出てきていますね。McKinseyの機械学習をビジネスに適用するためのステップは興味深いです。とてもよく分析されているので、厚めに紹介しています。実験から本番運用に持っていこうとすると必要な技術スタックが増え、効果を上回る投資が必要になり、導入が立ち消えする・・・というのはありそうです。
Listeners:
Twitterでのアンケート回答を頂きありがとうございました！すごくばらけましたね。いろんなステージのチームがそれぞれに課題を抱えているのかもしれないですね。課題を掘り下げていくべく、
機械学習の提案シチュエーションを伺ってますのでよろしければご回答お願いいたします！
Weekly Machine Learningは機械学習の開発者・研究者を応援するメディアを目指しています。掲載してほしいイベントや論文があればぜひご連絡ください！
Tweet
Share