2021年の振り返り - NmaViv’s diary

2021年もあと少しということで、今年の自身の出来事について振り返ってみようと思います。

Kaggle

いくつかピックアップして振り返ります。

Notebook GrandMaster になる

過去の Notebook が金メダルに昇格しててついに Notebooks GM になれました！😆😆😆
kaggle に登録したのが 2018/03/06 で達成したのが本日 2021/03/06 なので 2xGM になるのにちょうど3年でした
世界で8人目の Competitions & Notebooks での 2xGM です pic.twitter.com/PWdSAsDLKm
— Y.Nakama (@NmaViv) 2021年3月6日

2020/12/26時点でNotebook金メダル10枚で、2021/12/30時点でNotebook金メダル28枚なので、ここ1年で18個の金メダルNotebookを出した計算になります。数えてみるとめちゃくちゃ頑張っていてすごい。

Rainforest Connection Species Audio Detection (16/1143)

結果 : 銀
メンバー : arai-san, kaeru-san, hiraiwa-san
ジャンル : 音声

チームメイトのベースラインが強すぎたので、それをベースに主にオンプレGPUでゴリゴリ殴るみたいなことをしていました。音声コンペに関する実力は伸ばしどころしかないなと感じました。

RANZCR CLiP - Catheter and Line Position Challenge (7/1547)

結果 : 金
メンバー : kuma-san, raddar
ジャンル : 画像

DiscussionとNotebookを初期から頑張っていて、強力なチームメイトと組めたおかげで金メダルを取ることができました。この時のDiscussionが2021/12/30時点で一番多くupvoteをもらえているので、共有して良かったです。

[Discussion] 3-stage training with additional annotation [CV:0.95x]

Bristol-Myers Squibb – Molecular Translation (20/874)

結果 : 銀
メンバー : anokas, Darragh, Dmitriy, Maxim
ジャンル : Image Captioning

マシンで殴るコンペだったので参加するんじゃなかった。

初めてのImage Captioningだったのでベースラインを作成するのに数日かけていました。Image Captioningができるようになったのも良かったですが、この時のDiscussionもNotebookも2021/12/30時点で二番目に多くupvoteをもらえているので、共有して良かったです。マシンで殴るコンペじゃなかったらさらに良かった。

CommonLit Readability Prize (23/3633)

結果 : 銀
メンバー : yabea-kun, copasta-kun, oohara-san
ジャンル : NLP

色々なモデルを試すことができ、BERTまわりの知見が色々と得られたので良かったです。残念ながら Public 4th から shake down しました。

G2Net Gravitational Wave Detection (12/1219)

結果 : 金
メンバー : arai-san, naoism-san, hirune-san, sinpcw-san
ジャンル : 波形（重力波）

とりあえずベースラインを出したものの、重力波何もわからんという気持ちでチームメイトのおかげで金メダルを取ることができました。ベースラインにwandbとGrad-CAMを導入したおかげかDiscussionも2021/12/30時点で三番目に多くupvoteをもらえているので、共有して良かったです。

Google Brain - Ventilator Pressure Prediction (15/2605)

結果 : 金
メンバー : takoi-san, pao-san, hakubishin-san, charm-san
ジャンル : 時系列

とりあえずPyTorchでベースラインを出したものの、TPUを使った方が良さそうだったのでTensorFlowに移植しました。細かいところまで手が届くのでPyTorchを使うようにしていましたが、案外TensorFlowでも細かいところまで手が届くことがわかったので良かったです（TensorFlow歴が短いだけですが...）。作成したTPU Baselineがチーム内で活躍して金メダルを獲得することができたのも良かったです。