アルゴリズムとかオーダーとか

仕事で勉強したことなどをまとめてます

2022-04-03から1日間の記事一覧

Attention Flowを追実験したい

最近は自然言語学習モデルのBERTを活用した実験を行っている。その中で、Attentionで何が表現されているのか?について興味が出てきた。 とあるツテから以下の論文を紹介してもらったので、この論文の中に出てきているサンプルコードを動かしたいというのが…