2020/07/21 Attentionとその周辺


セミナーの概要

x1.0 x2.5

本セミナー全体の概要を説明します.(最初の方が途切れてしまっております.申し訳ありません)


言語モデル・Attentionの基礎構造

x1.0 x2.5

本セミナーのベースになるAttentionの基礎理論について説明します.


Attentionの種類・他の応用例

x1.0 x2.5

さらに詳しいAttentionの技術と,応用,Transformerへの発展を説明します.


Transformer

x1.0 x2.5

Attentionを応用した再帰構造を持たないTransformerのしくみを説明しています.


BERT

x1.0 x2.5


Transformer XL・XLNet

x1.0 x2.5

次回のお知らせ

x1.0 x2.5