ラベルスムージングを用いてモデルを正則化し,認識性能を改善する方法を紹介します.

ラベルスムージングを用いてモデルを正則化し,認識性能を改善する方法を紹介します.
Transformerの補足説明として,Multi-head self attentionの処理について紹介します.
Transformerの補足説明として,Positional encodingの処理について紹介します.
Transfomer (Encoderのみ) を用いた孤立手話単語認識モデルを紹介します.
シンプルなAttention層を適用した場合の,モデルの挙動変化を見ていきます.