ラベルスムージングを用いてモデルを正則化し,認識性能を改善する方法を紹介します.

ラベルスムージングを用いてモデルを正則化し,認識性能を改善する方法を紹介します.
Transformerの補足説明として,Multi-head self attentionの処理について紹介します.
Transformerの補足説明として,Positional encodingの処理について紹介します.
Transfomer (Encoderのみ) を用いた孤立手話単語認識モデルを紹介します.
シンプルなAttention層を適用した場合の,モデルの挙動変化を見ていきます.
2024年11月 (1) |
2024年10月 (3) |
2024年09月 (7) |
2024年08月 (4) |
2024年07月 (4) |
2024年06月 (3) |
2024年05月 (4) |
2024年04月 (2) |
2024年03月 (5) |
2024年02月 (3) |
2024年01月 (5) |
2023年12月 (2) |