Conformer の Convolution module をもう少し細かく説明します.なお,Convolution module をいじって追加実験してみましたが,結果としては全く改善しませんでした (^^;).

Conformer の Convolution module をもう少し細かく説明します.なお,Convolution module をいじって追加実験してみましたが,結果としては全く改善しませんでした (^^;).
実装の紹介時にできなかったMacaron Net のアイデアについて紹介します.
Transformerの補足説明として,正規化層について説明します.
Transformerの補足説明として,Multi-head self attentionの処理について紹介します.
Transformerの補足説明として,Positional encodingの処理について紹介します.