RNN 主要應用在序列數據資料的場景。尤其是自然語言處理的領域,如語言模型及機器翻譯等。 RNN 還可以對具有固定周期特徵的數據建立預測模型。
注意力機制(Attention mechanism)跟下一章節會介紹到的Transformer都是NLP發展過程中很具有影響力的元素,而注意力機制(Attention…