深入理解 Self-Attention 与 FFN (Transformer 核心)
1. 简介 在自然语言处理与推荐系统中,Transformer 已经成为了主流的骨干网络。它的核心在于两个关键组件:自注意力层 (Self-Attention) 和 前馈神经网络 (Feed-Forward Network, FFN)。 ...
1. 简介 在自然语言处理与推荐系统中,Transformer 已经成为了主流的骨干网络。它的核心在于两个关键组件:自注意力层 (Self-Attention) 和 前馈神经网络 (Feed-Forward Network, FFN)。 ...