IT 面试题库

什么是位置编码(Positional Encoding)?为什么 Transformer 必须引入它?正弦位置编码如何工作、有什么特点?

初级简答题算法工程师位置编码PositionalEncodingTransformer大模型

题目

考察点:attention 本身对顺序无意义(置换等变),必须显式注入位置信息;原始论文用正弦/余弦固定编码。属概念题。

参考答案

内容深度:适中 · 无代码示例 · 来源:外部链接 · 未复核 · 79 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解

为什么必须

正弦位置编码(原始论文)

特点

演进

练这道题

同分类 · 高频题

题目与答案就在本页;收藏、批注和错题重练在应用内

这道题看完了?连刷同类题,趁热打铁效果最好 进入刷题