视频讲解
以计算 17×24 为例,提示词、思考片段与输出被放在圆环上,中心层塔逐轮计算下一词概率,最后展开结构。
从上下文到下一词
模型利用已有上下文产生下一 token 的概率分布,再选择一个 token 继续生成。
注意力关联信息
注意力帮助关联序列中的信息,层逐步变换表示;塔和连线是可视化比喻,不是真实硬件布局。
中间步骤与答案
演示区分内部步骤与对外答案。更多步骤可能帮助运算,但这条机械序列并不能证明所有模型都以相同方式推理。
Samrat Chowdhury · 作者原帖
以计算 17×24 为例,提示词、思考片段与输出被放在圆环上,中心层塔逐轮计算下一词概率,最后展开结构。
模型利用已有上下文产生下一 token 的概率分布,再选择一个 token 继续生成。
注意力帮助关联序列中的信息,层逐步变换表示;塔和连线是可视化比喻,不是真实硬件布局。
演示区分内部步骤与对外答案。更多步骤可能帮助运算,但这条机械序列并不能证明所有模型都以相同方式推理。