Roko AI · ANATOMYEnglish

大语言模型如何逐步生成

Samrat Chowdhury · 作者原帖

视频讲解

以计算 17×24 为例,提示词、思考片段与输出被放在圆环上,中心层塔逐轮计算下一词概率,最后展开结构。

从上下文到下一词

模型利用已有上下文产生下一 token 的概率分布,再选择一个 token 继续生成。

注意力关联信息

注意力帮助关联序列中的信息,层逐步变换表示;塔和连线是可视化比喻,不是真实硬件布局。

中间步骤与答案

演示区分内部步骤与对外答案。更多步骤可能帮助运算,但这条机械序列并不能证明所有模型都以相同方式推理。

延伸阅读

相关视频