核心要点摘要

• GRAM 在 Transformer 每层加入按知识类别划分的辅助模块，训练特定双用途数据时冻结通用权重，只更新对应模块。
• 研究设置四类知识、16 种模块组合，并测试七个规模，参数范围从 50M 到 5B。
• 它仍是初步研究，未用于 Anthropic 生产模型，也没有经过前沿规模、生产训练管线或真实下游任务验证。

“给危险知识装一个开关”很容易被理解成新的 API 参数。Anthropic 7 月 8 日介绍的 GRAM 并不是这个层面的功能，而是一种改变模型训练结构的早期研究。开发者先要做的是分清研究方法、实验结果和生产能力。

GRAM 到底改了训练哪一层

从实现层看，GRAM 改的是训练结构，而不是请求参数。它给标准 Transformer 的每一层补充按双用途知识类别划分的辅助神经元。普通语料仍更新通用权重；训练某一类双用途数据时，主干权重被冻结，梯度只进入相应模块。模块在训练结束后可以删除，也能为受信任部署保留。研究划分四类知识，所以同一训练结果可形成 16 种模块组合。

从实现角度看，GRAM 与 LoRA 之类部署时可选适配器也不能简单画等号。研究描述的是预训练阶段的梯度路由：普通数据更新通用权重，双用途数据只更新指定模块。模块是否能干净承载某类能力，取决于数据标注、路由规则和知识之间的耦合，这些都不是 API 调用者可以事后补上的。

实验结果能说明什么

实验记录不能只摘一句“模块可删除”。研究包含合成儿童故事、四个双用途领域等三类设置，并连续测试七个模型规模，范围从 50M 参数到 5B。移除目标模块后，对应能力在评估中下降，而通用性能没有同步出现同等幅度损失；小量恶意数据恢复实验里，GRAM 接近数据过滤，并优于论文比较的训练后 unlearning。工程解读仍需同时记录基线、规模与指标。

在 147AI 的接入记录中，团队可以标明实际调用的模型版本、安全策略和测试日期。GRAM 属于训练方法研究，不能被填写成接口能力，也不能拿来解释某次线上拒答。 接口文档、模型卡和线上行为才是生产能力证据。

实验结果也要连同口径引用。研究先在合成故事上验证主题移除，再处理病毒学、网络安全、核物理和一种小众编程语言四类数据，并扩展到七种模型规模。衡量重点是下一词预测和恢复攻击成本，不是生产环境中的工具调用、长任务或真实专家问答。因此“通用性能未下降”不能脱离这套测试范围。

接入侧应该记录哪些边界

这些结果目前只能进入 research 备注。Anthropic 明确表示 GRAM 尚未用于任何生产模型，也没有在前沿规模或正式训练管线中验证；论文主要观察下一词预测，不是真实下游任务。双用途知识还可能与通用能力共享表征，能否干净拆开仍是开放问题。代码评审和能力清单必须把研究方案、预览状态与生产功能分开。

开发团队做供应商能力表时，可以加四列：能力处于研究还是生产、适用模型版本、用户是否可配置、验收证据是什么。若只有研究博客，就放在观察项；若进入模型文档，还要用安全测试和回归样本验证。这样能防止研究标题在内部转述中逐步变成一个不存在的接口参数。

如果团队要跟踪这类研究，可以建立轻量证据卡：记录论文或官方文章、实验模型规模、数据类别、对比基线、攻击测试和明确限制。后续出现新版本时，只更新变化项。这样安全评审不会每次从新闻标题重新开始，也能看出研究是否真的跨过前沿规模、下游任务和生产训练三道门槛。没有跨过之前，接口层仍按现有模型行为验收。

安全评审还应记录未验证项，而不是只列通过项。GRAM 是否能覆盖工具使用、长上下文和组合能力，当前官方材料没有给出生产答案，这些空白应明确保留。

结论

开发者可以把 GRAM 视为模型内知识控制的一种研究路线，但不能把它写进当前 Claude 能力清单。接入侧真正可验证的仍是模型版本、正式配置、行为测试和审计结果。

FAQ

Q1：GRAM 是 Claude API 的参数或配置项吗？

A：不是。官方明确表示 GRAM 尚未用于任何 Anthropic 生产模型，当前不存在对应的 Claude API 开关。

Q2：开发团队现在怎样核验高风险能力边界？

A：应依据当前模型文档、实际版本、策略配置和红队样本验证，不要从研究论文推测线上内部结构。

内容更新时间：2026-07-14

官方来源：An off switch for dual-use knowledge in AI models

证据边界：GRAM 的训练机制、四类模块、16 种组合、七个规模及非生产边界来自 Anthropic 官方研究页；接入日志和红队字段是开发实践建议，不表示 Claude 已暴露模块控制接口。