Anthropic 否认了有关其希望美国政府限制开源权重 AI 模型的指控，并表示此类举措无法解决该公司面临的最大国家安全担忧。

　　在周一发布的一篇博客文章中，Amodei 写道：“Anthropic 从未主张禁止开源权重模型。”此举旨在反驳外界关于该公司试图通过限制开源来保护自身闭源 AI 产品的批评。

　　此番表态之际，已有超过 50 家科技公司联名签署了一封公开信，敦促政策制定者不要对开源权重模型实施广泛限制。包括英伟达、微软和 Meta 在内的巨头均签署了该信，OpenAI 随后也表示支持。签署方认为，开源系统有助于提高技术可及性、促进市场竞争，并增强客户的控制权。

　　由于 Anthropic 并未在这封公开信上签字，一些行业批评人士指责该公司倾向于支持限制性措施，而这些措施可能会让其在面对已发布强大开源模型的中国 AI 竞争对手时处于不利地位。

　　为什么 Anthropic 认为开源权重存在更大风险

　　Amodei 表示，不具备危险能力的开源模型能带来公共利益，因为它们允许企业、开发者和研究人员在不支付高昂访问费的情况下使用 AI，仅需承担运行所需的计算成本。

　　然而，他指出目前仍存在两大风险：

　　首先是威权政府可能开发出比美国更强大的 AI 系统，并利用它们获取军事优势或扩大国内监控与镇压。Amodei 表示，这种担忧并不局限于开源模型，因为最危险的系统完全可以在私下开发并保持秘密。

　　第二个担忧涉及先进人工智能被误用于网络攻击、生物威胁和其他有害活动。Amodei 认为，开源模型会带来额外挑战，因为开发者无法轻易实施安全防护措施，也难以监控已发布模型权重的具体用途。

　　“开源模型——无论它们来自中国还是其他任何地方——都可能比闭源模型带来更高的风险，因为很难对其设置防护栏或监控其使用情况，而且一旦权重发布，就无法撤回。”Amodei 写道。

　　Anthropic 的核心诉求

　　Anthropic 并没有要求禁止开源模型，而是呼吁采取三项政策措施：

　　收紧算力出口限制： 该公司支持对向中国出口先进 AI 芯片及芯片制造设备实施更严格的限制，认为获取算力是构建前沿 AI 系统的关键因素。

　　防范模型蒸馏： 该公司表示，工业规模的蒸馏技术可以让竞争对手以显著更少的计算投入，复现领先模型的各项能力。Amodei 认为，这种做法能帮助竞争对手在无需投入同等规模计算资源的情况下，缩小与领先 AI 实验室之间的差距。

　　强制发布前测试： Anthropic 正在推动对具备足够能力的 AI 模型进行强制性的发布前测试，以评估其在网络安全、生物安全和价值观对齐方面的风险，无论这些模型是开源还是闭源。

　　关于 AI 领导地位的争论

　　这一分歧凸显了政策制定者在平衡 AI 创新、竞争、国家安全与安全担忧方面日益加深的矛盾。开源模型的支持者表示，限制访问可能会损害依赖灵活 AI 工具的初创企业、研究人员和企业；而批评者则认为，不受限制的访问可能会使防止滥用变得更加困难。

　　Amodei 表示，关于开源模型的一些问题应该通过实际测试而非主观假设来解决。他同意行业公开信的部分观点，包括开源模型可以增加可及性和促进竞争。然而，他不同意“更广泛的访问权限会自动让防御者比攻击者占据优势”这一论点。

　　政策制定者面临的挑战在于寻找一个折中方案。严厉的限制可能会阻碍合法的研究，并损害依赖开源模型的初创企业；而忽视潜在风险，则可能导致在危险能力扩散后难以应对。