David Sacks：Anthropic公司Fable模型被发现安全漏洞后未修复，政府不得已管制

okx 6月14日消息，美国总统科技顾问委员会联合主席 David Sacks 在推文中分享了与政府内外人士交流后，对 Anthropic 暂停外国公民访问 Claude Fable 5 和 Mythos 5 事件的看法。本周早些时候，Anthropic 公司以“Fable”的商业名称公开发布了其 Mythos 级模型。“Fable”是带有防护措施的“Mythos”模型。一家与 Anthropic 公司和美国政府都高度信任的合作伙伴，在测试“Fable”时，发现了一种可以破解这些防护措施的方法。管理员要求修复这个漏洞，否则就必须下架该模型，但遭到拒绝。Anthropic 随后在博客中淡化该事件严重性，与其一贯标榜的“AI 安全公司”定位形成鲜明反差。为防止未经修复的模型流向不当人员，政府不得已对相关模型实施管制。目前，政府希望 Anthropic 尽快修复问题、解除管制并恢复正常发布。