美国政府禁 Fable/Mythos,AI 市场或将生变,未来大语言模型使用成谜?
本来周五我打算放松一下,一边让智能代理帮我写代码,一边和朋友们看足球赛。我最近在做有趣的 HTML 游戏,还写了篇草稿文章探讨如何借助 AI 工具复兴“Flash 游戏”。可就在我思考优化以“后室”为主题的射击游戏时,智能代理突然提示“抱歉!该模型已不存在!”
我第一反应是要重新登录,毕竟我平时常同时运行多个智能代理,就以为这是个奇怪的限制错误。我隐约知道 Anthropic 打算从订阅计划中移除 Fable,就切换到 API,结果还是不行。
我团队开发的自定义 Rust 智能代理客户端挺好用的,我就怀疑是不是框架出问题了,开始在不太熟悉的 Rust 代码里排查,虽说我名义上写了数万行 Rust 代码。这时朋友告诉我“政府禁止使用 Fable 了”。
这是真的。美国政府指示 Anthropic 禁止任何外国公民(包括在美国境内的外国公民以及 Anthropic 的外国员工)使用 Fable 和 Mythos。这要求根本无法完成,政府也清楚,所以 [Anthropic 已禁用了所有用户对 Fable/Mythos 的访问](https://www.anthropic.com/news/fable-mythos-access)。
Anthropic 在声明中称:“美国政府援引国家安全相关规定,发布出口管制指令,要求暂停所有外国公民(无论在美国境内还是境外,包括 Anthropic 的外国员工)对 Fable 5 和 Mythos 5 的访问。为确保合规,我们必须立即为所有客户禁用 Fable 5 和 Mythos 5。对 Anthropic 其他所有模型的访问不受影响。我们于美国东部时间下午 5 点 21 分收到政府指令,该指令未提供具体的国家安全担忧细节。据我们了解,政府认为发现了一种绕过或‘越狱’Fable 5 的方法。我们查看了使用该特定技术发现少量已知小漏洞的演示,这些漏洞看起来都相对简单,而且我们发现其他公开可用的模型也能在不绕过的情况下发现这些漏洞。我们审查了一份报告,我们认为这是政府指令的依据,并确认报告中展示的能力在其他模型(包括 OpenAI 的 GPT - 5.5)中也广泛存在,并且每天都被保障系统安全的人员使用。我们将在接下来的 24 小时内分享更多细节。我们正在遵守政府的法律指令,为所有用户移除对 Fable 5 和 Mythos 5 的访问权限。然而,我们不同意仅仅因为发现了一个有限的潜在‘越狱’问题,就召回已部署给数亿用户的商业模型。”
对于这件事,我有几点想法:
内心矛盾
我大多时候是个 AI 末日论者。我训练过很多深度神经网络,清楚优化器可能出现的问题。我们往往优化可衡量的指标,而非真正想实现的目标。我们期望两者一致,实际却并非如此。我们想做好产品,却不知方法,就优化用户参与度;想教孩子读写,没好办法,就优化考试成绩;想推动经济发展,无良策,甚至做出不合理行为。AGI/ASI 系统就是优化器,可能极其危险且难以预测,因为在优化可衡量指标时,可能偏离我们期望的方向。企业也是优化器,为快速赚钱而优化,尽管很多开发者都意识到这很危险,这其实是 AI 对齐问题的一个很好例子。
政府动机存疑
要是美国历史上其他政府采取这一举措,或许还能给予一定信任。但本届政府的表现让我觉得既狭隘又腐败,其行为的公开性和创造性令人震惊。这是出于真正的 AI 监管需求吗?政府中真正懂 AI 的人能影响决策吗?我对此表示怀疑。
Anthropic 与政府关系
Anthropic 和本届政府关系不佳。在我看来,Anthropic 曾努力与国防部合作,其模型也被用于高度机密的系统中。但特朗普政府却公开宣称 Anthropic 存在供应链风险,禁止政府相关人员使用其模型,尽管之后 6 个月仍在军事行动中使用,包括委内瑞拉战争和伊朗战争。而中国的大语言模型都未被认定为供应链风险。此事公开后,极右翼推特群体认为 Anthropic 是“觉醒派”,应该被摧毁。那么,本届政府是在合理监管有害 AI,还是借机打击一个被视为文化敌人的公司呢?
竞争对手因素
Anthropic 的竞争对手在政府中有广泛人脉,比如库什纳家族大量投资了 OpenAI。Fable 是一款非常强大的模型,在 Anthropic 即将进行首次公开募股(IPO)之际,它突然无法供消费者使用,这很难不让人怀疑是其他实验室借机打压 Anthropic。
政治影响信任
这种政治分赃制度让一切都变得可疑。社会花了几十年才摒弃这种做法,如今信任已荡然无存,这是一个巨大的阴影。
硅谷态度转变
我对硅谷一些人的态度转变感到失望。他们曾愤怒地指责民主党政府会在 AI 竞赛中“挑选赢家和输家”,现在却对本届政府的行为保持沉默或予以辩护。我不禁觉得他们之前的表态只是为了争夺权力,这让我非常失望。目前科技行业在全球的声誉不佳,AI 领袖们总说 AI 会带来灾难和大规模裁员。真希望有人能有勇气站出来,指出这种做法是错误的。
宣布时间可疑
这个消息在周五下午 5 点 21 分宣布,时间很可疑。通常在周五晚上宣布事情,可能是为了让股市在周末有时间消化,避免股价立即暴跌。特朗普政府不是第一次用这种手段了。研究公司 The Kobeissi Letter 整理了一系列在周五期货市场收盘后或周六凌晨发布的重大地缘政治和贸易公告,包括对伊朗核设施的打击、美国对加勒比毒品船的军事行动、对中国加征 100%关税的威胁、关闭委内瑞拉领空、在尼日利亚的军事行动、对伊朗的直接打击等,还包括 2025 年 8 月 11 日在公众对英特尔 CEO Lip - Bu Tan 施加数周压力后宣布的英特尔交易,这些公告都选在非交易时间发布。
对 AI 市场的影响
AI 热潮很大程度上基于对计算机智能的持续需求,从 GPU 到内存、磁盘、服务器机架等整个 AI 产业链的债务、建设和股市表现,都基于这个市场价值数万亿美元的预期。但如果政府随时可以单方面切断对模型的访问,那么数万亿的大型数据中心投资可能就会打水漂。一些 Hacker News(HN)和 Reddit 的用户已经在讨论,这可能是政府对人们可访问内容的上限。即使市场需求巨大,如果政府不允许使用,一切都将毫无意义。
公众反应
很多人嘲笑 Anthropic 用 Mythos 进行“营销噱头”是自食其果。此前 OpenAI 也曾以“太危险不能发布”为由对 GPT - 2 采取类似做法,后来事实证明他们的担忧是有道理的,自 GPT - 2 发布以来,我们被大量的 AI 垃圾信息淹没,影响了我们对现实的认知。我相信 Fable 是一款优秀的模型,也相信 Anthropic 对其广泛发布存在安全风险的担忧。但在 HN 相关评论区,点赞最高的评论是“他们终于要为一直以来的危言耸听付出代价了”。现在没人能用 Fable 了,这或许是 Anthropic 有史以来最好的广告,因为按照政府的说法,这个模型太强大了,以至于不能使用。也有人认为,当你一直告诉人们你的产品有多危险时,有能力阻止危险产品进入市场的人可能会当真。这确实有道理,国会中最支持 AI 的伯尼·桑德斯经常制作政策视频,引用 AI 首席执行官的话来强调监管的必要性。当然,如果知道有被关闭的风险,没有哪个 AI 首席执行官会再这么说了。
未来趋势
有一条 HN 评论说出了我的心声:“很多评论都没抓住重点,只是幸灾乐祸地说 Anthropic 自食其果,或者认为这是营销噱头的必然结果。真正的问题是,这可能是政府限制强大大语言模型向公众开放的开端。Fable 是市场上最强大的模型,美国政府已经禁止人们使用它(理论上只是针对非美国公民,但实际上即使是美国公民也受影响)。如果你认为解决方案是使用中国的开源模型或在自己的硬件上运行,那你就错了。如果美国政府限制美国最强大的模型,一年后中国会允许其国内公司的最强模型开源吗?不太可能。这些模型正朝着强大的网络安全武器方向发展,各国政府会有动机对其进行限制和控制。两年后,最强的大语言模型是否还能供大众使用,我对此表示怀疑。我们会因此变得更贫穷还是更安全呢?我觉得会更贫穷,因为我讨厌被限制使用技术,但我也不确定。也许你认为政府应该限制强大的大语言模型,也许你不这么认为。但无论如何,这都是一个重大事件,已经迈出了重要一步,树立了一个先例,即使政府的动机只是为了报复 Anthropic。”
关于这篇文章的讨论
- **Larry McPhillips**:文章首句有个小错误,“Friday’s are for when I like to code” 中的撇号使用有误。“Friday” 的复数形式是 “Fridays”,不需要撇号。只有在表示所属关系(如 “Friday's results came in early”)或 “Friday is” 的缩写(如 “Friday's my day off”)时才使用撇号。
- **Jimmy McGuill**:我可不想读这么多,不过还是为你感到高兴,或者对你遇到的事表示遗憾。