曾在 OpenAI 和 Anthropic 从事三年预训练研究的 Jacob Coxon,今日在 X 上发布离职帖,不到半天浏览量就超过 2600 万次。他直言两家公司都没有在负责任地做事,AI 研发正在拿人类的命赌博。
Jacob Coxon 在帖子中指出,不要低估这项技术的力量,AI 很快就能在任何领域超越人类,能黑进任何东西、颠覆行业、获取权力和资源。他还透露,造 AI 的人真心相信,它可能在这个十年末就杀死所有人,这并非营销噱头,高管和资深研究员私下里也表达过恐惧。
对于在两家公司的经历,Coxon 表示,OpenAI 很多人没有真正内化 AI 带来的文明级别风险;而 Anthropic 虽完全理解风险,但被锁在一场“必须率先到达”的竞赛里,认为只能自己来做,尽管危险。
Coxon 并非完全悲观,他认为像 Hugging Face 遭遇的攻击等“警告枪声”让美国实验室之间的节奏协议变得更有可能,但目前难以阻止全球竞赛,可能需要更昂贵的行动,如暂时禁止模型能力提升。他还呼吁同行研究员认真思考接下来几年的情况,不要盲目启动超级智能的 RL 训练。
编辑观点:Jacob Coxon 的离职及言论,凸显出 AI 研发中责任与风险的矛盾,或引发行业对研发方向的反思。