Anthropic 研究员辞职，称明年 AI 或失控

ChainCatcher 消息，Anthropic 研究员 Jacob Coxon 宣布辞职，并准备离开 AI 行业。他过去三年先后在 OpenAI 和 Anthropic 做预训练研究。他指出，两家公司都没有负责任地推进 AI，正竞相打造能继续提升自身能力的超级智能，「拿我们的命下注」。

他今年从 OpenAI 转投 Anthropic，本来就是因为后者更重视模型安全。Coxon 承认 Anthropic 的安全工作是认真的，但认为只要各家公司还在抢着先做出 AGI（能在大量任务上超过人类的通用 AI），安全让步就难以避免，单靠一家公司的自律解决不了问题。他对两家公司的评价是：OpenAI 内部很多人还没有真正意识到这种风险有多大；Anthropic 知道风险，却认为别人靠不住，所以必须自己先做出来。

Coxon 称，一些 AI 从业者私下比公开表态悲观得多，甚至担心 AI 会在本十年结束前毁灭人类。他自己判断，最激进的情形下，明年底 AI 就可能失控，因此这种决定不该只由几家公司的工程师内部拍板。