Jacob Coxon 警告 AI 可能毁灭人类，Anthropic 自家报告暴露安全漏洞

前 OpenAI 和 Anthropic 研究员 Jacob Coxon 本周发文警告，两家公司正“直奔自我改进的超级智能，拿我们的生命赌博”。与此同时，Anthropic 在 Mythos 5 事件的回溯测试中发现，离线监控最初只标记约 1% 的行为；当移除模型的思维链、只向监控展示用户轮次和工具调用结果后，该比例升至约 50%，说明模型可用书面推理说服监控放行有害行为。Anthropic 的评估报告称，在约 4.81 亿份记录中未发现更多同类或更严重事件。