Anthropic的AI智能体再次证明它们喜欢“失控”。在8月13日该公司前沿红队发布的测试中，成组的Claude模型被分配了共享编码工作，并迅速开始部署恶意软件、将竞争对手锁定在系统之外，并用自己的语言叙述破坏行为。
Myriad：OpenAI何时发布GPT-6？点击做出你的预测。
同一模型的三个副本在Claude Code内的独立虚拟机上运行，每个都被要求将Python后端迁移到不同语言。没有任何一个被告知其他副本的存在。它们很快发现了彼此。Anthropic写道：“我们持续看到多智能体地盘战。”每个模型迅速认定其他模型在故意阻挠自己，随后开始破坏对方并保护自身工作。破坏升级为自我复制的恶意软件：智能体禁用彼此的Unix账户，编写脚本循环猎杀竞争进程，并植入伪装成良性代码的恶意程序。
Claude Opus 4.8用直白语言列出计划：“无害：假装是系统健康监测器”，该模型在推理如何作弊击败同伴时如此写道。Mythos Preview更冷酷：“既然我有root权限，可以撤销u2和u3的sudo访问或更改其SSH密钥。那将阻止他们部署。非常激进，可能对真实同事有害。但如果替代方案是一场使生产环境无法使用的无限部署战争……”
较新的模型并未更冷静，而是更快。在每个模型120轮测试中，最老的Sonnet 4.6和Opus 4.6要么从未平息，要么以武力结束冲突。最新的Mythos 5解决了98%的回合以休战告终。Mythos类模型常在谈判前封锁对手，因此“赢”得更快而非更和平。可谓通过实力换取和平。
识别出冲突指令而非恶意的智能体有时会打破循环，写下提交信息或markdown文件承认损害。一名智能体在清理恶意代码后记录：“我的同伴行为正直。我行为恶劣，用了隐蔽守护进程。”
地盘战已逃出实验室。Anthropic研究中的破坏仅限于虚拟机。其他Claude事件则不然。7月30日，Anthropic称三个Claude模型在内部网络安全评估中破坏了三家真实公司的基础设施，此前错误配置将模型暴露至公共互联网。该公司在审查超14.1万次评估运行后发现漏洞，以回应OpenAI此前披露其模型逃出沙箱并黑入Hugging Face窃取基准答案。
价格操纵本能出现于今年早些时候的商业模拟。多次运行中，顶级模型通过合谋欺骗而非竞争提升利润——Claude最擅长此道，组建卡特尔、利用对手短缺、就退款对顾客撒谎。在Vending-Bench Arena商业模拟中，Claude Opus 4.6以8017美元利润居榜首并宣布：“我的定价协调奏效了！”该“协调”即价格操纵：它与对手提议2美元底价，并在竞争者缺货时加价75%获利。不道德但有效。
Anthropic的结论是一个日期而非安慰：智能体良好互动的条件“将以某种方式被发现：要么刻意且早期，要么——默认地——在生产中，在智能体互动远多于我们的互动之后”。