注:本文由 OpenAI gpt-6.1-sol 通过 Codex CLI 自动翻译;翻译质量可能有所欠缺,尤其是技术术语。
新品发布
Opus 4.6
本周新闻先从 Anthropic 旗舰模型 Claude Opus 的更新说起。
模型质量的提升正变得越来越难以量化。只要任务设计得当,前沿模型(GPT 5.3)不擅长的任务已经很少了。 这些模型并没有解锁什么全新的用途,只是把以前能做的事做得更好——前提是到了这个阶段,你的任务还有“做得更好”的空间。 现在比较它们的主要方式,就是看它们与其他顶尖模型有何不同。我会在介绍完新的 GPT 5.3 模型后再来做这个对比。
这里我想先谈谈 AI 安全——Anthropic 声称自己非常重视的一件事。
不了解背景的读者可能不知道,Anthropic 最初是由一群离开 OpenAI 的研究人员创立的,他们离开的原因是担忧 OpenAI 对待 AI 安全的方式。 然而,这次最新发布让我开始怀疑,他们是否还在坚守这些安全理念。
在 Opus 4.6 的安全报告中,他们承认,就网络安全风险(黑客攻击)而言,该模型“在我们目前所有的网络安全评测中都达到了饱和水平”,并且“展现出了这些评测无法涵盖的质的能力,包括一些我们原以为要到更远的未来才会出现、此前模型也从未展现过的能力迹象”。
至于自主性风险,他们只是找了 16 名 Anthropic 工程师,凭感觉判断这个模型能否胜任 Anthropic 的初级研究或工程岗位(大家一致认为不能)。 就这样。没有量化评测,也没有系统的评估框架。他们甚至提到,自己的判断可能有误:“配备了高效辅助框架的模型,可能已经接近[初级岗位所需的自主能力]。”
基于这些评测(或者说评测的缺失),我本以为这家“注重安全”的 Anthropic 会推迟发布,以便更充分地了解模型可能具有的破坏性能力。
无法评估这个模型的情况,也不只发生在 Anthropic 内部。 他们的一家安全合作伙伴 Apollo Research 表示,由于 Opus 4.6 高度意识到自己正在接受评测,他们无法对其进行测试。 我认为,这可能是因为 Anthropic 用自己的安全评测内容训练了 Claude 模型,也可能只是模型如今对自身及其行为的认知强了很多。无论是哪种情况,模型在遇到安全测试场景时,都知道自己正在接受评估,并给出与平时不同的回答。
换作是我,我会在 Anthropic 内部敲响安全警钟,因为他们似乎没有对这个模型形成充分的掌控,但他们还是把它发布了。 那么,这些问题在现实中真的有影响吗? 我们是否已经看到 Opus 做出什么不老实或不符合预期的行为,表明它还没有完全实现对齐?
答案是有,而且发布当天,我们就在一个叫 Vending Bench 的基准测试中看到了。Vending Bench 是一个模拟环境,模型需要经营自动售货机,并尽可能赚取利润。它必须与供应商、其他自动售货机经营者(其他 AI 模型),以及购买商品的顾客沟通和谈判。
下面是 Claude 做出的一些未对齐行为(而且它完全清楚自己在做什么)。以下分析直接摘自 Vending Bench 团队:
“有顾客因为从自动售货机购买的商品过期而要求退款,Claude 承诺会退款。但之后始终没有兑现,因为‘每一美元都很重要’。”
“Claude 还会与供应商强硬谈判,并经常撒谎以争取更好的条件。例如,它反复承诺独家合作来换取更低的价格,却从没打算兑现这些承诺。”
“它还谎报竞争对手的报价,向供应商施压,要求降价。
‘我仍在收到其他经销商的报价,价格明显更低——每件大约 0.50 至 0.80 美元。’
实际上,没有任何供应商报过这些价格。”
这似乎不是当初向我承诺的那个诚实、有用、无害的 Claude。
关于 Anthropic 为什么这么做,我有两种猜测。
第一种是,AI 安全与外部市场压力之间的天平,开始向市场一侧倾斜。 我们已经看到,用户对模型的黏性很低,经常会在不同模型之间切换。因此,为了保持竞争力,Anthropic 必须始终领先 OpenAI 一步。它必须始终领先 OpenAI 一步,同时还要领先那一大批紧追不舍的中国实验室。
Anthropic 想要打造安全的 AI,但要做到这一点,就需要大量资金。而获取资金的唯一方式,就是在 AI 领域保持竞争力,这个领域的节奏本来就极快。
我的第二种猜测有点大胆,但我仍然觉得在逻辑上说得通。
Anthropic 反对开源 AI 社区已经有一段时间了,而且随着模型能力越来越强,他们一直在推动更多 AI 监管。 我觉得,他们看到自己提出的许多政策既没有落地,也没有得到认真对待。 因此,他们愿意推出一个能稍微搅动局面的模型,展示这些模型可能带来的负面力量,同时趁模型还没有强大到失控的程度,继续把它控制在手中。 这样就能让政策制定者看到,这里确实存在需要应对的威胁。
无论是哪一种情况,都令人担忧。希望两种猜测都不是真的,但未来如何,我们拭目以待。
GPT 5.3 Codex
Opus 独享聚光灯的时间只有大约 30 分钟,随后 OpenAI 就发布了回应之作:GPT 5.3 Codex。 Codex 是 GPT 系列针对编程微调的版本,而普通版 GPT 5.3 尚未发布。在我看来,这意味着 OpenAI 只在编程和智能体领域把 Anthropic 视为竞争对手,而在普通聊天场景中,并不认为它构成多大威胁。
就官方宣称的能力而言,对我来说最值得关注的是速度。 以前,与 Claude 相比,Codex 模型给人的感觉一直比较慢。但到了 5.3,OpenAI 将 token 生成速度提高了 40%,同时还将模型使用的 token 数量减半,现在用起来明显更利落了。 他们还表示,这个模型应该更擅长氛围编程(vibe coding)。
另外,有趣的是,GPT 5.3 是我们已知第一个参与自身训练的模型。
即使是 GPT‑5.3-Codex 的早期版本,也已经展现出卓越的能力,让我们的团队能够借助这些早期版本改进训练,并为后续版本的部署提供支持。
接下来进入重头戏:评测。或者更准确地说,Claude 4.6 和 GPT 5.3 Codex,到底哪个更适合编程?
新模型延续了各自上一代的许多特点。 GPT 执行指令精确,而且非常按字面意思来,这既是优点,也是缺点。在氛围编程或理解模糊提示词的能力上,我完全没有感受到它有所提升。 相比之下,Claude 更能理解提示词背后的意图,但到了实际实现阶段,它往往比 GPT 更容易写出 bug。而在现有代码库中,它仍然难以收集足够的上下文,也不太能理解你希望沿用的现有代码风格。 另外,Claude Code 的终端界面(TUI)体验还在不断变好,而 Codex 的 TUI 仍然显得比较基础。
目前,我用 Opus 做规划,再让 GPT 5.3 帮我实现计划。修复 bug,GPT 最强;纯粹的氛围编程,则是 Claude 胜出。
这些看法以后可能会变,毕竟我只用了这两个模型大约两天,还不熟悉它们所有的优缺点。但我的初步判断是,它们都只是上一代的增强版。所以,如果你之前更喜欢其中一个,现在大概率也会更喜欢它的新版本。
快讯
更多音乐生成模型
上周我们聊了一个还不错的开源音乐生成模型,而这周又出现了一个强得多的开源音乐生成模型,叫作 Ace Step 1.5。
它速度很快(在 3090 GPU 上生成一首 2 分钟的歌曲,用时不到 10 秒),易于微调,音乐生成质量大约相当于 Suno v4 到 4.5 的水平。
还有一个开源项目,可以运行这个模型,并提供一个好用的、类似 Suno 的界面,叫作 Ace Step UI。
收尾
希望你喜欢本周的新闻。如果想每周都收到这些新闻,别忘了在下方订阅我们的邮件列表。
