Claude混合推理中的速度-准确性权衡：测试时计算预算的实际工作原理

更长思考时间的真实经济学

Claude的混合推理架构基于研究人员所说的"测试时计算"，它涉及在推理过程中而非仅在训练期间分配计算资源。简单来说：该模型在您要求时花费更多计算周期，而不是为每个请求使用固定的思考量。对于评估此功能的组织来说，真正的问题不是推理理论上是否更好——它确实更好。真正的问题是成本和延迟权衡是否适合您的工作负载。

以下是实际发生的情况。混合推理模型可以切换到计算密集型模式，在提供最终答案之前明确生成中间推理步骤。该模型使用这些步骤来处理复杂问题，类似于人类在解决复杂数学问题时写出中间步骤的方式。但与人类数学家不同，您需要为Claude生成的每个令牌付费——包括您永远看不到的所有草稿工作。

计算预算如何控制权衡

一般来说，模型思考的时间越长，输出越好。努力级别是Claude Code如何让用户设置该权衡的方式——更多思考与更低延迟和更少使用限制冲击。Opus 4.7引入了一个新的xhigh（"超高"）努力级别，位于high和max之间，为用户提供对困难问题上推理和延迟之间权衡的更精细控制。

实际成本结构很直接但很严苛：每提升一个努力级别，调用成本大约会翻倍。这不是近似值——这是Anthropic已在系统中校准的模式。Claude使用的思考令牌计入您的总令牌使用量，并且它们会为每个响应增加延迟。

为了更具体，请考虑高端的性能提升。在数学问题求解（MATH 500）方面，Claude 3.7 Sonnet与扩展思考达到96.2%，与OpenAI模型具有竞争力。在AIME 2024（竞争性高中数学问题）上，Claude 3.7 Sonnet在并行扩展思考模式下以64,000令牌预算实现80.0%的准确率。这些不是假设基准——它们是您在标准化问题生产中会看到的准确性下限。但在每天跨数千个API调用部署这个功能是另一回事。

实际问题所在

混合推理模型听起来很优雅，直到您遇到现实世界的故障模式：过度思考。Claude Opus 4.5表现出一个显著的反向模式，其中准确性下降3.7%，而忠实度戏剧性增加。问题难度分析表明Claude破坏了23%的简单问题，这些问题在单样本推理中是正确的。研究人员假设存在"过度思考"效应：Claude有准确的初始直觉，但当被迫生成多个明确的推理路径时，它会对正确答案产生怀疑。如果您在例行分类或简单检索任务上运行扩展思考，您并不是在购买更好的答案——您是在付费破坏它们。

Anthropic在生产中以艰难的方式发现了这一点。在3月4日，他们将Claude Code的默认推理努力从高更改为中等，以减少一些用户在高模式下看到的非常长的延迟——足以使UI看起来冻结。这是错误的权衡。在用户告诉他们他们宁愿默认为更高的智能并选择为简单任务使用更低的努力后，他们在4月7日恢复了这一变化。工程团队了解到用户愿意容忍较慢的响应以换取正确性，但不愿意容忍便宜但错误的响应。

实现的实用指导

如果您使用此功能构建，框架很直接：任务复杂性驱动努力选择，而不是反之。对于困难的调试、多文件重构、架构决策、并发错误、安全敏感的变更或测试修复循环，除非您刻意优化速度，否则不要以低或中等努力运行。这不是营销——这是Anthropic自己事后分析中的操作指导。

对于您的用例来说，数学是值得计算的。如果您大规模处理客户支持电子邮件，在每条消息上设置扩展思考是站不住脚的——您的计算费用会激增，而不会有意义地改进模板匹配响应的准确性。如果您生成代码审查或审计财务文件，如果您不使用更高的努力级别，您可能没有为质量提升进行足够的收费。

Anthropic正在启动公开测试版中的任务预算，为开发人员提供一种指导Claude令牌支出的方式，以便它可以在更长的运行中优先处理工作。这是更灵活的控制层：您设置多步骤任务的总令牌预算，而不是固定的努力级别，让模型决定在哪里应用推理。它更适合您事先不知道复杂性的代理工作流程。

这对您的团队意味着什么

混合推理模型不是一个神奇的"始终开启"升级。这是您需要有意拉动的杠杆。首先审计您当前的Claude工作负载：哪些查询实际上受益于更深层的推理，您在哪些方面过度支付？然后为您的API调用进行工具化，跟踪每个任务的成本和每个努力级别的准确性。大多数组织发现70/30分割——70%的查询在低或中等努力下有效运行，30%真正需要高或最大。这种粒度是Claude方法的实际价值，而不是推理能力本身。

陷阱是假设因为模型可以思考更长的时间，所以您应该让它这样做。更好的做法是使思考成为您在实际改变输出的地方部署的实用工具。这就是经济学的工作之处。

指标	来源	详情
数学准确性（MATH 500），含扩展思考	RD World Online	数学问题求解的96.2%准确率
AIME 2024数学性能	Deep Learning AI	在并行扩展思考模式下以64,000令牌预算达到80.0%
研究生级科学推理（GPQA）	Deep Learning AI	整体84.8%；物理子集96.5%
每个努力级别的成本扩展	MindStudio	每提升一个级别成本大约翻倍
超时效应（Opus 4.5）	ArXiv	在简单问题上过度推理时准确性下降3.7%
可用的努力级别	Anthropic	低、中、高、xhigh（超高）、最大