推理模型怎么调:何时多想,何时降低强度

推理模型什么时候值得多想,什么时候应该提速?本文梳理 OpenAI、Claude、Gemini 和 DeepSeek 的推理强度参数、默认档位、思考开关与输出限制,说明思考 token 如何计费,并结合代码修改、业务决策和智能体工作流,介绍怎样用相同任务验证效果,找到能稳定通过验收、等待时间和成本都可接受的设置。

发布于

推理模型怎么调:何时多想,何时降低强度

如果一次推断错误的代价高于多等一会儿,推理模型就值得用。先从官方默认设置开始:常规任务降低推理强度,棘手决策再调高。GPT-6.1 Sol、Claude Opus 5.5 和 Gemini 4 Argon 的默认值都是 medium。

下文的参数设置已于 2026 年 10 月 31 日对照各厂商当时的在线文档核实。使用时要分清三件事:选哪个模型、让它投入多少推理工作、允许它生成多少输出。这三项需要分别决定。

什么是推理模型?

推理模型会在给出答案之前,额外生成一部分内容来推演问题。它们仍然属于大语言模型(LLM),以 token 为单位处理和生成内容;token 是文本及其他模型数据的小单元。额外的推理有助于模型比较不同方案、安排步骤,并解决步骤之间存在依赖的问题。OpenAI 推理指南将这部分内部工作称为推理 token。

可以把它想成制图师规划路线。路程简单,直接指个方向就够了;路线复杂,就需要先做些推演:检查路口、排除不通的路,再重新考虑走法。交给客户的可能仍然只是一句简短的指路说明,区别在于背后做了多少工作。

对创业者来说,改写一封客户邮件与规划一次不中断现有客户服务的数据库迁移,正好体现了这种差别。两项任务都输出文字,但后者需要在相互影响的约束条件之间持续推理。

大型推理模型:模型能力与推理强度是两回事

选择更大或能力更强的模型,与调高推理强度,是不同的选择。换模型,是换了执行任务的系统;调高强度,是让已经选定的模型为这次请求投入更多工作。无论哪种方式,都无法补上缺失的业务事实。

测试推理强度时,应固定使用同一个模型。否则,就无法判断效果改善来自模型、参数,还是两者共同作用。基础术语可参阅 AI 中的 token 是什么。

推理模型如何工作?

思考会消耗生成量,而这些内容可能始终不会出现在最终答案里。模型既可以在回答前思考,也可以在工具调用之间思考,根据工具返回的结果决定下一步行动。Anthropic 在其思考指南中将这两种方式称为前置思考和交错思考。

OpenAI、Anthropic 以及 Google 的 Gemini 4 Argon 都将思考 token 按输出计费,包括用户看不到的思考内容。

因此,答案长短并不能准确反映模型做了多少工作。一条简短建议,背后也可能经过大量推理。提高推理强度,通常意味着用更多时间和生成的 token 换取改善结果的机会;它并不对应固定的延迟或 token 数量。

输出硬上限则是另一项控制。OpenAI 的 max_output_tokens、Claude 的 max_tokens 和 Gemini 的 max_output_tokens,都同时涵盖思考和回答。OpenAI 与 Google 明确提醒:如果推理阶段就耗尽额度,响应可能无法完成,甚至没有任何可见答案。参见 OpenAI 输出限制、Claude 思考说明、Gemini token 限制。

黏土风格的地图工作台将输入、思考和最终答案分开,标示输出预算的拱门横跨生成内容所在区域。
输出额度必须同时容纳思考和答案;此图仅作概念说明,不代表 token 的实际占比。

当前 AI 推理模型对比:各家参数到底怎么设?

各家 API 的强度档位不同,关闭思考的方式也不同。请使用实际调用的接口所对应的字段名。

模型或 API 系列推理强度参数支持的取值与默认值思考开关或限制
OpenAI GPT-6.1 SolResponses:reasoning.effortlow、medium(默认)、high、xhigh、max不支持 none 或 minimal
Anthropic Claude Opus 5.5Messages:output_config.effortlow、medium(默认)、high、xhigh、max自适应思考始终开启
Google Gemini 4 ArgonInteractions:generation_config.thinking_levellow、medium(默认)、high使用文档列出的档位;没有 minimal 设置
DeepSeek Flash 和 V4 ProChat Completions:reasoning_effortnone、low、high(默认)、maxnone 关闭思考,但显式设置的 thinking 对象可以覆盖这一行为

这张表用于比较接口兼容性,并非模型质量排名。不同模型使用同一个档位名称,也不意味着计算量相同。

OpenAI:GPT-6.1 Sol 最低只能调到 low

OpenAI GPT-6.1 Sol 的模型 ID 是 gpt-6.1-sol。在 Responses 请求中,将 reasoning 设为 {"effort":"medium"},即可显式指定默认值。它支持的最低档位是 low,不能用 none 或 minimal 替代。工具调用需要使用 Responses API。参见 GPT-6.1 Sol 文档。

OpenAI 官方 GPT-6.1 Sol 模型文档及其支持的推理设置。
OpenAI:GPT-6.1 Sol 模型文档

OpenAI 当前的模型目录还列出了支持推理控制的 GPT-6 Astra、GPT-6.1 Terra 和 GPT-6 Luna。Terra 与 Luna 除了 low、medium、high、xhigh 和 max,还提供 none;Astra 则从 low 起步。因此,如果必须彻底关闭推理,模型选择也可能需要调整。参见 OpenAI 模型目录。

对技术开发者来说,可以先在范围明确的代码修改上测试 low;当任务需要追踪整个系统中的交互关系时,再提高强度。要明确哪些条件必须始终成立,以及如何验证结果。OpenAI 建议给出清晰的指令和约束,而不是要求模型把思维链完整写出来。参见推理最佳实践。

GPT-6.1 Sol 配置指南介绍了相关的智能体工作流。如果是在应用中操作,可参阅单独的 ChatGPT 推理滑块指南。

Anthropic:Claude Opus 5.5 无法关闭思考

Anthropic Claude Opus 5.5 的模型 ID 是 claude-opus-5-5。省略 thinking,或发送 thinking: {"type":"adaptive"},都会采用始终开启的自适应思考。使用 output_config: {"effort":"medium"} 即可指定默认推理强度。发送 thinking: {"type":"disabled"} 或手动配置 budget_tokens,都会返回 400 错误。参见 Opus 5.5 API 变更。

Anthropic 官方 effort 文档,展示 Claude 回答推理强度的配置方式。
Claude:推理强度配置

Claude 的 effort 参数影响整个响应,包括解释和工具调用,并不只是限定隐藏 token 的预算。调低该参数,既可能改变思考时长,也可能影响智能体使用工具时的细致程度。参见 Anthropic effort 文档。

当前主推的模型还包括 Claude Fable 5.1、Claude Sonnet 5.5 和 Claude Haiku 5.5,它们都支持思考,但关闭方式不同:Sonnet 在 low、medium 或 high 档位下接受 thinking: {"type":"between_tools"},可跳过前置思考;Haiku 在这些档位下接受 disabled。不要未经核对,就把 Opus 的配置照搬到同系列其他模型。参见当前 Claude 模型和思考配置。

如果智能体需要无人值守运行,应检查降低强度后,它是否仍会完成必要的验证。Opus 5.5 智能体与编程指南进一步讨论了这项部署决策。

Google:Gemini 4 Argon 按档位控制思考,不再手动设预算

Google Gemini 4 Argon 的模型 ID 是 gemini-4-argon。Google 当前的 Interactions API 接受 generation_config: {"thinking_level":"medium"}。支持的档位为 low、medium 和 high,默认是 medium。参见 Gemini 4 Argon 指南。

Google 官方 Gemini 4 Argon 指南,展示当前的思考档位配置。
Gemini:Argon 思考参数

如果应用仍使用 generateContent,REST 字段是 generationConfig.thinkingConfig.thinkingLevel;Python SDK 则使用 thinking_config 及其中的 thinking_level。在 Argon 上,旧字段 thinkingBudget 已弃用:单独使用时会映射到一个档位,并产生警告;与 thinkingLevel 同时发送则会触发 400 错误。minimal 不受支持。参见 Google generateContent 思考参数参考。

Google 当前还列出了支持思考的 Gemini 3.8 Flash、Gemini 3.6 Flash 和 Gemini 3.5 Flash-Lite。它们的默认值和支持档位各不相同,所以名称里有“Flash”,并不意味着没有推理能力。参见 Gemini 模型目录和思考档位对照表。

创业者在评估 Argon 时,应先选一个有代表性的任务,检查答案后再决定是否提高档位。Gemini 4 Argon 详解讨论了更全面的采用决策。

DeepSeek:先核对模型别名,再看强度映射

DeepSeek 当前通过 deepseek-flash 提供 DeepSeek-V4.1-Flash-1017,通过 deepseek-v4-pro 提供 DeepSeek-V4-Pro-0813。两者都支持思考模式和非思考模式。这些是厂商模型页面当前列出的版本。

DeepSeek 官方思考模式指南及推理强度参数的映射关系。
DeepSeek:思考模式与推理强度

在 Chat Completions 中,reasoning_effort 接受 none、low、high 或 max。两个控制参数都未提供时,默认开启思考,强度为 high。显式设置的 thinking: {"type":"enabled"} 或 thinking: {"type":"disabled"},在控制思考开关时优先于 effort 字段。兼容取值会进行映射:minimal 映射为 low,medium 和 xhigh 映射为 high。参见 DeepSeek Chat Completions 参考文档。

当网关为所有厂商提供同一套下拉选项时,这种映射尤其需要留意。选择 medium,并不会让 DeepSeek 获得一个原生的 medium 档位。使用工具时,还要按文档要求保留返回的 reasoning_content;后续启用工具的请求如果漏掉这部分内容,可能触发 400 错误。参见 DeepSeek 思考指南。

DeepSeek V4 系列指南讨论了模型选择。就接入而言,首先要确认的是:发出的参数是否确实启用了你想要的模式。

推理模型与非推理模型怎么选?先看任务

当任务涉及相互影响的约束、需要比较不同方案,或推断错误的代价较高时,应提高推理强度。如果转换规则明确、结果容易检查,就可以调低。若缺少关键证据,应先补齐证据,再考虑提高强度。

黏土风格的决策地图先将事实缺失的情况引向证据收集,再将复杂权衡引向更高推理强度,将常规任务引向更低强度。
先补齐缺失的证据,再根据任务需要多少推理来选择强度。

**对已获融资的创业者:**从给定的会议逐字稿中提取已商定的行动项,可以尝试较低强度;在合同义务、人员配置和现金约束之间解决产品路线图冲突,则值得投入更多推理。应提供真实约束,并要求建议中列明假设和尚未解决的问题。目标是做出更好的决策,而不是得到一份更长的备忘录。

**对中型企业 CTO 或资深运营负责人:**应将常规客服分类与例外情况处理分开。类别明确的工单,不应自动获得与涉及多项冲突政策、情况模糊的案例相同的推理投入。要仔细评估例外情况的处理流程,并在应用层保留权限校验。将推理强度调高,并不等于授权模型退款或修改账户。

**对独立开发者:**对于局部、要求明确的修改,选择能够稳定完成任务的最低档位。若是横跨多个服务的间歇性故障,需要模型辨别多种可能原因,就提高强度。尽可能提供日志和失败的测试。如果模型看不到故障,额外思考可能只是把猜测说得更详尽。

**哪些团队应先缓一缓:**如果还没有清晰定义什么结果才算正确,就应先明确标准,再把较高强度设为生产默认值。如果现有低延迟工作流已经能通过检查,可以继续使用,并单独评估例外情况。

深度思考有哪些被夸大的地方?

思考更多不保证答案正确,也无法代替从未提供给模型的资料。模型完全可能围绕一个错误前提,编出一套看似周密的论证。证据、计算和最终产物,都应独立核查。

可见的思考摘要也不是完整的审计记录。Anthropic 明确说明,展示的思考内容是摘要,而非原始推理过程;Google 则通过 API 提供思考摘要和签名。判断应落在最终答案及可核验的操作上,而不是看思考展示显得多么高深。参见 Claude 思考输出和 Gemini 思考输出。

此外,high 并不是跨厂商通用的性能等级。上表中的档位、默认值和限制各不相同,DeepSeek 还明确重新映射了若干档位名称。即使用名称相同的推理强度来比较不同厂商,也不能据此认定它们花了同样的时间或算力。

要求简洁作答仍然有用,因为这能约束交付内容。但不要把“回答简短”理解为关闭了回答之前的思考。

如何选出最适合的推理模型,并找到最低合格档位?

最合适的设置,是在可接受的等待时间内,能稳定产出合格结果且成本最低的设置。先用同样的任务和证据比较模型,再分别调整每个模型的推理强度。当前 AI 模型对比提供了更全面的选型参考,具体档位则要由实际工作负载决定。

  1. 先定义什么叫合格

    选择一个经常执行、结果可以核验的任务:代码修改要通过回归测试,提取结果要与提供的记录一致,建议要满足所有明示约束。测试案例要包含难例,不能只选最容易成功的情况。

  2. 固定其他条件,只比较推理强度

    保持提示词、证据、工具和输出额度不变。将文档中的默认档位与紧邻的较低、较高受支持档位进行比较。对于结果影响重大的任务,应重复测试同一批案例,避免一次碰巧答对就决定最终配置。

  3. 衡量整个任务的完成情况

    记录是否成功、总耗时、生成的 token,以及重试或人工修正情况。OpenAI 提供 usage.output_tokens_details.reasoning_tokens;Gemini Interactions 提供 usage.total_thought_tokens。应按各 API 的定义读取用量字段,不要假定所有厂商的统计口径相同。参见 OpenAI 用量说明和 Gemini 用量说明。

  4. 只为特定难例提高档位

    保留能够通过检查的最低档位。将已知难例交给更高档位,并在重试前分析失败原因:缺证据就补证据,推断本身困难才可能受益于更多思考。不要因为一个复杂案例有所改善,就给所有请求都提高强度。

**下周一就能做的事:**找一个目前统一使用同一推理档位的常规工作流,定义验收标准,再用保存的案例比较各档位。只有完整测试结果足以支持调整时,才修改默认值。如果没有改善,就保留更简单的配置。

常见问题

推理的 7 种类型是什么?

这个问题讨论的是演绎、归纳等推理方式的分类,与模型配置是两回事:主流 API 并没有通用的七档推理强度体系。请以具体模型和接口支持的设置为准。

AI 是怎样进行推理的?

推理模型在回答之前,会生成中间思考内容来推演问题,也可以在工具调用之间继续推理。这些额外工作可能改善复杂任务的结果,但会增加生成量和等待时间。

5 大主流 AI 模型有哪些?

并不存在固定的“五大模型”标准。本文介绍的五个当前示例是 GPT-6.1 Sol、Claude Opus 5.5、Gemini 4 Argon、DeepSeek-V4.1-Flash-1017 和 DeepSeek-V4-Pro-0813。各厂商文档中的控制方式不同,应按任务选择,而不是按数量凑名单。

哪个 GPT 最擅长推理?

OpenAI 将 GPT-6 Astra 定位为能力最强的模型,将 GPT-6.1 Sol 定位为兼顾能力与成本的模型。这是厂商定位,并不保证它们在你的任务中的表现。应根据验收标准,比较它们的结果和推理强度设置。参见 OpenAI 模型目录。

哪个 AI 模型的推理能力最好?

本文并未得出一个适用于所有工作负载的最佳模型。应使用相同证据、检查标准和完成要求比较当前候选模型,并将耗时、重试和生成的 token 一并纳入决策。

哪些 AI 擅长逻辑推理?

当前 OpenAI、Claude、Gemini 和 DeepSeek 的推理模型都可作为候选。对于逻辑要求较高的工作,应明确列出约束,并尽可能通过独立计算、测试或来源核验结论。

ChatGPT 是推理模型吗?

ChatGPT 是应用。推理能力取决于应用内部使用的模型及其配置。应用中的思考控制与 API 的 effort 字段是不同的操作入口;应用内的使用方法可参阅上文链接的滑块指南。

订阅邮件通讯,获取选择和使用 AI 工具的实用指南。

发布日期
分类
AI
ChatGPT Plugins 插件指南:团队配置、权限与 ServiceNow 场景

ChatGPT Plugins 插件指南:团队配置、权限与 ServiceNow 场景

ChatGPT 插件如何安装,团队管理员又该怎样管好权限?本文梳理 Business 与 Enterprise 的配置入口、应用连接、数据访问和操作确认机制,结合 ServiceNow 事件调查、Salesforce 商机复盘与 Slack 项目周报,说明如何选定试点、审核结果,并规划自定义 GPT 迁移。2026年10月30日AI
自定义 GPT 停用时间表:各套餐期限与迁移方案

自定义 GPT 停用时间表:各套餐期限与迁移方案

自定义 GPT 何时停用,企业工作流该迁到哪里?本文梳理各 ChatGPT 套餐的停用日期与例外安排,说明哪些任务适合插件、哪些上下文应放进 Projects,以及自定义操作为何需要另行重建集成。附迁移步骤、文件上限和交接清单,帮助团队保存指令与源文件,核查共享权限,并让实际使用者完成验证。2026年10月30日AI
Claude 法律助手怎么用:插件、Artifacts 与首周试点指南

Claude 法律助手怎么用:插件、Artifacts 与首周试点指南

Claude 法律助手适合哪些任务,律所和企业法务如何开始试点?本文梳理法律插件、连接器与 Artifacts 的分工,对比套餐权限、数据条款、保留和共享设置,并结合 Anthropic 的合同审查演示,说明如何核查原文、关联补充协议、记录修正负担,在律师监督下完成首周试用,再判断是否扩大使用。2026年10月30日AI
AI库存管理实战:需求预测、补货决策与 30 天试点

AI库存管理实战:需求预测、补货决策与 30 天试点

AI库存管理能做什么,哪些采购决策仍需人工把关?本文梳理需求预测、再订货点与安全库存的区别,说明历史销量、缺货记录和供应商交货周期该如何准备,并按业务规模介绍软件候选。通过 20 个 SKU、30 天试点,与现有电子表格对照预测误差、采购质量和审核投入,判断工具是否值得扩大应用。2026年10月30日AI
AI RFP 软件选型指南:2026 年 6 款工具对比

AI RFP 软件选型指南:2026 年 6 款工具对比

AI RFP 软件该怎么选?本文对比 AutoRFP.ai、Inventive AI、Iris、Loopio、Responsive 和 AutogenAI,按团队分工、答案库成熟度及审核流程判断适用场景,梳理价格、额度与试用限制,并提供真实项目评估和提交前核查方法,帮助你找到能减少返工的投标响应工具。2026年10月30日AI
Consensus AI 评测:查论文、核引用,免费版够用吗?

Consensus AI 评测:查论文、核引用,免费版够用吗?

Consensus AI 适合为商业主张查找学术证据,但不能替代最新市场调研。本文说明如何检索论文、核查引用原文、区分全文与摘要分析,以及怎样判断研究是否适用于你的产品和客户;同时梳理免费版与 Pro 的价格、消息及 Deep 综述额度,对比 ChatGPT 和 Perplexity,帮助你决定何时值得付费。2026年10月29日AI
Spellbook 与 AI合同审查软件怎么选?2026 年 7 款工具对比

Spellbook 与 AI合同审查软件怎么选?2026 年 7 款工具对比

Spellbook、LegalOn、Luminance 等 7 款 AI合同审查软件怎么选?本文按规则初审、Word 修订、合同库查询和审批流程对比功能、定价与试用限制,并提供同一份 NDA 的 30 分钟初筛方案,帮助核查原文依据、修改质量和律师复核成本。区分免费个人方案与企业使用条件,明确人工审核责任。2026年10月29日AI
Gemini 4 Carbon 怎么用?开放资格、跑分与价格全解析

Gemini 4 Carbon 怎么用?开放资格、跑分与价格全解析

Gemini 4 Carbon 尚未向公众开放,榜单领先是否值得等待?本文梳理 Google 公布的开放顺序、Fairwind 申请规则、与 Argon 的关系、基准测试条件和初期优惠价格,说明开发者该如何准备测试任务、核算长期成本,以及何时才值得切换模型,让团队在等待权限期间继续推进现有产品交付。2026年10月29日AI
订阅通讯

每周日,一封信。写运转中的系统,不写热评。

每周一期。无垃圾邮件。随时退订。