推理模型的特点
| 普通模型 | 推理模型 | |
|---|---|---|
| 响应方式 | 直接给出答案 | 先内部思考,再给出答案 |
| 擅长领域 | 通用对话、写作、翻译 | 数学、逻辑推理、编程、复杂问题 |
| 响应速度 | 较快 | 较慢(需时间思考) |
| 成本 | 较低 | 较高(思考过程亦消耗 Token) |
控制推理强度:reasoning_effort
OpenAI 风格的推理模型支持reasoning_effort 参数,用于控制思考深度:
reasoning_effort 常见取值:
| 值 | 含义 | 适用场景 |
|---|---|---|
low | 较少思考,速度快、成本低 | 相对简单的推理任务 |
medium | 中等思考(常为默认) | 一般推理任务 |
high | 深度思考,速度慢、成本高、质量高 | 高难度数学、逻辑或编程 |
获取思考内容:reasoning_content
部分推理模型(如 DeepSeek-R1)将思考过程与最终答案分开返回:- 最终答案位于
choices[0].message.content。 - 思考过程位于
choices[0].message.reasoning_content。
reasoning_content 及其字段位置取决于具体模型。如应用仅需最终答案,使用 content 即可,可忽略思考内容。
Claude 思考模式
Claude 系列通过thinking 参数启用扩展思考(调用 Anthropic 原生 /v1/messages 接口时):
budget_tokens:分配给思考过程的 Token 预算。
Gemini 思考配置
Gemini 系列支持thinkingBudget 或 thinkingConfig 控制思考程度(调用 Gemini 原生接口时)。具体字段以 Gemini 模型文档为准,网关将透传这些参数。
流式模式下的思考内容
流式模式下,思考内容通常以增量形式先于最终答案返回。可分别拼接delta.reasoning_content 与 delta.content,实现「先展示思考、再展示答案」的效果。
使用建议
- 按任务复杂度选择模型。数学证明、复杂逻辑、算法题、多步规划使用推理模型;日常问答、翻译、改写使用普通模型。
- 控制预算。使用
reasoning_effort或budget_tokens将思考量控制在必要范围内。 - 注意成本。思考过程计入输出 Token,账单会更高,应在 用量日志 中关注。
- 思考内容是否展示。可按产品需求决定是否向用户展示思考过程。展示可增加可信度,隐藏可使界面更简洁。
