推理模型(Reasoning Model)
推理模型在给出最终答案之前,会先经过一个可见或不可见的“思考”阶段,一步一步地解决问题。
推理模型会把额外的 token 花在中间步骤上,这往往能提升数学、编程等多步问题的结果。一些开放模型带有开关,可以开启或关闭思考,在准确率与速度、成本之间做取舍。
额外的思考会占用上下文并消耗时间,所以对于简单的聊天或简短回答,推理模型并不总是最佳选择。比较模型时,请留意基准分数是否是在开启思考的情况下测得的。
推理模型在给出最终答案之前,会先经过一个可见或不可见的“思考”阶段,一步一步地解决问题。
推理模型会把额外的 token 花在中间步骤上,这往往能提升数学、编程等多步问题的结果。一些开放模型带有开关,可以开启或关闭思考,在准确率与速度、成本之间做取舍。
额外的思考会占用上下文并消耗时间,所以对于简单的聊天或简短回答,推理模型并不总是最佳选择。比较模型时,请留意基准分数是否是在开启思考的情况下测得的。