过去两年，大模型竞赛的主线是参数规模和训练数据：谁的模型更大、喂的数据更多，谁就更强。进入新一轮周期后，风向明显转变——行业开始把资源投向“推理时算力”，也就是让模型在给出答案之前先“想一会儿”。这条路线正在改变算力结构、产品定价和评测方式，也把成本控制重新推到台前。
从堆参数到堆思考
所谓推理模型，指模型在回答前会生成一段较长的内部思考过程，再输出最终结论。与直接作答的模型相比，它会把复杂问题拆成若干步骤，试错、回看、校验，必要时推倒重算。这类模型的共同点是：思维链更长，在数学、代码、逻辑和科学推理类任务上的表现提升明显，但消耗的算力也更高。
这套思路的核心，是把“测试时计算”当成一种新的扩展方式。过去提升能力主要靠增加训练投入，现在则可以在推理阶段追加算力：想得越久，答得越准，但延迟和费用同步上升。
算力结构被改写
推理模型的普及，直接改变了数据中心的负载形态。训练是一次性的大投入，推理则是持续、分散且随用户量增长的支出。当模型每次回答都要“思考”几百甚至上千个隐藏词元，单次请求的成本会被放大数倍，电力、散热和带宽压力随之上升。
- 计费方式变化：从按调用次数计费，转向按输入输出词元、尤其是思考词元计费。
- 延迟成为产品指标：用户等待时间变长，流式展示思考过程成为常见设计。
- 分层策略流行：简单问题交给小模型，复杂问题才启用长思考模式。
成本与体验的两难
推理不是免费的。过度思考会带来两个问题：一是费用浪费，简单问题被反复推演；二是可靠性错觉，思考过程看起来严谨，结论却未必正确。为此，不少团队开始引入“思考预算”，限制模型思考长度，并训练模型判断何时值得深入、何时应当快速作答。
与此同时，蒸馏技术让推理能力向小模型迁移。经过训练的小模型在部分任务上接近大模型表现，却能在更低的成本下运行，这为端侧和私有化部署打开空间。开源与闭源之间的差距，也因推理范式的扩散而被重新丈量。
新的竞争点
可以预见，接下来的竞争不会只比谁答得对，还会比谁在同等成本下答得对。评测体系也需要调整：除了准确率，还要看单位成本的正确率、响应延迟和思考过程的可核查性。推理模型抬高了能力上限，但也提醒行业，真正的门槛在于把算力花在刀刃上。
从堆参数到堆思考，大模型的演进逻辑正在收敛到同一个问题：如何在有限的算力与预算下，稳定地输出可靠答案。这既是工程问题，也是商业模式问题。