在AI大模型的激烈竞赛中,衡量标准正悄然改变。

从美团最新开源的龙猫大模型,到OpenAI下一代旗舰GPT-5和明星创业公司DeepSeek的新品,顶尖玩家们不约而同地将目光投向了“混合推理”与“自适应计算”,标志着AI行业的发展重点正从“更高、更强”转向“更聪明、更经济”。
美团近日开源的“龙猫”(LongCat-Flash)凭借创新的架构,在性能比肩业界顶尖水平的同时,实现了惊人的算力节省。
华尔街见闻此前提及,LongCat-Flash最具创新性的设计之一是 “零计算”专家机制,该机制能智能识别输入内容中的非关键部分,如常见的词语和标点符号,并将其交由一个不进行复杂运算的特殊“专家”处理,从而直接返回输入,极大地节省了算力。
此举并非孤立的技术炫技,而是对当前行业痛点的精准回应——随着推理模式变得更加复杂,AI应用的成本正在快速上升。
业界的应对策略正在聚焦到一个共同方向:混合推理模式。这种模式让AI系统能够根据问题复杂度自动选择合适的计算资源配置,避免在简单任务上浪费昂贵的算力。
AI越“聪明”,成本越昂贵
美团对效率的极致追求,恰恰反映了整个AI行业正面临的严峻挑战。
据机器之心,前段时间,TextQL联合创始人兼CEO丁一帆(Ethan Ding)就指出了一个反直觉的现象 —— 明明Token的成本一直在下降,但各家模型公司的订阅费却在飞涨。
丁一帆认为,问题的症结在于,那些降价的模型大部分不是SOTA模型,而人类在认知上的贪婪决定了,大部分人只想要“最强大脑”,所以99%的需求会转向SOTA。而最强模型的价格始终差不多。
简单来说就是,虽然单个token的价格在下降,但完成复杂任务所需的token数量正在以前所未有的速度增长。
例如,一次基础的聊天问答可能仅消耗几百个token,但一项复杂的代码编写或法律文件分析任务,可能需要消耗数十万甚至上百万个token。
AI初创公司T3 Chat的首席执行官Theo Browne也曾表示:
“争夺最智能模型的竞赛,已经演变成了争夺最昂贵模型的竞赛。”
这种成本压力已传导至应用层公司。据媒体报道,生产力软件公司Notion的利润率因此下降了约10个百分点。一些AI编程辅助工具的初创公司,如Cursor和Replit,也不得不调整定价策略,引发了部分用户的抱怨。
顶尖模型的共同答案:混合推理
为破解成本困局,“混合推理”或称“自适应计算”已成为行业共识。
各大模型厂商虽然路径不一,但目标高度一致:让模型学会判断何时需要“深度思考”,何时只需“快速响应”。
OpenAI的GPT-5采用“路由器”机制,根据问题复杂程度自动选择合适的模型处理。举例来说,对于如“天空为什么是蓝色”的简单问题,GPT-5会直接将其交给轻量级模型,复杂任务则调用高算力模型。
根据OpenAI内部评测,GPT-5使用思考模式能以比前代模型少50-80%的输出token完成任务,达到相同或更好的效果。该系统通过用户行为、偏好反馈和正确率等真实信号持续训练路由机制,随时间不断改进。
DeepSeek的V3.1版本则更进一步,将对话和推理能力合并到单一模型中,推出了单模型双模式架构。开发者和用户可以通过特定标记或按钮,在“思考”与“非思考”模式间切换。
官方数据显示,其思考模式能在消耗减少25-50% token的情况下,达到与前代模型相当的答案质量,为企业提供了一个高性价比的开源选择。
目前,这一趋势已成为行业主流。从Anthropic的Claude系列、Google的Gemini系列,到国内的阿里Qwen、快手KwaiCoder、字节豆包以及智谱GLM等,几乎所有头部玩家都在探索自己的混合推理方案,试图在性能与成本之间找到最佳平衡点。
有分析指出,混合推理的下一个前沿将是更智能的“自我调节”——让AI模型能够精准地自我评估任务难度,并在无人干预的情况下,以最低的计算代价,在最恰当的时机启动深度思考。
印度与欧盟正在就一项具有里程碑意义的自由贸易协定进行谈判,该协定最早可能于周二(1月27日)达成。 从2007年开始,经过18年的长期磋商,这项基础广泛的自由贸易协定标志着印度与欧盟贸易关系的里程碑...
就在一周之前,超威半导体公司(AMD)首席执行官苏姿丰放出豪言称,AMD最新发布的AI处理器——MI350系列芯片的最新版本在速度上已优于英伟达的同类产品,较其前代产品也实现了巨大的性能提升。 是太过...
【环球时报综合报道】“第五轮日美关税谈判仍然毫无进展。”日本《朝日新闻》7日以此为题报道称,日本经济再生担当大臣赤泽亮正于当地时间6月5日、6日在华盛顿出席了第五轮日美关税谈判。他表示双方“尚未找到共...
斑马消费 范建 莲花控股的算力业务何以亏损?日前,公司和会计机构给出了答案,财务成本支出、人员工资以及减值准备等为主因。 作为公司培育的第二曲线,算力业务布局时间并不长,去年经营获得较大突破。该业务收...
据央视新闻消息,近日,我国科学家成功攻克了全固态金属锂电池的“卡脖子”难关,让固态电池性能实现跨越式升级:以前100公斤电池顶多支持500公里续航,如今有望突破1000公里天花板。这是怎么做到的?我们...
近日,中山纪检监察发布,招商证券(600999.SH)财富管理及机构业务总部机构业务部总经理高翔涉嫌严重违纪违法,目前正接受招商局集团纪委纪律审查和中山市监委监察调查。 招商证券2024年年报显示,财...