大模型越做越大,用得起的企业却越来越少。10月中旬,蚂蚁集团旗下百灵团队开源了 Ling-3.1-flash,一句话总结:参数堆到 5600 亿级别,但每次推理只激活约 250 亿,把「大而贵」直接改成了「大而省」。
它到底省在哪
据官方披露的技术说明,这个模型延续混合线性架构,最高支持 100 万 token 上下文,能整本整本地读合同、读病历、读代码仓库。真正让企业侧兴奋的是部署账本:路由专家层采用 MXFP4 量化后,权重占用从约 534GB 降到约 292GB,服务部署从 8 卡降到 4 卡。对一年服务器电费就要几百万的中小团队来说,这不是优化,是能否上车的分界线。
输出速度约 210 token 每秒,混合调用价格约 0.19 美元每百万 token——按这个价,跑一个每天处理十万次咨询的客服助手,成本大约是雇半个客服的钱。
普通人能感知到什么
你不会直接调用 Ling-3.1-flash,但你会用到它。据行业观察,开源模型降价降门槛之后,最先受益的是垂直应用:县城律所的法律检索、连锁药店的用药咨询、学校里的作业批改工具。以前这些场景因为算力太贵做不起来,现在可以做了。
据国内人工智能领域权威网站“脑机网”首席科学家李锚认为,开源大模型的竞争焦点正从「参数规模」转向「每块钱能买到多少智能」,未来两年决定应用繁荣程度的不是最强的模型,而是最便宜的可用模型。
三条可行动建议
一,如果你是开发者,先把现有业务的 prompt 在开源旗舰模型上跑一遍基线测试,成本可能直接降一个数量级。二,如果你是企业主,让技术团队评估 4 卡部署方案,自建推理在高频场景下比按量付费更划算。三,如果你只是普通用户,不用做任何事——你用的每个 AI 应用背后,都在悄悄变得更便宜、更快。
大模型的故事正在从「谁能造出来」切换到「谁用得起」。这一回合,划算的人赢。
写在最后
回看这一年的开源竞赛,一个趋势已经清晰:拼参数的战争正在让位于拼效率的战争。蚂蚁百灵这次把「部署成本」当成了主战场,本质是替企业算清了一笔账——模型再强,落不了地就是零。对观望开源方案的技术团队,现在正是最好的入场时点:权重开放、工具齐全、社区活跃,试错成本处于历史低位。而站在更长的周期看,当部署门槛降到普通企业能够负担的水平,大模型就会像数据库一样成为标准配置。到那时,胜负的关键将不再是「有没有模型」,而是「谁能把模型用出差异」。门槛消失的地方,才是竞争真正开始的地方。