11月5日凌晨,月之暗面做了件技术上很大方、硬件上很“劝退”的事:把Kimi K3.1 Pro的完整模型权重,原封不动放上了HuggingFace,任何人都能下载。据澎湃新闻披露,消息传出后海外技术社区瞬间热闹起来,连英伟达的AI官方账号都公开留言祝贺。
大方是真的:开放完整权重,意味着开发者和企业不再只能隔着API调用,而是可以把整个模型搬回自己机房,自己部署、自己微调、自己改。劝退也是真的——这套权重文件合计1561GB。
1561GB是什么概念
一部高清电影大约5GB,这个模型相当于三百多部高清电影。你的1TB硬盘,塞进去一半就满了。
而这已经是压缩过的版本。据21世纪经济报道查阅的模型卡,2.8万亿参数如果用普通16位精度存储,大约需要5.6TB,采用MXFP4低精度量化后才压到1.56TB。
即便如此,按单卡141GB显存估算,光是把权重加载进显存,就至少需要12张加速卡,推理时还要额外留出缓存空间。普通工作站、常见的8卡服务器,基本无法承载。
模型本身的结构也够吓人:总参数2.8万亿,采用混合专家架构,896个专家里每次推理只激活16个,外加2个共享专家,单次激活参数约1040亿,支持100万token的超长上下文,原生带视觉理解能力。
“开源”为什么要打引号
权重放开了,但这次开放并不等同于传统意义上的开源。据官方披露,训练代码和原始训练数据集并未公开,商用要遵循厂商自定义的许可协议。
协议里的红线划得很具体:企业如果对外提供基于这套模型的推理或微调服务,连续12个月相关收入超过2000万美元,商用前必须和月之暗面单独签约;基于模型开发的商用产品,月活破1亿或月收入超2000万美元,要在产品界面显著位置标注Kimi K3.1 Pro。
换句话说,发动机卖给你了,但拿发动机去开出租行,得先谈好份子钱。
真正的生意在下一步
对普通用户来说,入口依然是API:据21世纪经济报道,开放平台上输入每百万token为13元,输出为68元,权重开放与否,手机上的体验不会有任何变化。
但对两类人,这一天很关键。一类是金融机构、大型企业,它们要的是数据不出域——权重在手,模型可以整套搬进内网。另一类是算力厂商:就在权重开放同一天,昇腾宣布完成当日适配,依托vLLM Ascend和SGLang框架,模型可以直接在昇腾硬件上部署验证。
还有一个容易被忽略的细节:同一天,月之暗面同步推出了托管智能体服务,把支撑AI智能体运行的框架做成云端服务,企业不用自己搭运行环境,按需接入即可。据媒体报道,这套底层框架如果企业自建,可能需要数月时间。
一边交出权重,一边接住托管——权重负责把生态伙伴拉上船,托管服务负责把他们的日常运营留下来。评测数据也在给这件事抬轿:据Arena平台的Agent Arena榜单,K3.1 Pro排在开放权重模型第一位、全部参评模型第十三位,净改进率达到5.1%,而上一代只有0.9%。
权重大方地送出去,账算得一点也不含糊。这场开放真正的较量,不在下载页面上,而在接下来谁替谁养模型。
免责声明:本文观点依据公开报道写成,仅供参考,产品信息以官方发布为准。