脑机网 脑机网LOGIC.WANG
ESC

AI大模型|你只问了一句,AI却在背后读了七遍,这些算力花在哪了?

很多人最近有个直觉:AI 回得越来越快,那它应该越来越省才对。但一份近日公开的机构统计给出的答案正好相反——真正吃掉算力的,已经不是你亲手打出来的那行字。

2026-10-25 · 979 字 · 脑机网信息截止 2026-10-25

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

很多人最近有个直觉:AI 回得越来越快,那它应该越来越省才对。但一份近日公开的机构统计给出的答案正好相反——真正吃掉算力的,已经不是你亲手打出来的那行字。

七倍是从哪冒出来的

据中财网援引的机构研报数据,2026年9月,AI 智能体(Agent)每周消耗的 Token 量已经达到人工交互的 7 倍,而且其中近九成属于缓存输入。

这两个数字值得拆开看。所谓缓存输入,可以这样理解:你把一份材料丢给 AI,让它去查、去改、去跑工具。它每往前走一步,都要把此前的对话、工具返回的结果、你给的背景重新"读"一遍。你看到的是屏幕上回了一句话,后台走的却是几十次上下文重放。执行轮次越多,重复读取越重。

这也解释了为什么有些任务"看着简单、跑起来很贵":一句"帮我把这份表整理成报告",背后可能是检索、比对、改写、复核几十个来回。

收费方式也在跟着改

同一份统计还提到几个变化:微软 Copilot 付费席位已超过 3000 万,ServiceNow 的 AI 年合同金额突破 10 亿美元,69% 的标普 500 公司已上线 AI,其中 29% 给出了量化成效。

更值得注意的是付费逻辑本身。研报的判断是,收费模式正从按 API 调用、按 Token 计费,转向按席位、按动作、按结果付费。翻译过来就是:以后你可能不是为"它说了多少字"付钱,而是为"它办成了几件事"付钱。

这跟普通人有什么关系

至少有两条很实在。

第一条是比价方式要变。摩根大通资产管理在近期观点中提出,智能体应用增加 Token 消耗,使推理成本成为模型选择中更重要的变量;比较模型应着眼于完成任务的整体成本,因为不同模型为获得结果所消耗的 Token 数量存在差异。换句话说,"这个模型每百万 Token 便宜三成"不等于"办完这件事便宜三成"——绕远路的模型,单价再低也白搭。

第二条是快慢的秘密。你感觉到的"第二次问更快",很大程度上来自缓存命中:同一件事重复问,系统不必从头读一遍上下文,于是又快又便宜。这也是为什么断点重问、开新会话重问,价格体验会不一样。

记分牌正在换

把这三件事串起来看,模型竞赛的记分牌正在悄悄更换:从"谁更聪明"换成"办完一件事要烧多少算力"。榜单分数是给开发者看的,单任务成本才是给掏钱的人看的。

对个人用户来说,这是一个很实用的提醒:以后判断一个 AI 工具值不值,不要只看它回答得多漂亮,要看它把一件事从头办完,到底绕了多少圈。绕圈少的那个,才是真省。

数据与信源

信息截止 2026-10-25。文中数据以该日期前已公开的信息为准。

本文引用 公开报道与公司公告(未逐条列示)。

本站历史文章在正文中标注了来源机构与时间,但未逐条附原始链接。如需核验文中任一具体数字,请在评论区注明段落与数据,我们会在 2 个工作日内补出处。

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

查看「AI大模型」更多内容 → · 返回首页

引用本文

欢迎媒体、智库与研究机构引用。引用时请注明来源「脑机网」并保留原文链接,同时保留文章页标注的「信息截止」日期。转载规则见 引用与转载规范。

GB/T 7714脑机网编辑部. AI大模型|你只问了一句,AI却在背后读了七遍,这些算力花在哪了?[EB/OL]. (脑机网)[2026-10-25]. 北京: 脑机网, https://www.logic.wang/a/njw-ebf0d0. 2026-10-25.
APA脑机网编辑部. (2026, October 25). AI大模型|你只问了一句,AI却在背后读了七遍,这些算力花在哪了?. 脑机网. https://www.logic.wang/a/njw-ebf0d0