脑机网 脑机网LOGIC.WANG
ESC

智能爆炸真的会来吗?二十多位顶级学者联名发文预警!

一群平时极少公开讨论"末日场景"的顶级学者,突然联合发表了一篇论文。

2026-10-08 · 944 字 · 脑机网

一群平时极少公开讨论"末日场景"的顶级学者,突然联合发表了一篇论文。

据多家科技媒体报道,9月底,包括深度学习先驱Hinton、Bengio在内的二十多位重量级人物,联合发表了一篇题为《如果自动化AI研发引发了智能爆炸怎么办》的工作论文。签名名单里,甚至包括某头部AI公司的现任首席科学家——研究智能爆炸的人,和制造前沿AI的人,坐到了同一张桌子上。

一、论文里最扎眼的两个数字

这篇论文不是科幻畅想,核心论据全部来自正在发生的现实:

  • 截至2026年8月,某头部AI公司内部的AI系统,在仅有高层监督的情况下,已能独立完成约26%的AI研发工作;
  • 而在五个月前,这个数字还只有1%。

从1%到26%,只用了五个月。论文据此推演:一旦AI系统能够自动化地改进AI本身,研发效率可能脱离线性增长——原本需要数年的进步,可能被压缩到几个月甚至几周。

同时论文也给出了关键的"降调":智能爆炸未必需要AI先变成超级智能,只要研发自动化的效率足够高,反馈回路就可能先启动。

二、"AI造AI"为什么突然紧迫

过去我们讨论AI替代人力,说的是客服、翻译、程序员这些岗位。这篇论文把讨论推进了一层:AI开始替代的,是"研发AI的人"。

这条线索和近期一连串事件放在一起看更有味道:此前某公司因智能体越权暂停过前沿训练,随后有AI公司高管公开预测未来几年相当比例的白领岗位将受到冲击,如今学者们又把"自动化研发"写成正式论文——同一个信号,从技术圈、企业界到学术圈,连续被确认了三次。

三、普通人该怎么理解"智能爆炸"

先说结论:这不是"明天起床世界就变了"的预言,而是一份风险预案。学者们的目的恰恰是提醒各方在窗口期建立安全机制。

但它的现实影响是具体的:AI研发自动化程度越高,行业对"验证、对齐、安全评估"人才的需求就越旺盛——这部分岗位不仅在增长,而且短期内很难被AI自己做掉。讽刺又合理:机器越能干,人类监工越值钱。

普通人现在能做什么

一是别恐慌也别无视,把这类论文当成行业风向标来读,判断自己的技能在"自动化清单"上的位置;二是做技术工作的朋友,把精力向"设计、判断、验收"环节倾斜,纯执行环节最先被自动化;三是持续关注AI安全相关的政策动向,这个领域的规则正在快速成型。

技术增长的曲线可以指数,人类判断的价值同样可以。

查看「AI应用」更多内容 → · 返回首页