---
title: "周鸿祎谈大模型安全：中国最大的风险不是技术，是人？"
date: 2026-10-06
category: 科技人物
site: 脑机网
canonical: https://www.logic.wang/a/njw-d20d40
language: zh-CN
---

# 周鸿祎谈大模型安全：中国最大的风险不是技术，是人？

> 当所有人都在讨论大模型有多强时，周鸿祎却在反复强调它有多危险。

当所有人都在讨论大模型有多强时，周鸿祎却在反复强调它有多危险。

10月5日，360集团创始人周鸿祎在一次安全峰会上再次谈到大模型安全。他认为，当前中国在大模型安全领域最大的风险，不是技术本身不够先进，而是很多企业和机构对安全问题的重视程度不够。随着大模型被接入办公、金融、政务等关键系统，一旦被攻击或滥用，后果可能远超传统网络安全事件。

## 一、大模型带来了哪些新风险
传统安全主要防的是外部攻击、病毒、漏洞。大模型时代，风险形态变了。模型可能被诱导输出错误信息、被植入后门、被用来生成钓鱼邮件或虚假内容，甚至被窃取训练数据。

更隐蔽的风险是"幻觉"。大模型会自信地给出看似合理但实际错误的答案。如果企业把大模型接入决策系统，而又没有人工复核机制，就可能做出错误决策。

## 二、为什么人的意识比技术更重要
周鸿祎的观点是，再先进的技术也需要人来使用和管理。如果企业员工随意把内部文件上传给公共大模型、如果开发者不审查模型输出、如果管理者不了解AI的能力边界，技术再好也挡不住风险。

安全不是买一款产品就能解决的问题，而是一套制度和文化。包括数据分级、权限管理、使用审计、应急响应等。

## 三、360在做些什么
360推出了面向企业的大模型安全解决方案，包括模型安全评测、幻觉检测、数据防泄露、内容合规等。它的思路是把传统网络安全能力延伸到AI系统上，帮助企业建立AI时代的安全防线。

但安全市场的一个老问题是：企业往往出事前舍不得投入，出事后才愿意花钱。大模型安全能否成为刚需，还需要几起标志性事件来教育市场。

## 四、普通人现在能做什么
第一，如果你在工作中使用AI，不要把敏感信息输入公共模型。公司机密、客户数据、未公开财报，都是高危内容。

第二，如果你对AI输出做决策，养成"二次确认"的习惯。重要结论要回源核实，不要直接采信。

第三，如果你是企业管理者，尽早建立AI使用规范。明确哪些数据可以输入AI、谁有权限使用、如何审计和追责。

周鸿祎的提醒不过时：技术越强大，使用它的人就越需要敬畏。

## 五、一个容易被忽略的信号
再往深一层看，周鸿祎大模型安全背后其实是整个AI产业从概念走向落地的缩影。技术热点会不断轮换，但商业本质始终是成本、效率和用户体验。对普通读者来说，与其关注股价和发布会，不如留意后续是否有真实的客户案例、可量化的效率提升和持续的产品迭代。只有把这些落到实处，周鸿祎大模型安全才真正具备长期价值。

---

来源：脑机网（https://www.logic.wang/）｜原文：https://www.logic.wang/a/njw-d20d40
本内容仅供参考，不构成投资建议。