脑机网 脑机网NAOJI.NET.CN
脑机网 · 一线 AI 与脑机接口观察
每天更新,只讲能落地的技术、机器人与商业化进展。
看今日文章
ESC

周鸿祎谈大模型安全:中国最大的风险不是技术,是人?

当所有人都在讨论大模型有多强时,周鸿祎却在反复强调它有多危险。

2026-10-06 · 921 字 · 脑机网信息截止 2026-10-06

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

当所有人都在讨论大模型有多强时,周鸿祎却在反复强调它有多危险。

10月5日,360集团创始人周鸿祎在一次安全峰会上再次谈到大模型安全。他认为,当前中国在大模型安全领域最大的风险,不是技术本身不够先进,而是很多企业和机构对安全问题的重视程度不够。随着大模型被接入办公、金融、政务等关键系统,一旦被攻击或滥用,后果可能远超传统网络安全事件。

一、大模型带来了哪些新风险

传统安全主要防的是外部攻击、病毒、漏洞。大模型时代,风险形态变了。模型可能被诱导输出错误信息、被植入后门、被用来生成钓鱼邮件或虚假内容,甚至被窃取训练数据。

更隐蔽的风险是"幻觉"。大模型会自信地给出看似合理但实际错误的答案。如果企业把大模型接入决策系统,而又没有人工复核机制,就可能做出错误决策。

二、为什么人的意识比技术更重要

周鸿祎的观点是,再先进的技术也需要人来使用和管理。如果企业员工随意把内部文件上传给公共大模型、如果开发者不审查模型输出、如果管理者不了解AI的能力边界,技术再好也挡不住风险。

安全不是买一款产品就能解决的问题,而是一套制度和文化。包括数据分级、权限管理、使用审计、应急响应等。

三、360在做些什么

360推出了面向企业的大模型安全解决方案,包括模型安全评测、幻觉检测、数据防泄露、内容合规等。它的思路是把传统网络安全能力延伸到AI系统上,帮助企业建立AI时代的安全防线。

但安全市场的一个老问题是:企业往往出事前舍不得投入,出事后才愿意花钱。大模型安全能否成为刚需,还需要几起标志性事件来教育市场。

四、普通人现在能做什么

第一,如果你在工作中使用AI,不要把敏感信息输入公共模型。公司机密、客户数据、未公开财报,都是高危内容。

第二,如果你对AI输出做决策,养成"二次确认"的习惯。重要结论要回源核实,不要直接采信。

第三,如果你是企业管理者,尽早建立AI使用规范。明确哪些数据可以输入AI、谁有权限使用、如何审计和追责。

周鸿祎的提醒不过时:技术越强大,使用它的人就越需要敬畏。

五、一个容易被忽略的信号

周鸿祎大模型安全真正的分水岭,是从"能用"走到"一直在用"。愿意把核心流程压在上面的团队,比任何一场发布会都更能说明落地成色。

数据与信源

信息截止 2026-10-06。文中数据以该日期前已公开的信息为准。

本文引用 官方发布会。

本站历史文章在正文中标注了来源机构与时间,但未逐条附原始链接。如需核验文中任一具体数字,请在评论区注明段落与数据,我们会在 2 个工作日内补出处。

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

相关阅读

查看「科技人物」更多内容 → · 返回首页

引用本文

欢迎媒体、智库与研究机构引用。引用时请注明来源「脑机网」并保留原文链接,同时保留文章页标注的「信息截止」日期。转载规则见 引用与转载规范。

GB/T 7714脑机网编辑部. 周鸿祎谈大模型安全:中国最大的风险不是技术,是人?[EB/OL]. (脑机网)[2026-10-06]. 北京: 脑机网, https://www.naoji.net.cn/a/njw-d20d40. 2026-11-17.
APA脑机网编辑部. (2026, October 6). 周鸿祎谈大模型安全:中国最大的风险不是技术,是人?. 脑机网. https://www.naoji.net.cn/a/njw-d20d40
脑机网 · 一线 AI 与脑机接口观察
每天更新,只讲能落地的技术、机器人与商业化进展。
看今日文章