AI 实干派 看真正用 AI 拿到结果的人怎么做
AI 认知·观点访谈·2026-10-30·US

开源模型会不会搞垮网络安全?Nathan Lambert 重新检验自己的判断

Nathan Lambert 认为,GLM-5.3 这类开放权重模型带来的网络安全风险是“加速”,还不是“跳变”。不过他也说自己不是安全专家,对这个判断有些不安。

谁说的
Nathan Lambert 长期研究和训练开放模型,这篇文章发在他的 newsletter Interconnects 上。几周前他写过:Claude Mythos 就算意外以开放权重泄露,世界也“大体没事”。这篇是回应批评后的复盘。
核心观点
他的看法是:开放模型给攻防双方都添了力量,资源更多的公司会比攻击者更快用上开放模型;最近的漏洞潮大多是闭源模型发现的;整个问题主要关乎 AI 能力怎样扩散,开源还是闭源是次要的。
依据
他的依据有三条。第一,GLM-5.3 被认为跨过了这条能力门槛,权重公开已经一个多月,公开证据里看不出局面有大的变化。第二,Epoch AI 用 GLM 5.3 做出了一个 Firefox 漏洞利用,但攻击还需要搭网站、引人访问等多个环节。第三,安全研究者 Joshua Saxe 的数据显示,攻击数量早在 ChatGPT 出现前就在指数增长。
对你的意义
如果你维护线上产品,可以先按他的预期准备:接下来会是一段漏洞集中被披露、需要密集打补丁的时期。参考他引用的说法,把攻击者看成有固定业务流程的生意人,按他们惯用的手法排查风险,不要把每个新漏洞都当末日。
争议·条件
反方观点他也引用了:Rob Wiblin 和 Anthropic 在 4 月都警告后果可能很严重。他承认,对没预料到会有一段动荡期的人来说,“没事”这个词说轻了。

Nathan Lambert 在 Interconnects 里回顾了被称为“Black October”的这段时间:PHP2Shell、GitLab 等严重漏洞接连被披露,期间 Binance 又出了加密货币安全事件。他仍然基本坚持原来的判断,同时修正了说法:所谓“没事”,指的是整个行业被迫换一种方式维护软件,这个过程会很贵、很辛苦,但社会不至于失序。

这里要分清“他认为”和“已经发生”。已经发生的是漏洞数量激增,WSJ 报道网络安全应急人员已经忙不过来。他的判断是:开放模型目前部署成本高、算力紧张,如果近期有攻击用到开放模型,很可能是通过某个防护很差的 API。他自己也说这个判断误差很大。

对读者来说,这篇文章提醒的是把注意力放回整个生态层面:补丁、依赖库、部署方式,比争论该怪开源还是闭源更实际。

原文:Interconnects