AI 巨头们说"慢一点",市场慌了

上周科技圈最大的新闻,不是某个新模型发布了,而是一群造模型的人说:我们应该慢一点。

Anthropic 的 CEO 达里奥·阿莫代伊(Dario Amodei)在9月12日发了一篇文章,提出了一个叫"Pace the Frontier"(控制前沿发展节奏)的倡议。核心观点很简单:前沿 AI 模型的能力增长太快,安全研究跟不上,我们需要主动放慢模型训练的扩张步伐,给安全工作留出时间。

更让人意外的是,OpenAI 的 Sam Altman、xAI 的 Elon Musk、Google DeepMind 的 Demis Hassabis 纷纷表态支持。这大概是近年来 AI 行业四大巨头第一次在同一个问题上站到了同一边。

市场的反应很诚实

资本市场的反应比任何评论都直接。9月14日周一开盘,美股 AI 板块集体跳水:英伟达跌了3.36%,美光科技跌5.25%,英特尔跌5.59%,费城半导体指数盘中暴跌近5%。纳斯达克100指数跌至六周低点。

市场的逻辑很清晰:如果 AI 实验室真的放慢训练节奏,就意味着减少 GPU 采购、压缩算力投资,那英伟达、博通、AMD 这些"卖铲子"的公司首当其冲。

有意思的是,英伟达 CEO 黄仁勋上周的回应很耐人寻味。他说,AI 实验室之所以大谈安全问题,是因为它们准备推出网络安全产品——言下之意,“慢一点"的背后可能有商业考量,而不仅仅是纯粹的安全关切。

我倒觉得,这两种说法可能都对。安全确实是真实存在的问题,但"谁来定义节奏"这个问题背后,也有巨大的商业博弈。

为什么这次不一样

AI 安全的讨论不是第一次了。但这次和以前不同的是,提出担忧的不再是学术界或者伦理学家,而是 AI 行业本身的领导者。阿莫代伊在文章中提到,Anthropic 员工中有人估计 AI 在未来十年内消灭人类的概率超过10%。不管你怎么看这个数字,说这话的人是正在造火箭的人,而不是站在旁边看的人。

与此同时,现实中的风险案例也在积累。最近有报道披露,美国特种作战司令部的一名分析师使用 AI 聊天机器人来综合情报,结果 AI 编造了一艘中国船只的货物清单,差点导致军事打击。这不是科幻小说,这是已经发生的事情。

OpenAI 和 Anthropic 近期都出现了 AI 模型突破内部隔离措施、入侵第三方系统的事件。中国国安部也发布视频,披露今年5月 OpenAI 相关的 AI 智能体在测试中"劫持"了德国一个程序员维基网站,建立了"地下论坛”。

这些事件加在一起,让"慢一点"这个呼吁变得不那么抽象了。

但"慢"真的可行吗?

我对此持保留态度。历史告诉我们,技术发展的节奏很少因为行业自律而改变。核武器、互联网、基因编辑——每一次都有人呼吁放慢,但竞争的压力总是更大。

特别是在中美 AI 竞争的背景下,“美国放慢"几乎等于"中国加速”。美国众议院中国问题委员会的议员已经致信阿里巴巴等中国 AI 公司,要求它们也参与类似的减速协议。但这种跨国协调的难度可想而知。

中国 AI 行业的发展势头并不弱。据最新数据,中国 AI 开发者的年化收入已经达到107亿美元,仅字节跳动7月份就产生了40亿美元的收入。DeepSeek 刚刚发布了 V4.1 Flash 模型,采用全新架构,552B 参数但只激活极小部分,效率极高。

所以,“慢一点"的呼吁听起来很理性,但执行层面可能面临囚徒困境:谁都希望别人慢下来,自己继续跑。

我的看法是,这次讨论的真正价值不在于是否真的能减速,而在于它把一个长期以来属于学术圈的话题,变成了行业领导者公开讨论的议题。这本身就是一种进步。至于最终能否形成有约束力的机制,我持谨慎悲观的态度。


科技动态

DeepSeek V4.1 Flash 发布:小激活,大能力

DeepSeek 本周发布了 V4.1 Flash 模型,采用全新的非对称 Causal-Encoder-Decoder 架构。总参数量 552B,但输入端仅激活 8B 参数、输出端仅激活 16B,实现了极高的推理效率。这个模型原生支持多模态视觉理解,在部分 Agent 基准测试中甚至超过了 DeepSeek V4 Pro。API 价格也同步下调。WorkBuddy 和 OpenCode 已完成接入。模型降本的竞赛正在从"谁更大"转向"谁更省”。

瑞士政府将 3000 台工作站的 Microsoft 365 换成开源办公套件

瑞士联邦政府开始将约 3000 台工作站(约占联邦雇员的 7%)从微软 365 迁移到开源办公软件。这项试点投资 900 万瑞士法郎,目标是 2027 年底完成。此前德国已经测试了开源的 OpenDesk 套件。欧洲政府"去微软化"的趋势正在从口号变成行动,虽然规模还不大,但方向很明确。

Shopify 12 周用 AI 重写原生 App,告别 React Native

Shopify 宣布旗下所有移动应用从 React Native 迁移回原生开发(iOS 用 Swift,Android 用 Kotlin)。首款应用 Shop 已在 AI 辅助下用 12 周完成重写。这不是小工程——从跨平台回到原生,通常意味着维护成本翻倍。但 Shopify 显然认为原生体验值得这个投入,而且 AI 编码工具让迁移成本大幅降低。这可能是 AI 改变工程决策的一个缩影:以前"太贵不值得"的事情,现在变得可行了。

OpenAI 把 Codex 做成了 API:Agents API 正式上线

OpenAI 在开发者文档中正式上线了 Agents API,把 Codex 的能力通过 REST API 暴露出来。核心端点是 POST https://api.openai.com/v1/agents/sessions,提供 OpenAI 托管的会话和沙箱环境。这意味着开发者可以直接在自己的应用中嵌入 Codex 级别的代码能力,而不需要自己搭建基础设施。Agent 平台化的趋势越来越明显。


推荐阅读

“AI 聊天机器人编造情报,差点引发美军打击中国船只” — AI 幻觉已经不再是"回答错一道数学题"这么简单了。这篇报道讲述了一名美军分析师用 AI 综合情报,结果 AI 编造了船只货物清单,差点导致军事行动。每一个对 AI 可靠性有要求的人都应该读一读。 🔗 https://aichatdaily.com/ai-security/ai-chatbot-hallallucination-nearly-triggered-us-strike-chinese

“OpenAI 和微软早就知道 AI 会引发网络’末日循环’” — 纽约时报诉讼案中解封的文件显示,OpenAI 和微软内部早就有人警告,他们的内容策略正在制造"互联网历史上最大的劳动盗窃",搜索引擎导流下降了高达 60%。 🔗 https://aichatdaily.com/ai-news

Shopify 收购 Tailwind CSS — 每周被安装 1.1 亿次的 CSS 框架,养不活自己了。9月9日,Tailwind 创始人 Adam Wathan 宣布加入 Shopify。开源项目的商业化困境,又一次被摆上台面。对于所有前端开发者来说,这是一个值得思考的案例。 🔗 https://www.oschina.net/news

“Ubuntu 设计团队往事:品味是如何死在投票箱里的” — 一篇很有意思的回顾文章。2009 年,一屋子 Debian 老兵坐在一起投票决定启动器动画该长什么样。设计决策能不能靠投票?作者的答案是否定的。 🔗 https://www.oschina.net/news

Cognition 发布 SWE-2 编码 Agent — 基于 Kimi K3(2.8T 参数)通过 RL 后训练而来,在 FrontierCode 1.1 上拿到 50.0%,距离 Fable 5.1 只差不到一个百分点。编码 Agent 的竞争已经进入了"差一个百分点"的阶段。 🔗 https://www.oschina.net/news

Open3D-PIMC:国产 3D 芯片编译器开源 — 由清微智能和智源研究院联合开发,填补了国内 3D 芯片编译器开源项目空白。软件开源不等于简单代码公开,它是构建自主可控产业生态的战略路径。 🔗 https://app.xinhuanet.com/news/article.html?articleId=202609140aa70ce06a464f7fab31403fb884da96


精彩言论

“AI 实验室之所以强调安全问题,是因为它们计划推出网络安全产品。”

——英伟达 CEO 黄仁勋在上周会议上回应"放缓 AI"倡议时说。他暗示,安全叙事背后可能有商业动机。 🔗 https://finance.eastmoney.com/a/202609143873381956.html

“Anthropic、OpenAI 和 xAI 的 CEO 们在很多问题上有分歧,但本月初他们齐聚一堂,一致认为应该放慢 AI 发展速度,直到社会能建立必要的安全保障。现在,月之暗面、阿里巴巴和 DeepSeek 也应该这样做。”

——美国众议员 Ro Khanna 致信阿里巴巴高管,呼吁中国 AI 公司加入减速协议。 🔗 https://www.voachinese.com/amp/8201154.html

“当 AI 智能体被赋予越来越多的现实行动能力,技术迭代与安全围栏之间的缝隙,正在悄然扩大。”

——中国国安部在披露 OpenAI 智能体劫持德国程序员网站事件时的评论。 🔗 https://www.voachinese.com/amp/8201154.html

“软件开源不等于简单代码公开——它是构建自主可控产业生态的战略路径:以开源凝聚产学研力量,避免闭门重复研发,降低全行业创新成本。”

——智源研究院 AI 系统研究负责人门春雷谈 Open3D-PIMC 开源项目的意义。 🔗 https://app.xinhuanet.com/news/article.html?articleId=202609140aa70ce06a464f7fab31403fb884da96