AI 开始改进 AI:递归自我改进的时代来了吗?
我最近一直在关注一个趋势,这个月尤为明显——AI 正在被用来改进 AI 本身。
这不是什么新概念。“递归自我改进”(Recursive Self-Improvement)这个词,早在上世纪中叶就有人提出来了。但过去它更多是思想实验,属于 AI 安全研究者讨论的理论话题。直到最近几个月,我突然发现,它正在变成现实。
Google 的焦虑与 Brin 的回归
先说 Google。据 Reuters 报道,Sergey Brin 已经在幕后推动了好几个月,告诉核心员工"Google 亟需追回前沿阵地"。他特别关注的一个方向,就是递归自我改进——让 AI 系统具备足够的 AI 研究能力,从而能够参与开发更强的 AI 系统,形成正反馈循环。
与此同时,Google DeepMind 迎来了一次重大人事调整:Demis Hassabis 升任 Alphabet 首席科学家兼 DeepMind 主席,不再负责日常运营;原首席 AI 架构师 Koray Kavukcuoglu 接手 Gemini 模型开发和前沿 AI 研究。
我读到这条新闻时,第一反应是:这说明 Google 内部对当前 AI 竞赛的紧迫感已经到了临界点。Hassabis 不是被架空,而是被"解放"出来去做更宏观的战略思考。Brin 亲自下场督战,这在 Google 历史上极为罕见。
OpenAI 的 AGI 宣言
另一边,Sam Altman 登上了《时代》杂志封面。他公开表示,OpenAI 虽然还没到 AGI,但他相信到今年年底,内部会有一个他个人认为"可以称为 AGI"的系统。他还说,新发布的 Astra 模型"可能是第一个真正发明重要新东西的模型",这让他感觉"很 AGI"。
这些话当然有营销成分。但 Astra 的技术指标确实令人侧目:在 ExploitBench 上拿了满分,发现了两个零日漏洞,成为第一个跨越 OpenAI 自定义"关键网络安全阈值"的模型。OpenAI 已经为它设置了受限访问机制——这本身就说明了问题:他们自己也觉得这个模型太强了,不能随便放出去。
AI 研究 AI 的闭环正在形成
如果你把这几个事件放在一起看,一个清晰的图景浮现了:
- AI 辅助芯片设计:Nvidia 投资 35 亿美元给 MediaTek,合作开发定制 AI 芯片,而 Nvidia 自己早已在用 AI 优化 GPU 架构设计。
- AI 用于 AI 安全研究:Astra 发现零日漏洞,这意味着 AI 不仅能写代码,还能审计代码、发现人类安全专家遗漏的问题。
- AI 辅助模型训练:Anthropic 的企业级"前沿安全防护"系统,本质上就是用一个 AI 系统来监控和对齐另一个 AI 系统。
- AI 加速科学研究:Google DeepMind 的 AlphaFold 系列已经证明了 AI 在科学发现上的能力,而这类能力正在被扩展到更多领域。
这些不是独立事件,它们正在形成闭环。AI 设计更好的芯片 → 更好的芯片跑更强的模型 → 更强的模型做出更好的科学发现 → 科学发现反哺 AI 发展。这就是所谓的"奇点前兆",只不过它发生得比大多数人预想的要安静。
我的看法
我不打算在这里讨论 AGI 是否会在今年到来——这种预测没有意义,因为定义本身就有争议。但有一点我觉得是确定的:AI 正在从"人类的工具"变成"研究自身的工具"。这个转变的速度比大多数人意识到的要快。
作为一个写了十几年技术博客的人,我很少用"历史性的"这种词。但这一次,我觉得我们确实站在一个拐点上。递归自我改进不再是理论概念——它正在发生,而且是由世界上最有资源的几家公司在同时推动。
唯一的问题是:当这个循环运转起来之后,人类还能在多大程度上控制它的方向?
科技动态
美国国防部上线 ChatGPT 和 Grok,用户达 300 万
美国国防部将其生成式 AI 平台 GenAI.mil 升级,正式引入 OpenAI 的 ChatGPT Mil 和 xAI 的 Grok for Government。据 Hoodline 报道,该平台用户已突破 300 万,主要用于非机密工作:规划、政策分析、后勤管理和行政文书。数据隔离于商业系统,不用于模型训练。有意思的是,国防部明确表示引入多模型是为了"减少对单一供应商的依赖"——这句话的信息量很大。与此同时,Anthropic 此前因拒绝移除安全限制而与国防部对簿公堂,法官裁定五角大楼将 Anthropic 列入黑名单违宪。
Google 向好莱坞开出 4000 万美元/角色的 AI 训练许可
Google 正在与迪士尼、华纳兄弟探索和环球影业谈判,以每个角色 4000 万美元的价格获得用其影视库训练 Gemini 的授权。这笔交易如果达成,总额将达到数亿美元。AI 公司为训练数据付费,这在过去两年一直是争议焦点,但 Google 显然选择了"用钱砸"的策略。对好莱坞来说,这是一笔诱人的收入——但也是把自家 IP 的未来交给了 AI 公司。我认为这笔交易如果成功,会成为行业标杆,改变整个内容产业对 AI 训练数据的定价逻辑。
Instagram 将限制未标注 AI 生成内容的账号流量
Meta 宣布将原来的"AI 创作者"标签改为"AI 生成资料",并要求所有 AI 生成的账号资料必须标注。未标注的账号将被限制推荐流量。这是一个明确的信号:社交媒体平台开始认真对待 AI 内容的透明度问题。不过,“限制流量"的实际执行力度如何,还有待观察。毕竟平台的推荐算法本身就是一个黑箱。
Nvidia 投资 35 亿美元给 MediaTek,合作定制 AI 芯片
Nvidia 宣布向 MediaTek 投资 35 亿美元,让后者获得 NVLink Fusion 授权,为超大规模数据中心设计定制 AI 芯片。这些芯片将整合进 Nvidia 的机架级架构体系中,而不是作为竞争对手存在。这是一个精妙的策略:Nvidia 不是与定制芯片趋势对抗,而是主动拥抱它,把潜在的竞争对手变成自己的"白标"合作伙伴。
开源项目与工具推荐
Vibe Check — AI 写代码的 15 个套路被全禁
一个 Lint 规则集,诞生 16 天就拿到近 4000 Star。它做的事情很简单:检测 TypeScript 代码中典型的"AI 味”——那些一看就是 AI 生成的模式化写法。对于代码审查来说,这是一个有趣的工具。我赞同它的理念:AI 写的代码不是不能用,但你至少应该知道哪些是 AI 写的。
Zed — 7MB 装下整个开发环境
近 1 万 Star 的 Rust 项目,7MB 的体积里塞进了终端、AI Agent、代码编辑器、Git 图形界面、网页预览。VS Code 装完动辄几百 MB,光是 Electron 那一层就够呛。如果你在寻找一个轻量级但功能完整的编辑器,值得试试。
Docling — 4.4ms 转完一份 Word 文档
近 7000 Star,中位数 4.4 毫秒完成 Word 到 Markdown 的转换。比 LibreOffice 快 256 倍。如果你的工作涉及大量文档格式转换,这个项目会让你的生活轻松很多。
Documental — 开源地理定位故事平台
由 Paulo Tavares 和 Autonoma 工作室开发的开源平台,允许用户将数据、照片、视频、卫星图像和地图结合,创建具有地理定位的"数字故事",旨在维护人权与环境权利。这是一个把技术用于公共利益的好例子。
精彩言论
“OpenAI 还没到 AGI,但我相信到今年年底,内部会有一个我个人认为可以称为 AGI 的系统。”
— Sam Altman,《时代》杂志专访
“AI 生成的账号如果不标注,就别想获得推荐流量。”
— Meta 官方声明,关于 AI 生成内容标注政策
“引入多模型是为了减少对单一供应商的依赖。”
— 美国国防部首席数字与人工智能办公室,Hoodline 报道
“Google 亟需追回前沿阵地。”
— Sergey Brin,据 Reuters 报道,AI Chat Daily