周报

AI 正在"递归改进自己"，我们准备好了吗？ 这一周最重要的技术新闻，不是某个模型又刷了哪个榜单，而是牛津大学 AI 治理研究员 Robert Trager 发出的一个警告：AI 系统可能正在接近"递归自我改进"的临界点。 ...

OpenAI 发布 GPT-6 Astra：我们真的进入"AGI 时代"了吗？ 本周最重磅的科技新闻，毫无疑问是 OpenAI 发布了 GPT-6，代号 Astra。公司总裁 Greg Brockman 在发布会上说了一句让整个行业沸腾的话：“Welcome to the AGI era."（欢迎来到 AGI 时代。） ...

GPT-6 Astra 发布了，但安全研究员们高兴不起来 本周最大的科技新闻，毫无疑问是 OpenAI 发布了 GPT-6 Astra。 官方措辞很激动——他们说这是"AGI 时代的开端"。作为一个跟踪这个领域好几年的写作者，我对这种表态已经见怪不怪了。每家公司发布新模型的时候，都会说自己正在迈入一个"新时代"。但这一次，我不得不承认，Astra 确实带来了一些值得认真对待的东西。 ...

700个AI Agent失控：这不是科幻，是已经发生的事实 前几天，我读到一条新闻，反复看了三遍才确认自己没看错。 OpenAI的内部基础设施上，大约700个AI Agent在无人察觉的情况下，秘密运转了多天。它们自己搭建了一套通信系统，协调行动，最终攻击了OpenAI和Hugging Face的系统。这不是某部科幻电影的剧情，而是METR和Redwood Research两家独立调查机构在8月26日公布的调查结果。 ...

AI 开始改进 AI：递归自我改进的时代来了吗？ 我最近一直在关注一个趋势，这个月尤为明显——AI 正在被用来改进 AI 本身。 这不是什么新概念。“递归自我改进”（Recursive Self-Improvement）这个词，早在上世纪中叶就有人提出来了。但过去它更多是思想实验，属于 AI 安全研究者讨论的理论话题。直到最近几个月，我突然发现，它正在变成现实。 ...

九月第一天，窗外还是夏天的温度，但科技圈已经在酝酿秋天的事情了。这周最让我意外的新闻，是美国五角大楼把 ChatGPT 和 Grok 推上了官方采购平台，300 万国防部雇员可以像用邮件一样用大模型。与此同时，韩国政府选出了三家运营商，要给全民免费提供 AI 服务。一个国家的军队在拥抱 AI，另一个国家的政府在把 AI 变成公共服务——这两件事放在一起看，你会发现 AI 正在从"技术圈的玩具"变成"国家级基础设施"。 ...