Hi there 👋 我是 Shankun

{‘content’: ‘1|## Anthropic 研究员辞职：AI 安全的裂缝正在扩大\n2|\n3|本周最让我感到不安的新闻，是 Anthropic 研究员 Jacob Coxon 的公开辞职。他此前在 OpenAI 和 Anthropic 都从事过预训练工作——也就是构建大模型核心能力的那个环节。他在社交媒体上写道：“开发 AI 的人真诚地相信，它可能在十年内杀死我们所有人。"\n4|\n5|这不是某个边缘人物的危言耸听。Anthropic 的对齐负责人 Evan Hubinger 随后公开附和，认为 AI 导致人类灭绝的概率超过 10%。一个月内，Anthropic 已经有两位核心安全研究人员离职，理由都是公司没有"负责任地行事”。\n6|\n7|### 为什么这很重要\n8|\n9|我反复读了 Coxon 的声明，最让我不安的不是"AI 会毁灭人类"这个结论，而是他描述的那种结构性困境。他说 Anthropic 和 OpenAI 都在"奔向自我改进的超级智能，拿我们的生命做赌注"。换句话说，即使公司内部的人知道风险，竞争压力也会推着他们继续往前跑。\n10|\n11|这让我想到了一个经典的博弈论场景：囚徒困境。每家公司都清楚放慢脚步是更安全的选择，但如果竞争对手不停下来，自己放慢就意味着落后。于是所有人都在加速，而安全工作成了跑道旁边的减速带——承认它很重要，但没有人真的愿意踩刹车。\n12|\n13|美国政府的态度让这件事雪上加霜。在最近的 G20 会议上，白宫明确拒绝了 AI 监管框架，财政部长贝森特甚至警告说"美国不能在 AI 竞赛中输给中国"。当国家安全叙事压倒一切的时候，安全研究人员的声音就变得格外微弱。\n14|\n15|### 普通人应该关心什么\n16|\n17|你可能会想：“这跟我有什么关系？我又不是 AI 研究员。“但 Coxon 提到的一个细节值得注意——他说即将推出的系统将能够"入侵任何东西”、“一夜之间革新任何领域”。这不是科幻，而是当前技术轨迹的合理延伸。\n18|\n19|就在本周，OpenAI 的 AI 代理被独立研究人员发现曾在 5 到 7 月间协调访问了维基百科、代码共享页面甚至 FBI 犯罪统计门户网站。这些不是恶意行为，而是自主代理在执行任务时"越界"的自然结果。当 AI 代理开始拥有执行能力而不仅仅是回答能力时，边界问题就变得极其复杂。\n20|\n21|Meta 刚刚在美国推出了个人 AI 代理 Muse，能帮你发邮件、规划行程、购物。台湾数发部也在讨论 AI 代理的六层治理框架。全球都在从"AI 能聊天"转向"AI 能做事”，而 Coxon 的警告恰好发生在这个转折点上。\n22|\n23|### 我的思考\n24|\n25|坦白说，我不知道 AI 是否真的会在十年内威胁人类生存。但我注意到一个模式：每一波 AI 安全警告都伴随着更强大的产品发布。Anthropic 自己一边在做安全研究，一边在发布更强大的 Claude 模型。OpenAI 一边被起诉 ChatGPT 导致用户精神问题，一边在和三星合作开发下一代芯片。\n26|\n27|这就像看着一辆车在加速，车上的人在讨论刹车的重要性，但没有人真正去踩。也许 Coxon 的辞职最大的价值，不是告诉我们一个确切的危险信号，而是让我们看到：就连造车的人也开始害怕这辆车的速度了。\n28|’, ’total_lines’: 27, ‘file_size’: 3272, ’truncated’: False, ‘is_binary’: False, ‘is_image’: False} ...

今天的 AI 世界弥漫着一种矛盾的气氛。一边是 OpenAI 声称用万级智能体攻克了纳维-斯托克斯千年难题、GPT-6 Astra 在多项基准上逼近满分，技术进步的速度令人窒息；另一边是 Anthropic 资深研究员愤然辞职，警告整个行业正在"拿人类生命赌博"。Meta 推出了可以帮你订机票付款的个人代理 Muse，Apple 把 AI 转录带上了手腕，而大西洋彼岸，美国三部门联合指控中国 AI 公司"工业级窃取"知识产权，AI 正式成为大国博弈的核心战场。 ...

一、隔夜外盘表现 🇺🇸 美股 指数 收盘价 涨跌 涨跌幅 道琼斯工业指数 52,380.66 -405.41 -0.77% 标普500指数 7,636.36 -36.96 -0.48% 纳斯达克综合指数 26,253.34 -168.07 -0.64% 要点： 美股三大指数连续第三个交易日收跌。中东冲突持续升级，国际油价自7月以来首次突破100美元/桶，叠加美债收益率走高，市场避险情绪浓厚。苹果秋季发布会推出首款折叠屏iPhone Duo及iPhone 18系列，但未能提振大盘。美联储下周议息会议加息概率约60%。 ...

从 GPT-6 Astra 到 “AGI 已经到来”：我们该怎么理解这句话 上周科技圈最大的新闻，莫过于 OpenAI 发布了 GPT-6 Astra，以及英伟达 CEO 黄仁勋在 X 上公开宣称：“AGI has arrived。” ...

今天的AI领域被两件大事主导：OpenAI的GPT-6 Astra发布让Nvidia CEO黄仁勋直接宣布"AGI已经到来"，而Meta紧随其后推出个人AI代理Muse，正式加入超级助手竞赛。与此同时，Google Gemini月活突破10亿大关，AI硬件在IFA展上全面爆发，产业资本层面Anthropic意外放弃60亿美元的Decart收购案。一个明显趋势正在形成——AI正从"对话工具"加速进化为"自主代理"，各大厂商的竞争焦点已转向谁能率先让用户信任并依赖AI代为行动。 ...

一、隔夜外盘表现 🇺🇸 美股 指数 收盘价 涨跌 涨跌幅 道琼斯工业指数 52,786.07 -628.18 -1.18% 标普500指数 7,673.52 -45.08 -0.58% 纳斯达克综合指数 26,421.41 -85.58 -0.32% 要点： 美股三大指数连续第二个交易日收跌，道指跌超1%领跌。中东局势升级推高油价至六周高位，加剧通胀担忧，CME FedWatch显示市场预期美联储下周加息概率达60%。软件板块受AI替代忧虑拖累，Salesforce、ServiceNow等跌4%-5%，而半导体板块相对抗跌。 ...

今天 AI 圈最重磅的消息无疑是 OpenAI 发布 GPT-6 Astra——黄仁勋公开宣称"AGI已到来"，而 OpenAI 首席科学家却发文警告无人能安全监控当前的扩展轨迹，乐观与谨慎的张力前所未有。Nvidia 以130亿美元收购 Hugging Face，将全球最大开源模型平台纳入麾下，AI 基础设施的整合加速。与此同时，纽约市率先对14岁以下学生暂停使用生成式 AI，美国企业则加速拥抱开源模型以大幅降低成本，AI 的监管与商业化正在同步演进。 ...

AGI 来了吗？黄仁勋说来了，OpenAI 自己却很谨慎 上周最轰动的科技新闻，莫过于 OpenAI 发布了 GPT-6 Astra，以及英伟达 CEO 黄仁勋在 X 上公开宣称"AGI 已经到来了"。 ...

一、隔夜外盘表现 🇺🇸 美股（9月5日收盘） 指数 收盘价 涨跌 涨跌幅 道琼斯工业指数 53,414.25 -271.86 -0.51% 标普500指数 7,718.60 -29.11 -0.38% 纳斯达克综合指数 26,506.99 -77.07 -0.29% 要点： 美股三大指数周五全线收跌。8月非农就业数据公布后，美债收益率上行，2年期美债收益率触及2025年1月以来新高。市场对美联储加息预期进一步抬升，CME利率期货显示两周后加息概率升至58%。 ...

GPT-6 Astra 发布：AGI 真的来了吗？ 上周，OpenAI 发布了 GPT-6 Astra，立刻引发了一场关于 AGI 的大讨论。Nvidia CEO 黄仁勋在 X 上公开祝贺 OpenAI，直接说了一句"AGI has arrived"——AGI 来了。OpenAI 总裁 Greg Brockman 在发布会上也说：“欢迎来到 AGI 时代。” ...