《外交事务》对话 DeepMind 传记作者:神秘模型 Mythos 4 月被美国紧急下架,OpenAI 同款武器却放一马,OpenAI 5 年烧钱 6600 亿、Sora 沦为水帖,AI 监管"边跑边看"、泡沫破裂预警

36 氪转载微信公众号"AI 科技大本营"编译稿,《外交事务》主编 Dan Kurtz-Phelan 深度对话 DeepMind 传记《无限机器》作者 Sebastian Mallaby。核心警示八项:① OpenAI 财务窟窿惊人,2026 年预测未来 5 年要硬烧 6600 亿美元(SpaceX 史上最大 IPO 仅 750 亿,OpenAI 烧钱速度是其 8.8 倍),Sora 沦为社交媒体免费水帖(slop),视频生成成本高、用户不付费、收入基本为零;② Mythos 模型 2026 年 4 月被美国政府以临时(ad hoc)指令紧急下架,该模型若被放到野外可发动破坏整个互联网稳定性、冲击金融体系的网络攻击,但 OpenAI 同样拥有强大网络破坏能力的同款模型却未被同等对待,这种针对个别大厂、缺乏连贯性的执法暴露出联邦层面 AI 监管制度建设的缺失——美国 AI 监管处于混乱、拍脑袋式的"边跑边看"状态;③ 开放权重模型是全球安全最大漏洞,ChatGPT 跑在云端可被大厂远程拔网线(数月前黑客用 ChatGPT 攻击墨西哥即被 OpenAI/Anthropic 紧急切断),但开放权重模型代码发到用户本地、大厂根本管不着,一旦流到犯罪组织手里、互联网和金融体系随时面临瘫痪;④ 中美 AI 均衡有利全球稳定,核武器历史显示美国唯一一次扔原子弹是核武绝对垄断时期,一旦多国持核相互制衡反而避免全面冲突,中国 AI 更强是稳定因素,中美应像冷战时期建立 1968 年《不扩散核武器条约》那样联手建立 AI 不扩散机制,但美国新政府只回应"大国平衡"却完全漏掉"扩散"问题;⑤ 创始人超级投票权导致董事会失效,美国第四种公司治理模式(成长型投资者 + 创始人超级投票权)在 Anthropic、OpenAI 等头部 AI 公司盛行,创始人想干什么就干什么、没有监督,直接导致 OpenAI 6600 亿烧钱、Sora 沦为水帖等疯狂决策无人问责,这是美国资本主义结构性根本问题;⑥ AI 泡沫破裂预警,目前 AI 数据中心 capex 至少占经济增长的一半,过去企业不计成本使用 AI token,但现在 token 成本上涨、企业开始理性化(便宜模型处理简单问题、前沿模型处理复杂问题),这种"理性化"可能传导为数据中心需求下降、半导体制造商收入下滑、整条 AI 栈出现上下联动修正;⑦ 心理冲击大于客观冲击,类比 2001 年中国加入 WTO 后 12 年内美国客观上只减少 200 万个就业岗位,但"饭碗不保"恐慌心理彻底改变美国选民结构并送特朗普上台,AI 真正的破坏力在于重创大众心理底线,即便客观冲击只是中等程度(高盛/耶鲁预测 4.5%-5% vs Anthropic Amodei 预测 50%)政治后果也会很大;⑧ AGI 奇点是幻觉,光在服务器里跑通最强模型不等于赢了全部,部署到现实世界存在巨大摩擦(数据签字/法律责任/电网/数据中心/土地),相信"奇点"者认为模型能为下一代模型写全部代码、增长曲线垂直上升、游戏结束,但作者明确称之为"奇点幻觉"并明确站在怀疑一边。