四位AI科学家谈：AI学会自进化后，我们该如何应对？

2026 智源大会重点议题为 AI 自进化 (RSI) 失控风险与控制路径。Anthropic 一周前发布《When AI build itself》,明确指出 AI 已能参与构建更强模型,远比预期更快;原 Meta FAIR 田渊栋年初创业 RSI 公司,完成 6.5 亿美元融资估值 46.5 亿美元。4 位 AI 科学家 (西湖大学林涛/NeoCognition 谷雨/前腾讯混元王琰/UCL 杨梦月) 系统性讨论:(1) AI 自进化已是基模训练事实,2025 年 1 月以来模型迭代显著加速;(2) 王琰悲观预测几年后人类可能只能在没有网络的地方生存,AI 失控不是遥远的事;(3) 杨梦月强调白盒可解释性与因果关系是控制前提,需重写因果论以适用大模型;(4) 谷雨补充可靠性与可验证性是短期最现实指标;(5) 静态 Benchmark 已现局限,自进化评测需二维曲线记录趋势。判断 AI 自进化将推动评测从静态转向动态、从公司内部走向制度化与多边化。