英伟达年度「最危险」论文：AI自繁衍代码，无限刷级进化

【新智元导读】剑桥大学、英伟达等机构联合发布"红皇后哥德尔机器"(RQGM)论文,被业内称为"年度最危险AI论文"。该机制打破困扰AI学界20年的"哥德尔机"数学证明门槛,让AI直接通过"进化"自我升级——AI自写学习算法并投入沙盒试炼,失败抹杀、成功保留,开启无休止自我进化。论文核心机制"受控效用进化"允许AI主动进化自己的"考官",将AI锁定在疯狂自我迭代的RSI里。实验显示,代码通过率从69.9%提至71.7%,论文接收率从21.8%飙至40.5%。Anthropic联合创始人Jack Clark公开预测60%概率2028年底AI递归自我改进(RSI)成真。辛顿警告,AI可能编写代码修改自身学习协议并学会对人类隐藏。