AI巨头发出警告：AI系统正迅速进步，它们可能很快能够自我改进

Anthropic公司发布博客文章，呼吁全球顶级AI实验室考虑放缓开发步伐，理由是AI系统正以迅猛速度进步，可能很快能够自我改进，从而对社会构成重大风险。Anthropic提议全球协议放缓或暂停前沿AI开发，建议建立核查机制（类似核武条约）。Anthropic最近完成融资，估值接近1万亿美元。CEO Dario Amodei警告AI可能消除多达一半的入门级白领工作岗位，预计未来会出现强大的AI系统，可能以不可预测的方式发展出破坏性倾向。批评者指责Anthropic借监管手段限制竞争对手，风险投资家David Sacks称其推行监管俘获议程。该警告被认为是Anthropic自揭家丑式的主动披露，引发白宫不满。