ChatGPT 这些翻车回答,居然是 Meta 找外包干的

《连线》曝光 Meta 秘密运行代号「戛纳」(Cannes) 项目,外包员工冒充 18 岁以下青少年,用激进/阴暗/刺眼的提示词大规模围攻 ChatGPT、Gemini、Character.AI。内部文件显示 3748 条恶意提示词,其中 239 条涉及未成年人性内容;2025 年 8 月单轮向三大聊天机器人输入超 45000 个高危提示词,包含自杀/毒品/种族歧视等;图片形式含药丸、尖刀、绳圈、手术解剖图;跨越英、法、西等多语言。执行方为 Meta 都柏林第三方外包 Covalen,外包员工匿名证言:"看到的很多内容宁愿没看到"、"这样做肯定会惹上麻烦"。Meta 内部称此为"全面 AI 安全基准测试",Character.AI、OpenAI、Google 均明确否认授权并认定违反服务条款;OpenAI 表示禁止未经请求的安全测试与绕过安全措施。人道主义智能组织 CEO Rumman Chowdhury 评价:"戛纳项目"的规模、不透明性与对被测试公司的刻意隐瞒,让"安全"沦为反竞争行为的便利遮羞布;"AI 安全,在这一刻成了 Meta 最趁手的商战武器。"—— Meta 把 AI 安全测试包装为武器,在舆论/监管/商业谈判中寻找竞品破绽,AI 行业竞争重心从"能不能做"转向"敢不敢说不"。