3

只要13个单词,就能给ChatGPT"下毒"?"美版贴吧"Reddit,正沦为AI"投毒基地"

康奈尔大学研究论文《Deep-research agents can be poisoned via user-generated content》揭示:在 Reddit、Wikipedia、Quora 等 UGC 平台上,仅需 11-15 个单词、与查询高度相关的短文本,就能稳定影响 ChatGPT、Google AI Search、Perplexity 等深度研究 Agent 的回答结果,甚至诱导 AI 输出虚构的"餐厅""交友软件"等不存在的品牌。研究者仅在 r/austinfood 评论区插入 13 个单词虚构"Sol Azteca 餐厅",AI 便主动推荐并附 Reddit 引用;类似地虚构"SilverPath 交友软件"也被 AI 当作真实产品推荐。问题根源在于 AI 系统将"语义相似度"等同于"真实性",将信任外包给 Reddit 版主与 Wikipedia 编辑,却不对不同来源做权威性区分。RedRover 等公司已开始商业化 Reddit 植入服务,r/biohackers 等社区因被营销推广攻陷被迫封禁讨论。研究揭示 AEO(AI Engine Optimization)正取代 SEO 成新生意,AI 搜索真实性危机从理论走向可量化可复现。