担忧AI生成虚假内容扰乱司法,英国警方被叫停使用AI撰写法庭陈述

英国警方人工智能中心(Police.AI)负责人亚历克斯·默里证实,已叫停多支警队使用商用AI撰写法庭陈述及编制证据披露清单,理由是担忧AI生成的不准确内容会扰乱司法流程。他表示,任何用于刑事司法体系的技术都需达到「排除合理怀疑」的严苛准确性标准,要求相关警队在完成全部合规审查前暂停相关应用。此前已发生西米德兰兹郡警方使用Copilot在禁令佐证材料中编造虚假足球赛事的AI幻觉事故,凸显生成式AI在警务领域应用的争议正在加剧。