上海 AI 应用乱象整治首阶段收官：处置违规账号 1.8 万余个，下架智能体 1.4 万余个

上海市委网信办"清朗·整治 AI 应用乱象"专项行动第一阶段收官,聚焦七类突出问题:大模型备案登记、安全审核能力、训练语料安全、AI 数据投毒、生成合成内容标识、滥用 AI 技术违法、开源模型安全管理。17 家重点平台累计清理违法违规信息 487 万余条,处置违规账号 1.8 万余个,下架违规智能体 1.4 万余个,处置违规商品 1300 余个;3 家专业机构对 32 款 AI 产品专项巡查,4 家企业现场检查。第二阶段整治重点:AI 生成"数字泔水"、虚假信息、暴力低俗内容、仿冒他人、侵害未成年人权益、网络水军。7 月 15 日《人工智能拟人化互动服务管理暂行办法》将正式施行。