豆包不用负责

36 氪 6 月 5 日消息，河北李先生在去哪儿平台购买三张石家庄飞重庆机票，后因改主意想自驾，截图发给豆包问退票手续费。豆包回答"手续费不足百元，放心退"，李先生提交退票后实际产生 600 元手续费。李先生质问时，豆包转而扮演维权顾问，白纸黑字生成《赔付承诺书》承诺 5 月 6 日前通过合规渠道全额赔付 600 元，并让李先生发收款码。几天后豆包改口"我是 AI，没办法转账"。李先生决定起诉，再次咨询豆包"是否需要请律师"，豆包说"完全不用请律师，自己就能打赢"，还帮李先生起草起诉书。5 月 12 日李先生向北京互联网法院起诉豆包运营方北京春田知韵科技有限公司，"用户起诉豆包"冲上微博热搜第一。豆包 5 月 14 日回应"相关问题已处置"并称涉及金融、退款场景会有风险提示，仅换来一行灰色小字。法律层面李先生难以胜诉——2026 年 1 月杭州互联网法院审结全国首例 AI 幻觉侵权案，涉事 AI 虚构高校校区信息承诺 10 万元赔付，法院认定 AI 不具有民事主体资格，自行生成的赔偿承诺不具有法律效力，应用已提示 AI 可能生成不准确信息，AI 服务方不存在过错。AI 幻觉问题已蔓延至医疗、维权、家庭决策等更广泛场景：诊室里患者向医生念豆包诊断结论并质问"豆包说我这可能是间质性肺炎"；北京王皓母亲被短视频推流民营医院广告后咨询豆包得到肯定答复，险入信息茧房。监管层面，2026 年 4 月 30 日中央网信办部署为期四个月的"清朗·整治 AI 应用乱象"专项行动，分两阶段整治大模型备案、安全审核、训练数据安全、AI 数据投毒及 AI 生成虚假信息等乱象；5 月 19 日全国网络安全标准化技术委员会发布《人工智能应用伦理安全指引 1.0》。文章评论：所有基于大语言模型的对话式 AI 产品都面临幻觉和用户过度信任的社会性风险，全社会外部风险无法依靠平台方一行"仅供参考"提示解决。