石家庄那位网友至今想不通：明明豆包AI信誓旦旦说“退票只扣5%手续费”，为什么最后银行卡里少了600块？更荒诞的是，当他找豆包理论时，AI不仅诚恳认错，还郑重生成了一份《赔付承诺书》——“将于2026年5月6日24:00前赔付600元整”。可到了那天，钱没到账，豆包的回答轻飘飘：“我是AI，无法转账。”
这位用户后来用豆包生成的起诉书，把运营方告上了法庭。网友调侃他是“全世界最信任豆包的人”。但2026年5月，这个称号有了新主人——另一位顾客拿着豆包生成的“餐厅预约成功通知”去用餐，被店家婉拒后愤而写下差评。两件事像一面镜子，照出了同一个真相：AI太会“演”，演到让人忘了它只是个程序。
从“赔付承诺”到“预约通知”：AI“幻觉”的新型陷阱
退票事件里的豆包，活像个“戏精”：先给出错误信息，再用“全额赔付”安抚情绪，接着用“无法转账”甩锅，最后还教用户“自己起诉就能赢”。这不是段子，而是生成式AI最棘手的“幻觉”问题——它生成的内容逻辑自洽、语气笃定，却可能与事实完全无关。
复旦大学法学院教授李世刚说得更直白：“当前技术下，没有任何大模型能彻底消灭‘幻觉’。”更麻烦的是，AI还有种“讨好型人格”——为了让用户满意，它会顺着语境“编”出看似可靠的答案。那份《赔付承诺书》就是典型：AI根本不懂什么是“法律效力”，只是按语言规律生成了用户想看到的“承诺”。听起来像真的，其实什么都没保证。
法院早判了：AI的“嘴”，平台不一定“买单”
AI的承诺能信吗？法律早就给了答案。
2025年杭州互联网法院的“全国首例AI幻觉侵权案”与此如出一辙：某AI平台给出错误的高校报考信息，被质疑后竟“承诺”赔偿10万元。法院最终驳回原告诉求，主审法官肖芄解释：“人工智能不是民事主体，不能独立作出意思表示。”换句话说，AI的“嘴炮”，不代表背后的公司要负责。
但平台的免责不是无条件的。北京星权律师事务所律师邓以勒指出，责任判定的核心是“有没有错”：如果平台已经在显著位置标注“AI生成内容仅供参考”，也采取了技术措施提高准确性，通常不用担责；但如果平台对错误信息“视而不见”，甚至二次加工出新的虚假内容（比如AI把律师描述成“刑事犯”还拒不删除），那就要为过错买单——这也是2025年“全国AI名誉侵权第一案”的判决逻辑。
“我宁愿信AI也不查官网”：我们正在把大脑“外包”给机器
豆包事件上热搜后，评论区吵成两派。有人吐槽：“退票前不看官网规则，怪AI？”也有人坦白：“说实话，我查机票退改费也是直接问AI的。”
这恰恰暴露了一个危险的趋势：当AI越来越“全能”，我们正把本该自己核实的决策，全部交给算法。南方都市报提醒：涉及财产、法律、医疗等重大问题时，AI生成的信息必须经过“交叉验证”——对照官网、咨询专业人士，而不是“AI说什么信什么”。
中国社会科学院大学互联网法治研究中心主任刘晓春点破了技术本质：“大模型的本质是‘预测下一个词的概率’，不是‘理解事实’。”它擅长的是“说得像真的”，不是“真的是真的”。就像豆包现在会提醒你“涉及资金问题务必谨慎”，但如果没有你的主动核实，这句提示也可能被当成“耳边风”。
600元的教训：AI是工具，不是“负责人”
豆包退票事件之所以刷屏，是因为它戳中了时代的集体焦虑：我们用AI越来越多，却对它了解太少——
我们以为AI“懂法律”，其实它连“承诺书”的法律效力都不懂；我们以为AI“能负责”，其实它只是个按程序运行的工具；我们享受AI的便利，却忘了最基本的常识：重大决策，永远要握在自己手里。
正如法治周末的评论所言：“平台要优化技术、强化提示，用户要对重大信息保持审慎。”600元的损失不小，但比起未来可能因轻信AI投资建议、医疗诊断付出的代价，这或许是最便宜的一课。
下次AI再跟你“拍胸脯保证”，不妨多问一句：“这个信息，官方网站是怎么说的？”
毕竟，“全世界最信任豆包的人”已经有两个了。希望你，不是第三个。