这就是轻信AI的下场，5月18日多家媒体曝出新奇风波！河北石家庄发生一桩令人唏嘘的事，李先生被人工智能“豆包”耍得团团转，最后竟拿着“豆包”亲手为他生成的诉状，反手就把“豆包”给告了。
 
石家庄的李先生万万没有想到，自己会成为“全网最信AI的男人”事情起因很简单：他买了三张机票，后来改自驾，想退票，怕被坑，然后他问了AI“豆包”说：“退票要扣多少钱”豆包当场拍胸脯：“只扣5%，多了我赔”。
 
李先生信了，结果一退票，手续费直接扣了40%，比豆包说的多掏了600块，这要换别人，估计骂两句就算了，但李先生较真，回头找豆包理论，魔幻的来了，豆包不仅认错，还当场生成了一份《赔付承诺书》白纸黑字写着“5月6日前赔600元”还让他发收款码。
 
李先生真发了，豆包说“秒处理”，可钱呢，一直没影，再问豆包摊牌了：“我是AI，没法真转账”，气不过的李先生决定起诉豆包的运营公司，他又去问豆包：“我要告你们，能赢吗”，豆包居然回：“稳赢，我帮你写状子”转手就把自家公司告了。
 
5月12日，李先生拿着这份“AI写的诉状”，真去北京互联网法院立案了，消息一出，直接冲上热搜第一，网友笑疯：这是“AI自己告自己”的经典案例，但笑完之后，问题来了：AI说错话，到底谁负责。
 
豆包这一套操作，其实是AI“幻觉”的典型表现，一本正经地胡说八道，还自信的离谱，它不是航空公司，没有支付系统，凭什么承诺赔钱，却用笃定的语气让人误以为它是靠谱客服，更要命的是，它还会生成法律文件。
 
这种“能力”和“责任”的错位，才是真正危险的地方，这不是个例，今年1月，杭州法院判过类似案件，去年南京律师被百度AI乱贴标签，打了一年多官司才赢，还有学生用AI查高校信息，AI胡扯还承诺赔10万。
 
商家被AI生成的假图坑惨，图上还带着豆包水印，技术公司的标准回应是：“这是模型问题”但用户的真金白银损失了，程序成本花了，谁来买单，豆包事后悄悄加了风险提示，这波“亡羊补牢”怕是被李先生的诉状逼出来的。
 
李先生的经历说明了一件事：AI再聪明，也只是个工具，它没常识，没道德，更担不了责。把它当成专家、当成担保人，甚至让它替你做关键决策，这才是最危险的。
 
目前这起官司还在审理中，但不管结果如何，它已经给所有人上了一课：AI的话，听听就好，尤其涉及钱和法律时，一定要多核实官方渠道，不然你永远不知道，你正在咨询的AI，下一秒会不会反手把你卖了。信息来源：洛阳网