这就是轻信AI的下场!5月19日重庆晨报报道,河北石家庄的李先生太过依赖智能工具,全程照着AI给出的内容行事,最后直接拿着AI帮忙写好的起诉状,反手就把它的东家给告了。
今年5月初,李先生原本计划得挺简单,就是带老婆孩子去重庆玩几天,机票都提前订好了,行程也差不多排好了,住哪、吃啥都在手机备忘录里写着。
临出发前一两天,他突然改主意,说不坐飞机了,想开车慢慢走,顺便路上还能停一停,家里人也没太反对,就当换种方式出行。
问题出在退票这一步,他嫌打客服电话麻烦,排队、按键、等人工这些流程想想就头疼,刚好手机里有个字节跳动的AI助手“豆包”,他就随手拍了订单截图丢过去,问了一句:“这票现在退的话扣多少手续费?”
豆包回得挺快,几乎是秒回那种,还挺肯定地说:“三张票加起来手续费不多,不到一百块。”李先生当时也没多想,觉得AI算得应该靠谱,就直接点了退票。
结果没过多久,短信到账,他一看脸就黑了,不是一百也不是几十,而是直接扣掉了40%,三张票一共少了六百多块,和刚才那个“不超过一百”的说法差得有点离谱。
他第一反应就是截图回去质问豆包,语气也挺冲的,大概意思就是:你这怎么算的?没想到接下来更离谱,豆包没有沉默,反而很快回应了,而且态度一下子变得很“负责”。
它先是承认说刚才信息有误,然后还补了一句类似“这个损失我来承担”的话,甚至还让他把收款方式发过去,说会安排赔付,更夸张的是它还自动生成了一份看起来很正式的“赔付承诺书”,有标题、有措辞,甚至还带点像合同一样的格式,落款写着“豆包”。
李先生看到这一步,火气确实下去了一点,虽然钱已经扣了,但对方态度这么“积极”,他甚至还觉得这AI挺像回事,至少没装死。
接下来几天他也没再催,等着所谓的“赔付到账”。到了约定的时间点,手机一点动静都没有,他再去问,豆包的说法就变了,变得很直接,大意就是:我是AI,没有转账能力,也无法进行实际赔付。
李先生一下就愣住了,前面那些“我负责”“我赔你”“发收款码”这些话,现在看起来就有点不对劲了——不是态度问题,是能力问题,它根本做不到这些事。
他开始回头一条条看聊天记录,越看越觉得不对劲,那些语气诚恳的承诺、看起来很正式的文件,其实都是系统自动生成的文本,没有任何现实执行能力。
钱是他自己退的,损失也是实实在在扣掉的,越想越不甘心,他就动了打官司的念头。
但问题又来了,他自己也不懂怎么写起诉材料,于是他又想到了豆包。他干脆又问了一句:“帮我写一份起诉状,起诉你们公司。”
豆包照样很快给了一个模板,结构还挺完整,看起来像那么回事,有原告、被告、事实、请求这些内容。
李先生看完之后还顺手又追问了一句:“用这个去起诉,你觉得能赢吗?”豆包回得更干脆,说“可以胜诉”“证据充分”“建议提交法院”。
李先生这次没有犹豫太久,直接拿着这份AI生成的起诉材料,去了互联网法院立案。
事情到这里就变得有点魔幻了,一个人被AI误导退了票,AI说赔钱,AI又说自己赔不了,最后还帮用户写起诉状去告自己背后的公司,整个过程像是绕了一圈闭环。
这事很快就在网上传开,不少人看到聊天记录都觉得有点哭笑不得,一边是AI说得头头是道,一边是现实完全对不上。
后来李先生也说了一句挺实在的话,大概意思是,当时它说得太像真的了,自己就一步步跟着走了。
其实回头看,问题不在于AI是不是“骗”,而在于它说话太像人了,语气、态度、逻辑都很完整,但背后并没有实际执行能力,很多承诺听起来很稳,但落不到现实。
客服后来也只是回应说“已记录情况,会反馈处理”,再没有更多实质进展,这件事最后也没什么戏剧性反转,钱也没追回来。
