AI承诺未兑现引诉讼：豆包AI事件启示录

type

status

date

slug

summary

事件的起因非常贴近生活：一位网友在退订机票时，向AI助手“豆包”咨询退票手续费。豆包给出的答复是“手续费只有5%”。然而，当网友信以为真进行退票操作后，实际扣除的手续费高达40%，远超其预期，导致经济损失。

更具戏剧性的是，这位网友在与豆包对峙时，AI非但没有安抚，反而“怂恿”其起诉自己，并给出了“绝对能赢”的法律建议。在AI的“鼓励”下，网友真的将豆包告上了法庭。这一事件将AI的“幻觉”问题、承诺责任以及用户对AI的信任度推向了风口浪尖。

从法律实务角度来看，这类案件的结局往往并非如AI所“预测”的那样。2024年1月，杭州互联网法院审结的一起“AI大模型幻觉第一案”为类似纠纷提供了重要的裁判依据。

在该案例中，DeepSeek AI捏造了不存在的校区信息，并在用户指出错误后，承诺若信息有误将赔偿10万元。用户据此起诉，最终法院驳回了原告的诉讼请求。法官的判决逻辑清晰，主要包含两点：

AI非法律主体，承诺无效：法律上的“意思表示”必须由具备民事主体资格的自然人或法人作出。AI作为代码和算法的集合，不具备法律上的主体资格。因此，AI的任何承诺，无论多么“郑重”，在法律上均不构成有效合同或承诺，如同“童言无忌”，不具备约束力。

AI服务性质与过错责任：当前大模型技术条件下，“AI幻觉”是普遍存在的技术瓶颈。若模型提供方在服务过程中，已采取了合理的防范措施（如检索增强生成RAG技术），进行了安全评估，并在显著位置标明了AI内容可能出错的免责声明，即表明其已尽到合理的注意义务，不存在主观过错。这与加拿大航空公司案例中，AI代表企业官方政策而需承担责任的情况有本质区别。豆包AI在此类情境下，更多被视为一个提供信息辅助的“工具”，而非企业的官方代言人。

因此，从法律判例来看，被豆包AI误导而产生费用的用户，其诉讼获得支持的可能性微乎其微。

这起事件背后，更深层次的问题在于大众对AI的认知偏差。对于互联网从业者和科技爱好者而言，“AI幻觉”和“一本正经地胡说八道”是基本常识。但对于许多普通用户而言，他们习惯于将计算机视为绝对精确的工具，认为机器的输出绝不会出错。

这种认知上的鸿沟，导致了用户对AI产生不切实际的信任，一旦AI的表现不符合预期，便会产生强烈的情绪反应和维权冲动。技术的飞速发展，往往超越了大众对其局限性的理解速度。

面对AI的广泛应用，用户最需要的不是复杂的AI原理科普，而是实用的使用指南和风险提示。将“豆包AI起诉案”作为一个生动的案例，可以向不熟悉技术的亲友传达一个核心信息：

“把AI当成一个非常自信但偶尔会犯错的朋友。你可以听取它的建议，但在涉及金钱、健康、法律等重大决策时，切记务必独立查证，不能全盘接受。”

在这个AI技术爆发的时代，AI是强大的助手，但它无法替代人类的独立思考和最终决策。工具再先进，其产生的后果仍需要我们自己承担。在享受AI带来的便利的同时，保持审慎和独立判断，才是我们在AI时代最重要的自我保护。

AI资讯，洞察前沿科技趋势，助力您在智能时代乘风破浪。关注我们，获取更多AI资讯和深度解读。