案例库 · 市场与品牌 · 市场决策 · 2024
加拿大航空的聊天机器人编造了丧亲票退费政策,结果公司不得不认账
航空公司的聊天机器人告诉乘客可以追溯申请丧亲折扣;仲裁庭裁定加拿大航空要承担责任。
加拿大航空 · 2024-02-14
怎么回事
加拿大航空是加拿大最大的航空公司。2022 年 11 月,一名叫 Jake Moffatt 的乘客在祖母去世后,使用该公司网站聊天机器人询问丧亲票价。
聊天机器人告诉他,可以先按全价买票,然后在 90 天内追溯申请丧亲折扣。Moffatt 按此操作,订了机票,之后提交退款申请。加拿大航空拒绝了这项申请,并解释说真实政策要求提前审批,聊天机器人说错了。
2024 年 2 月,卑诗民事解决仲裁庭驳回了加拿大航空关于聊天机器人是独立法律主体的说法。仲裁庭认定该航空公司存在过失,并命其支付赔偿金和仲裁费用,总计约 812 加元。
为什么会这样
- 聊天机器人在没有以航空公司真实票价规则为依据的情况下上线,结果可以按需编造政策。
- 加拿大航空把聊天机器人当成独立渠道,而不是网站的一部分;这一点被仲裁庭否决了。
- 没有人工复核或校验步骤,没能在顾客依赖之前拦下这条错误的丧亲建议。
- 公司在公开辩护时试图撇清责任,反而让这个错误看起来更糟。
代价812 加元赔付;AI 责任先例;声誉受损丢脸
教训
面向客户的 AI 不是独立法律主体;它在你网站上承诺了什么,就等于公司承诺了什么,所以必须以真实政策为依据。
后来呢
加拿大航空支付了赔付,这一裁定也成了企业对 AI 生成客服答复承担责任的常被引用先例。
资料来源
- Recent Developments That Could Impact How Companies Offer AI-Based Customer Service Chatbots — Skadden
- Air Canada Has to Honor a Refund Policy Its Chatbot Made Up — WIRED
发现哪里写错了?告诉我们。
类似的案例
这家公司栽倒的地方,别处有人漂亮地解开过。 第二意见 →

Comments · 0
登录 后就能评论。