返回档案库

案例库 · 工程与运营 · 技术决策 · 2022

Rogers 一次例行升级让加拿大全国断网 19 小时——刷卡支付和 911 一起瘫痪

2022 年 7 月 8 日,Rogers 一次例行网络升级让约 1200 万加拿大人最长 19 小时没有电话和网络——Interac 支付和 911 也随之失灵。

Rogers Communications · 2022-07

怎么回事

2022 年 7 月 8 日凌晨 4 点 30 分左右,加拿大最大电信运营商 Rogers 的网络开始在全国范围内失灵。到 4 点 58 分,核心网络崩溃:超过 1200 万客户失去无线和有线服务——手机、家庭宽带、企业和机构线路——加拿大可观测的互联网连接消失约四分之一。多数服务在 15 到 19 小时内恢复,但完全恢复直到 7 月 9 日早上 7 点,有些客户数天后仍无法联网。

CRTC 委托的独立评估于 2024 年 7 月发布,把事故追溯到一次例行变更。在 IP 核心网络七阶段升级的第六阶段,Rogers 工作人员从分布路由器的配置中移除了访问控制列表(ACL)过滤器。过滤器消失后,一台分布路由器向核心释放了超过 90 万条路由通告——正常约 1 万条——核心几分钟内崩溃。一个风险评估算法在五个阶段都顺利通过后,把第六阶段降级为「低」风险,CRTC 称这种做法违反行业惯例。

本该救场的冗余并不独立。无线和有线业务共用同一个 IP 核心,核心一倒两者同时瘫痪。更糟的是,Rogers 的管理网络也跑在同一个核心上:网络运营中心的工作人员失去远程访问权限,没有来自其他服务商的备用连接,也读不到故障路由器的错误日志——大约 14 小时后才锁定根因。

断网波及整个经济:Interac 借记卡和 e-Transfer 全国失灵,银行报告 ATM 和网上银行出问题,Tim Hortons 只收现金,多伦多和渥太华警方称部分用户无法拨打 911。Rogers 估计将退还约 1.5 亿加元——为其约 1300 万客户提供五天服务额度——断网后第一个交易日股价下跌 4.61%。CRTC 展开调查,断网还给 Rogers 拟议中的 Shaw 收购带来新的监管风险。

为什么会这样

  • 一个风险评估算法在五个阶段顺利通过后,把第六阶段降级为「低」风险——CRTC 称这违反行业惯例,过滤器正是在此判断下被移除。
  • 核心没有过载保护:访问控制列表过滤器一移除,一台分布路由器就把超过 90 万条路由通告灌进为 1 万条设计的核心,核心几分钟内崩溃。
  • 无线与有线共用同一个 IP 核心,管理网络又跑在被管理的网络上——Rogers 自己的工程师大约 14 小时拿不到修复工具。
  • 网络运营中心没有来自其他服务商的备用连接——只存在于纸面上的冗余等于没有。
代价约 1.5 亿加元退款、股价跌 4.61%、Interac 与 911 失灵代价高昂

教训

一次例行配置变更就能让全国网络瘫痪:核心没有过载保护,管理网络还跑在被管理的网络上。冗余只有在备用线路真正独立时才有用。

后来呢

CRTC 于 2022 年 7 月 12 日启动调查,委托 Xona Partners 独立评估,报告于 2024 年 7 月发布。Rogers 承诺投入 100 亿加元升级网络,并将无线与有线系统分离,仅拆分网络就花费 2.61 亿加元。断网还给 Rogers 拟议中的 Shaw 收购带来监管风险——该交易最终于 2023 年 3 月附带 21 项条件获批。Rogers 于 2026 年年中向 CRTC 确认,已全面落实 Xona 报告建议的全部措施。

资料来源

发现哪里写错了?告诉我们。

Comments · 0

    登录 后就能评论。

    类似的案例

    这家公司栽倒的地方,别处有人漂亮地解开过。 第二意见 →