JCPS는 버스 운영을 AlphaRoute의 AI 경로 배정에 맡겼다 — 학생들은 발이 묶였고, 수업은 일주일간 중단됐다

제퍼슨 카운티 공립학교(Jefferson County Public Schools)는 전국적인 운전기사 부족 속에서 노선을 줄이기 위해, MIT와의 연계와 머신러닝 경로 계획을 내세우는 매사추세츠 주 월섬 소재 업체 AlphaRoute에 버스 경로 배정을 맡겼다. 개학 첫날인 2023년 8월 9일, 계획은 붕괴했다. 일부 학생은 아침에 픽업되지 않았고, 다른 학생들은 밤 10시가 거의 되어서야 집에 도착했다.

교육구는 계획을 재작업하기 위해 학교를 폐쇄했고, 금요일의 단계적 재개교 전까지 학생들은 일주일 이상 수업을 잃었다. 마티 폴리오(Marty Pollio) 교육감은 핵심 실패 하나를 스스로 지목했다. AlphaRoute는 초여름에 경로를 전달했지만, 그 후 학생들이 등록하면서 수천 개의 정류장이 추가되었고, "경로에 정류장이 추가될 때 우리는 필요한 시간을 제대로 반영하지 않았다"는 것이다. 그는 "이전 일정에는 오차 허용 여지가 있었다. 지금은 오차 허용 여지가 없다"고 말하면서, "회사 탓으로 돌리지는 않겠다"며 책임을 졌다.

경고는 이미 AlphaRoute의 실적 기록에 있었다. 오하이오주 콜럼버스는 2022년 가을 3년 160만 달러 계약을 체결했지만 소프트웨어를 조정하기 어렵다는 것을 알고 연도 중간에 Versatrans로 되돌아갔다. 신시내티 공립학교는 2022년 4월부터 15만 달러로 1년 미만을 함께했고, "결과에 만족하지 못했으며" 경로를 다시 짜고 모든 정류장을 물리적으로 평가해야 했다. 프로비던스는 2021년 제안을 검토했지만 다른 방향으로 갔고, 보스턴은 MIT 기원 이야기에도 불구하고 그 회사와 실질적인 관계가 없었다.

자동화 편향을 연구하는 조지아 대학교 교수 에런 셱터(Aaron Schecter)는 이 실패를 일반적인 틀에 놓았다. 머신러닝 시스템은 목표를 최적화하며 "최악의 경우"의 피해를 놓칠 수 있다는 것이다. 경로는 켄터키주 법의 제약 아래 "알고리즘적으로는 정확"했지만, "현실에서는 학부모들이 자녀가 새벽 6시에 그렇게 멀리 걸어가기를 원하지 않을 것"이었다.

경로를 재작업하는 동안 일주일 이상 수업이 취소됐고, 일부 학생은 밤 10시 가까이 되어서야 집에 도착했으며, 의원들은 주 최대 교육구를 분할하는 방안을 거론했다.

JCPS는 늦게 등록한 수천 명의 학생에 맞춰 한 번도 갱신되지 않은 경로를 받아들였고, 계산이 현실과 맞닥뜨렸을 때 남은 여유가 없었다.

교육구는 MIT 브랜드와 교육구 스스로 거의 활용하지 않았던 보스턴 사례 연구 하나를 믿고, 단일 업체의 약속 — 경로 재배정과 시차 등교 시간 — 을 샀다.

AlphaRoute의 오하이오주 두 도입 사례는 루이빌 개학일 몇 달 전에 이미 고객들을 실망시켰다.

오차 허용이 전혀 없는 최적화된 일정은 평범한 첫날의 마찰을 시스템 전체의 셧다운으로 바꿔놓았다.

알고리즘적으로 정확한 것은 운영적으로 준비된 것이 아니다. 최적화 도구의 경로에는 여전히 현장 검증이 필요하며, 여유가 없는 시스템은 놓친 정류장 하나하나를 수업 취소일로 바꾼다.

2023년 8월 16일 보도 시점에, AlphaRoute는 그 전 토요일부터 루이빌에서 팀을 운영하며 금요일의 단계적 일정으로 학교가 재개되기 전에 가능한 한 많은 문제를 고치고 있었다. 여파로는 분노한 학부모와 정치인, 켄터키주 최대 교육구를 분할하는 방안을 검토하라는 일부 주 의원들의 요구, 그리고 AlphaRoute 파트너로 표시되었지만 실제 고객이 된 적이 없는 교육구들에 대한 의문이 있었다.