GitHub, 이미 한 번 삭제했던 혐오 앱의 거의 동일한 복제본을 호스팅했다

2021년 중반, 'Sulli Deals'라는 앱이 GitHub에 등장해 인도 무슬림 여성들의 사진을 마치 가짜 '경매'에 나온 것처럼 표시하는 코드를 사용했으며, 당사자들의 동의는 없었다. 이 앱은 GitHub가 삭제하기 전까지 수 주 동안 온라인에 남아 있었다. 2022년 1월 1일, 동일한 비하 표현 패턴과 동일한 경매 형식을 사용하고, 언론인과 활동가를 포함해 같은 부류의 발언이 활발한 여성들을 다수 겨냥한 'Bulli Bai'라는 거의 동일한 앱이 다시 등장했으며, 이 역시 GitHub의 코드 저장소에 호스팅되었다.

GitHub는 두 번째 앱이 소셜 미디어에서 대규모 주목을 받자 신속히 삭제했지만, 비평가들은 7,300만 명의 개발자를 보유하고 오랜 반(反)괴롭힘 정책을 가진 회사가 이미 한 번 삭제한 코드의 복제본을 잡아낼 메커니즘이 없다는 점을 지적했다. GitHub는 업로드된 코드를 사전에 모니터링하지 않으며, 신고를 받은 뒤에만 조치한다. 그 결과 두 번째 앱은 회사 측 누구도 보기 전에 이미 게시되어 널리 스크린샷이 퍼졌다.

인도의 디지털 권리 옹호자들은 GitHub가 Sulli Deals 삭제를 어떻게 처리했는지, 이후 무엇을 바꿨는지에 대한 어떤 설명도 공개하지 않았다고 말했다. 따라서 8개월 후 새로운 이름으로 재구성된 버전이 다시 게시되는 것을 막을 장치가 없었다.

GitHub가 가장 빠르게 성장하는 개발자 시장에서 두 번째로 전 세계 언론과 사용자의 반발을 샀으며, 동일한 코드가 어떻게 재구성되어 다시 게시되었는지에 대한 공개 설명은 없었다.

GitHub의 모더레이션은 사전 예방이 아니라 신고에 따라 이루어졌기 때문에, 이미 삭제된 코드의 복제본이 다시 업로드되어 바이럴이 되기 전까지 남아 있을 수 있었다.

회사는 첫 번째 삭제에 대해 공개적으로 설명하지 않았으므로, 동일한 패턴의 코드를 주시해야 한다는 내부적 또는 외부적 신호가 문서화되어 있지 않았다.

사람을 겨냥하는 코드는 한 줄만 다른 합법적 코드와 자동으로 구별하기 어렵다는 점을 GitHub 자체 정책팀도 인정했으며, 이는 일괄적인 기술적 해결을 어렵게 만들었다.

표적은 대부분 인도 집권당의 종교적 소수자 대응을 비판한 목소리 큰 사람들이었으며, 이는 이 앱이 일회성 장난이 아니라 특정 여성들을 침묵시키려는 괴롭힘으로 기능했음을 의미한다.

하나의 위반을 삭제하면서 그 유사 복제본을 신고할 방법이 없다면 재발은 보장된다. 모더레이션은 단일 사례가 아니라 코드의 패턴을 겨냥해야 한다.

GitHub는 반발 이후 Bulli Bai를 삭제하고 괴롭힘과 차별에 반대하는 정책을 유지하고 있다고 밝혔지만, 재발이 어떻게 일어났는지, 어떤 모더레이션 변경이 뒤따랐는지에 대한 Rest of World의 구체적인 질문에는 답하지 않았다. 인도 경찰은 앱 제작자들에 대한 수사에 착수했다. 이 사건 이후 코드 기반 괴롭힘에 관한 GitHub의 공개 정책 변경이나 투명성 보고서는 없었다.