事件经过
2021年年中,一款名为“Sulli Deals”的应用出现在GitHub上,其代码在未经同意的情况下展示印度穆斯林女性的照片,仿佛她们正被用于一场模拟“拍卖”。该应用在线数周后,GitHub才将其下架。2022年1月1日,一款名为“Bulli Bai”的几乎相同的应用再次出现——使用相同的侮辱性命名模式、相同的拍卖形式,并针对许多同类敢于发声的女性,包括记者和活动人士——同样托管在GitHub的代码仓库上。
在引发社交媒体大规模关注后,GitHub迅速下架了第二款应用,但批评者指出,一家拥有7300万开发者且长期奉行反骚扰政策的公司,却没有机制去发现它已经移除过一次的代码的克隆版。GitHub不会主动审核上传的代码;它只在收到投诉后才采取行动,这意味着第二款应用在被公司任何人看到之前就已经上线并被广泛截图传播。
印度的数字权利倡导者表示,GitHub从未公布任何关于它如何处理Sulli Deals下架事件或此后做了哪些改变的说明,因此八个月后,当重建版本以新名称再次上线时,没有任何机制可以阻止它。
代价
在GitHub增长最快的开发者市场上,引发了第二轮全球媒体报道和用户反弹,而GitHub没有公开解释同样的代码是如何被重建并重新发布的。
原因
GitHub的审核是投诉驱动的,而非主动的,因此已被移除代码的克隆版可以被重新上传,并一直在线直到它病毒式传播。
该公司没有对第一次下架做出任何公开说明,因此没有记录在案的信号——无论是内部的还是外部的——表明需要关注同一模式的代码。
针对特定人群的代码很难与仅有一行差异的合法代码自动区分,GitHub自己的政策团队承认,这使得一刀切的技术修复变得困难。
目标主要是对印度执政党处理宗教少数群体方式直言不讳的批评者,这意味着该应用的作用是针对特定女性进行骚扰以使其噤声,而非一次性的恶作剧。
教训
下架一次违规行为却没有标记其近似副本的方法,必然导致重演——审核必须针对代码中的模式,而不仅仅是单个实例。
后续
GitHub在遭到反弹后下架了Bulli Bai,并表示其维护反对骚扰和歧视的政策,但没有回答Rest of World关于重演如何发生或随后采取了哪些审核改革的具体问题。印度警方对该应用的创建者展开了调查。事件发生后,GitHub没有公开的政策变化或关于代码骚扰的透明度报告。
从这里,追溯依据
参考来源
- Why anti-Muslim apps keep reappearing on GitHub Rest of World · restofworld.org ·
- Github shuts down fake online auction website targeting Muslim women in India The Washington Post · washingtonpost.com ·
- Muslim Women Were 'Auctioned Like Cattle' on a Hate Site Vice · vice.com