GitHub alojó un casi clon de una aplicación de odio que ya había retirado una vez

A mediados de 2021, una aplicación llamada «Sulli Deals» apareció en GitHub y usaba código para mostrar fotos de mujeres musulmanas en India como si estuvieran en una supuesta "subasta" simulada, sin su consentimiento. Permaneció en línea durante semanas antes de que GitHub la retirara. El 1 de enero de 2022, una aplicación casi idéntica llamada «Bulli Bai» —con el mismo patrón de insulto, el mismo formato de subasta y dirigida a muchas del mismo tipo de mujeres con voz pública, incluidas periodistas y activistas— apareció de nuevo, también alojada en los repositorios de código de GitHub.

GitHub retiró rápidamente la segunda aplicación una vez que atrajo una atención masiva en las redes sociales, pero los críticos señalaron que una empresa con 73 millones de desarrolladores y políticas contra el acoso de larga data no tenía ningún mecanismo para detectar un clon de un código que ya había eliminado una vez. GitHub no modera de forma proactiva el código subido; actúa solo cuando recibe una denuncia, lo que significó que la segunda aplicación estuvo activa y fue capturada en pantalla ampliamente antes de que alguien de la empresa la viera.

Defensores de los derechos digitales en India dijeron que GitHub nunca publicó ningún informe sobre cómo gestionó la retirada de Sulli Deals ni qué cambió después, por lo que no había nada implementado para impedir que una versión reconstruida volviera a publicarse bajo un nuevo nombre ocho meses después.

Una segunda ronda de prensa global y reacción de usuarios en el mercado de desarrolladores de más rápido crecimiento de GitHub, sin ninguna explicación pública de cómo el mismo código se reconstruyó y volvió a publicar.

La moderación de GitHub se basaba en denuncias en lugar de ser proactiva, por lo que un clon de código ya eliminado podía volver a subirse y permanecer activo hasta que se hiciera viral.

La empresa no dio ningún informe público de la primera retirada, por lo que no había ninguna señal documentada —interna o externa— de que ese mismo patrón de código necesitara vigilancia.

El código dirigido a personas es difícil de distinguir automáticamente de código lícito con una diferencia de una línea, algo que el propio equipo de políticas de GitHub reconoció que dificultaba una solución técnica general.

Las personas objetivo eran en gran medida críticas vocales del manejo de las minorías religiosas por parte del partido gobernante de India, lo que significaba que la aplicación funcionaba como acoso dirigido a silenciar a mujeres específicas, no como una broma puntual.

Retirar una infracción sin una forma de señalar sus casi copias garantiza una repetición: la moderación tiene que apuntar al patrón en el código, no solo a la instancia única.

GitHub retiró Bulli Bai tras la reacción y dijo que mantiene políticas contra el acoso y la discriminación, pero no respondió a preguntas específicas de Rest of World sobre cómo ocurrió la repetición o qué cambios de moderación siguieron. La policía india abrió investigaciones sobre los creadores de la aplicación. No hubo ningún cambio público en las políticas de GitHub ni informe de transparencia sobre acoso basado en código tras el incidente.