GitHub hospedou um quase clone de um aplicativo de ódio que já havia removido uma vez

Em meados de 2021, um aplicativo chamado 'Sulli Deals' apareceu no GitHub, usando código para exibir fotos de mulheres muçulmanas na Índia como se estivessem em um falso 'leilão', sem o consentimento delas. Ficou online por semanas antes de o GitHub removê-lo. Em 1º de janeiro de 2022, um aplicativo quase idêntico chamado 'Bulli Bai' — usando o mesmo padrão de insulto, o mesmo formato de leilão e mirando muitas do mesmo tipo de mulheres que se manifestam publicamente, incluindo jornalistas e ativistas — apareceu novamente, também hospedado nos repositórios de código do GitHub.

O GitHub removeu o segundo aplicativo rapidamente depois que ele atraiu atenção massiva nas redes sociais, mas críticos apontaram que uma empresa com 73 milhões de desenvolvedores e políticas antiassédio de longa data não tinha nenhum mecanismo para detectar um clone de código que já havia removido uma vez. O GitHub não modera proativamente o código enviado; ele age apenas quando recebe uma denúncia, o que significou que o segundo aplicativo ficou no ar e foi amplamente capturado em capturas de tela antes que alguém na empresa o visse.

Defensores dos direitos digitais na Índia disseram que o GitHub nunca publicou nenhum relato de como lidou com a remoção do Sulli Deals ou o que mudou depois, de modo que não havia nada em vigor para impedir que uma versão reconstruída fosse publicada novamente sob um novo nome oito meses depois.

Uma segunda rodada de repercussão global na imprensa e de reação dos usuários no mercado de desenvolvedores de crescimento mais rápido do GitHub, sem nenhuma explicação pública de como o mesmo código foi reconstruído e republicado.

A moderação do GitHub era orientada por denúncias, e não proativa, de modo que um clone de código já removido pôde ser reenviado e permanecer no ar até se tornar viral.

A empresa não deu nenhum relato público da primeira remoção, de modo que não havia nenhum sinal documentado — interno ou externo — de que o mesmo padrão de código precisava ser vigiado.

Código que tem como alvo pessoas é difícil de distinguir automaticamente de código lícito com uma diferença de uma linha, o que a própria equipe de políticas do GitHub reconheceu tornar difícil uma correção técnica abrangente.

Os alvos eram em grande parte críticas vocais da forma como o partido governista da Índia trata as minorias religiosas, o que significava que o aplicativo funcionava como assédio destinado a silenciar mulheres específicas, e não como uma brincadeira isolada.

Remover uma violação sem uma forma de sinalizar suas quase cópias garante uma repetição — a moderação precisa mirar o padrão no código, e não apenas a instância única.

O GitHub removeu o Bulli Bai após a repercussão e disse que mantém políticas contra assédio e discriminação, mas não respondeu a perguntas específicas do Rest of World sobre como a repetição aconteceu ou que mudanças de moderação se seguiram. A polícia indiana abriu investigações sobre os criadores do aplicativo. Nenhuma mudança pública de política do GitHub ou relatório de transparência sobre assédio baseado em código se seguiu ao incidente.