GitHub hostete einen nahezu identischen Klon einer Hass-App, die es bereits einmal entfernt hatte

Mitte 2021 erschien auf GitHub eine App namens „Sulli Deals“, die per Code Fotos muslimischer Frauen in Indien so anzeigte, als stünden sie ohne ihre Zustimmung für eine Schein-„Auktion“ bereit. Sie blieb wochenlang online, bevor GitHub sie entfernte. Am 1. Januar 2022 erschien erneut eine nahezu identische App namens „Bulli Bai“ – mit demselben Schmähwortmuster, demselben Auktionsformat und gegen viele der gleichen Art meinungsstarker Frauen gerichtet, darunter Journalistinnen und Aktivistinnen –, die ebenfalls auf den Code-Repositories von GitHub gehostet wurde.

GitHub entfernte die zweite App schnell, nachdem sie in den sozialen Medien massiv Aufmerksamkeit erregt hatte, doch Kritiker wiesen darauf hin, dass ein Unternehmen mit 73 Millionen Entwicklern und langjährigen Richtlinien gegen Belästigung keinen Mechanismus habe, um einen Klon von Code zu erkennen, den es bereits einmal entfernt hatte. GitHub moderiert hochgeladenen Code nicht proaktiv; es handelt erst, wenn eine Beschwerde eingeht, was bedeutete, dass die zweite App live war und vielfach per Screenshot verbreitet wurde, bevor jemand im Unternehmen sie sah.

Digitalrechts-Advokaten in Indien sagten, GitHub habe nie einen Bericht darüber veröffentlicht, wie es die Entfernung von Sulli Deals gehandhabt oder was es danach geändert habe, sodass nichts vorhanden war, um zu verhindern, dass eine neu gebaute Version acht Monate später unter neuem Namen wieder hochgeladen würde.

Eine zweite Runde globaler Presseberichterstattung und Nutzerempörung in GitHubs am schnellsten wachsendem Entwicklermarkt, ohne öffentliche Erklärung, wie derselbe Code neu gebaut und erneut veröffentlicht werden konnte.

GitHubs Moderation war beschwerdegetrieben statt proaktiv, sodass ein Klon bereits entfernten Codes erneut hochgeladen werden und online bleiben konnte, bis er viral ging.

Das Unternehmen veröffentlichte keinen Bericht über die erste Entfernung, sodass es kein dokumentiertes Signal gab – weder intern noch extern –, dass dasselbe Codemuster beobachtet werden musste.

Code, der sich gegen Menschen richtet, ist automatisch schwer von rechtmäßigem Code mit einem Ein-Zeilen-Unterschied zu unterscheiden, was laut GitHubs eigenem Policy-Team eine pauschale technische Lösung schwierig machte.

Die Ziele waren größtenteils lautstarke Kritikerinnen und Kritiker des Umgangs der regierenden Partei Indiens mit religiösen Minderheiten, was bedeutete, dass die App als Belästigung fungierte, die darauf abzielte, bestimmte Frauen zum Schweigen zu bringen, und nicht als einmaliger Streich.

Einen Verstoß zu entfernen, ohne eine Möglichkeit zu haben, seine nahezu identischen Kopien zu kennzeichnen, garantiert eine Wiederholung – Moderation muss auf das Muster im Code abzielen, nicht nur auf den Einzelfall.

GitHub entfernte Bulli Bai nach der Empörung und erklärte, es unterhalte Richtlinien gegen Belästigung und Diskriminierung, beantwortete jedoch keine konkreten Fragen von Rest of World dazu, wie es zu der Wiederholung kam oder welche Änderungen an der Moderation folgten. Die indische Polizei leitete Ermittlungen gegen die Ersteller der App ein. Auf den Vorfall folgten keine öffentliche Änderung der GitHub-Richtlinien und kein Transparenzbericht zu codebasierter Belästigung.