En la primavera de 2022, Twitter exploró la posibilidad de monetizar el contenido para adultos que llevaba mucho tiempo presente en su plataforma: un proyecto llamado Adult Content Monetization permitiría a los creadores adultos vender suscripciones de pago al estilo OnlyFans, y Twitter se quedaría con una parte de los ingresos. Documentos internos obtenidos por The Verge, junto con entrevistas a empleados actuales y antiguos, muestran que se destinaron recursos al proyecto antes de recibir la aprobación definitiva.
Antes del lanzamiento, Twitter convocó un «Red Team» de 84 empleados para someter el plan a pruebas de resistencia. Su conclusión de abril de 2022 hizo descarrilar el proyecto: «Twitter no puede detectar con precisión la explotación sexual infantil ni la desnudez no consentida a escala», escribió el equipo, y la empresa carecía de herramientas para verificar que los creadores y los consumidores fueran mayores de edad. Advirtió que colocar el contenido tras un muro de pago sacaría aún más material ilegal de la vista. En mayo de 2022 —semanas después de que Elon Musk acordara comprar la empresa— Twitter aplazó el proyecto indefinidamente.
El hallazgo no sorprendió a nadie que hubiera estado dentro: quince meses antes, el equipo de Salud de Twitter había informado en febrero de 2021 que la inversión en tecnología de detección no había seguido el ritmo del crecimiento exponencial de ese tipo de contenido, y que los moderadores «mantenían el barco a flote» con herramientas heredadas que tenían componentes defectuosos conocidos. Según los empleados, se informó a los directivos, pero nunca se comprometieron los recursos. Twitter afirmó que tenía «tolerancia cero» con la explotación sexual infantil y que había invertido significativamente en la aplicación de sus normas.
El proyecto Adult Content Monetization se aplazó indefinidamente antes de su lanzamiento; los ingresos proyectados de OnlyFans de 2500 millones de dólares para 2022 mostraban la oportunidad que Twitter dejó pasar
El plan de monetización dependía de herramientas de seguridad que la empresa ya sabía que estaban defectuosas, como su propio equipo de Salud había informado en febrero de 2021.
El Red Team concluyó que Twitter no podía detectar la explotación sexual infantil ni la desnudez no consentida a escala, y que no disponía de herramientas de verificación de edad.
Colocar el contenido para adultos tras un muro de pago habría llevado más material ilegal a puerta cerrada, fuera del alcance de los sistemas de detección de Twitter.
La dirección pausó el producto pero no financió las correcciones, dejando intacta la deficiencia de detección subyacente.
Los equipos rojos internos solo importan si la dirección financia lo que encuentran: una empresa que sabe que sus herramientas de seguridad están defectuosas no debería construir productos que dependan de ellas.
Twitter confirmó que la línea de trabajo se pausó «por las razones correctas», pero no comprometió nuevos recursos para la detección; los empleados dijeron a The Verge que los problemas de la plataforma con contenido que explota sexualmente a menores persistían en agosto de 2022.
CONSULTA LAS PRUEBAS
Las fuentes
- How Twitter's child porn problem ruined its plans for an OnlyFans competitor The Verge · theverge.com ·