Twitter因儿童安全检测缺口而搁置了OnlyFans式订阅计划

2022年春季，Twitter探讨将平台上长期存在的成人内容变现：一个名为“成人内容变现”的项目将允许成人创作者出售OnlyFans式的付费订阅，Twitter从中抽取分成。The Verge获得的内部文件以及对现任和前任员工的采访显示，在最终批准之前，资源已被投入该项目。

在推出之前，Twitter召集了一个由84名员工组成的“红队”对该计划进行压力测试。其2022年4月的结论使该项目脱轨：团队写道，“Twitter无法准确大规模检测儿童性剥削和非自愿裸体内容”，而且公司缺乏验证创作者和消费者达到法定年龄的工具。它警告说，将内容置于付费墙后，会使更多非法材料脱离视野。2022年5月——在埃隆·马斯克同意收购该公司数周后——Twitter无限期推迟了该项目。

这一发现并未让内部人士感到意外：十五个月前，Twitter的健康团队曾在2021年2月报告称，检测技术的投资未能跟上此类内容的指数级增长，审核员们依靠带有已知损坏组件的遗留工具“勉强维持运转”。员工们说，高管们已被告知，但资源从未投入。Twitter表示，它对儿童性剥削“零容忍”，并已在执法方面投入大量资源。

成人内容变现项目在推出前被无限期推迟；OnlyFans预计2022年25亿美元的收入显示了Twitter放弃的机会

该变现计划依赖于公司已知存在缺陷的安全工具——其自身的健康团队早在2021年2月就已报告了这一点。

红队发现Twitter无法大规模检测儿童性剥削或非自愿裸体内容，也没有年龄验证工具。

将成人内容置于付费墙后，会使更多非法材料转入闭门之后，超出Twitter检测系统的覆盖范围。

领导层暂停了该产品，但并未资助修复工作，使底层的检测缺口依然存在。

内部红队只有在领导层为其发现提供资金时才真正有意义：一家明知自身安全工具存在缺陷的公司，不应构建依赖这些工具的产品。

Twitter确认该工作流“出于正当理由”被暂停，但未向检测工作投入新资源；员工告诉The Verge，截至2022年8月，该平台在性剥削儿童内容方面的问题依然存在。