Twitter 因兒童安全偵測缺口而擱置 OnlyFans 式訂閱方案

2022 年春季，Twitter 研究如何將平台上長期存在的成人內容變現：一項名為「成人內容變現」（Adult Content Monetization）的計畫，將讓成人創作者販售 OnlyFans 式的付費訂閱，Twitter 從中抽取部分收入。The Verge 取得的內部文件，加上對現任與前任員工的訪談顯示，在最終批准之前，資源已被投入該計畫。

在上線前，Twitter 召集了一個由 84 名員工組成的「紅隊」對該計畫進行壓力測試。該團隊在 2022 年 4 月得出的結論使計畫脫軌：「Twitter 無法準確地大規模偵測兒童性剝削與未經同意的裸體內容」，而且公司缺乏工具來驗證創作者與消費者已達法定年齡。紅隊警告，將內容設為付費牆之後，會使更多非法素材移出視線範圍。2022 年 5 月——在 Elon Musk 同意收購該公司數週後——Twitter 無限期延後了該計畫。

對於曾身處內部的人來說，這項發現並不令人意外：十五個月前，Twitter 的健康（Health）團隊已於 2021 年 2 月報告，偵測技術的投資未能跟上此類內容的指數級成長，審核員只能靠著已知有元件故障的舊有工具「勉強維持這艘船不沉」。員工表示，高層已被告知，但資源從未真正投入。Twitter 表示，對兒童性剝削「零容忍」，並已在執法上投入大量資源。

「成人內容變現」計畫在上線前被無限期延後；OnlyFans 預估 2022 年營收達 25 億美元，顯示 Twitter 放棄了多大的機會

這項變現計畫依賴的是公司早已知道有問題的安全工具——其自家的健康團隊已於 2021 年 2 月如此報告。

紅隊發現 Twitter 無法大規模偵測兒童性剝削或未經同意的裸體內容，也沒有年齡驗證工具。

將成人內容設為付費牆，會使更多非法素材轉入閉門之後，超出 Twitter 偵測系統的觸及範圍。

領導層暫停了產品，卻未資助修復工作，使根本的偵測缺口依然存在。

內部紅隊只有在領導層願意為其發現出資時才有意義：一家知道自己安全工具有問題的公司，不應打造依賴這些工具的產品。

Twitter 證實該工作流程「基於正確的理由」被暫停，但未對偵測投入新資源；員工告訴 The Verge，截至 2022 年 8 月，該平台涉及兒童性剝削內容的問題依然存在。