Anunciantes abandonaram o YouTube após relatos de que seus comentários possibilitavam a exploração de menores

Em 17 de fevereiro de 2019, o videoblogueiro Matt Watson publicou um clipe de 20 minutos detalhando como os comentários do YouTube estavam sendo usados para identificar e marcar com data e hora vídeos de meninas jovens em atividades aparentemente inocentes, com o algoritmo de recomendação da plataforma direcionando então os espectadores para vídeos semelhantes. Até 20 de fevereiro, o vídeo havia sido visto mais de 1,7 milhão de vezes, e os anunciantes cujos anúncios eram exibidos junto aos vídeos começaram a se retirar da plataforma.

A Nestlé pausou toda a publicidade no YouTube de suas empresas nos EUA; a Epic Games e a alemã Dr. August Oetker adiaram gastos depois que seus anúncios foram exibidos antes dos vídeos; a Walt Disney também reteve seus gastos, segundo pessoas com conhecimento do assunto. O YouTube afirmou que qualquer conteúdo ou comentário que colocasse menores em perigo era abominável e proibido, e que havia excluído contas e canais, relatado atividades ilegais às autoridades e desativado comentários violadores. O gasto total com anúncios nos vídeos mencionados foi inferior a US$ 8.000 nos 60 dias anteriores, com reembolsos planejados.

Foi a segunda debandada de anunciantes do YouTube em dois anos, após a retirada de 2017 por causa de anúncios exibidos ao lado de conteúdo extremista e violento; marcas como Procter & Gamble e AT&T haviam retornado desde então. O YouTube divulgou uma política atualizada em 19 de fevereiro sobre como lidar com conteúdo que "ultrapassa a linha", mas o episódio mostrou a mesma exposição subjacente: a adjacência a ecossistemas de comentários gerados por usuários que não controlava plenamente.

Disney, Nestlé, Epic Games e Dr. Oetker pausaram ou retiveram gastos; o YouTube planejou reembolsos sobre menos de US$ 8.000 em anúncios afetados — sua segunda debandada de anunciantes em dois anos.

A moderação tratava os vídeos, e não os comentários, como a unidade de risco — assim, um vídeo legal tornava-se inseguro por causa da conversa abaixo dele.

Os algoritmos de recomendação amplificaram o padrão, ligando clipes explorados uns aos outros mais rápido do que os revisores conseguiam encontrá-los.

O YouTube já havia vendido aos anunciantes uma solução uma vez após 2017; um segundo escândalo de segurança infantil em dois anos minou essa garantia.

A seção de comentários faz parte do produto: uma camada de recomendação algorítmica sobre comentários não moderados pode transformar qualquer upload inocente em um perigo ao lado do qual os anunciantes não vão querer ficar.

O YouTube excluiu contas e canais, desativou comentários violadores, relatou atividades às autoridades e prometeu reembolsos; divulgou uma política de conteúdo atualizada na mesma semana. O material não registra perda de receita quantificada.