Les annonceurs ont fui YouTube après des révélations selon lesquelles ses commentaires facilitaient l'exploitation de mineurs

Le 17 février 2019, le blogueur vidéo Matt Watson a publié un clip de 20 minutes détaillant comment les commentaires de YouTube étaient utilisés pour identifier et horodater des vidéos de jeunes filles dans des activités apparemment innocentes, l'algorithme de recommandation de la plateforme orientant ensuite les spectateurs vers des vidéos similaires. Au 20 février, la vidéo avait été vue plus de 1,7 million de fois, et les annonceurs dont les publicités étaient diffusées avant ces vidéos ont commencé à se retirer de la plateforme.

Nestlé a suspendu toute la publicité YouTube de ses sociétés américaines ; Epic Games et l'allemand Dr. August Oetker ont reporté leurs dépenses après que leurs publicités ont été diffusées avant les vidéos ; Walt Disney a également retenu ses dépenses, selon des personnes proches du dossier. YouTube a déclaré que tout contenu ou commentaire mettant en danger des mineurs était abject et interdit, et qu'elle avait supprimé des comptes et des chaînes, signalé des activités illégales aux autorités et désactivé les commentaires violant ses règles. Les dépenses publicitaires totales sur les vidéos mentionnées s'élevaient à moins de 8 000 dollars au cours des 60 jours précédents, des remboursements étant prévus.

Il s'agissait du deuxième exode d'annonceurs de YouTube en deux ans, après le retrait de 2017 lié à des publicités apparaissant à côté de contenus extrémistes et violents ; des marques dont Procter & Gamble et AT&T étaient depuis revenues. YouTube a publié le 19 février une politique mise à jour sur le traitement des contenus qui « franchissent la ligne », mais l'épisode a révélé la même exposition sous-jacente : la proximité avec des écosystèmes de commentaires générés par les utilisateurs qu'elle ne contrôlait pas entièrement.

Disney, Nestlé, Epic Games et Dr. Oetker ont suspendu ou retenu leurs dépenses ; YouTube prévoyait des remboursements sur moins de 8 000 dollars de publicités concernées — son deuxième exode d'annonceurs en deux ans.

La modération traitait les vidéos, et non les commentaires, comme l'unité de risque — de sorte qu'une vidéo légale devenait dangereuse à cause de la conversation qui se déroulait en dessous.

Les algorithmes de recommandation amplifiaient le phénomène, reliant les clips exploités les uns aux autres plus vite que les modérateurs ne pouvaient les trouver.

YouTube avait déjà vendu une solution aux annonceurs après 2017 ; un deuxième scandale de sécurité des enfants en deux ans a sapé cette assurance.

La section des commentaires fait partie du produit : une couche de recommandation algorithmique par-dessus des commentaires non modérés peut transformer n'importe quel envoi innocent en danger auprès duquel les annonceurs ne veulent pas se trouver.

YouTube a supprimé des comptes et des chaînes, désactivé les commentaires violant ses règles, signalé l'activité aux autorités et promis des remboursements ; elle a publié une politique de contenu mise à jour la même semaine. Le document ne consigne aucune perte de revenus chiffrée.