広告主ら、未成年者を巡る搾取を可能にしたとの報道を受けYouTubeから離脱

2019年2月17日、動画ブロガーのマット・ワトソンは、YouTubeのコメントが一見無邪気な活動をする少女たちの動画を特定しタイムスタンプを付けるために利用され、その後プラットフォームの推薦アルゴリズムが視聴者を類似の動画へ誘導していると詳述する20分のクリップを投稿した。2月20日までにこの動画は170万回以上再生され、当該動画に広告を出していた広告主がプラットフォームから撤退し始めた。

ネスレは米国各社のYouTube広告をすべて一時停止した。Epic GamesとドイツのDr. August Oetkerは、自社広告が当該動画の前に流れるのが確認された後、支出を延期した。ウォルト・ディズニーも事情に詳しい関係者によれば支出を保留した。YouTubeは、未成年者を危険にさらすコンテンツやコメントはいかなるものも忌まわしく禁止されていると述べ、アカウントとチャンネルを削除し、違法行為を当局に通報し、違反コメントを無効化したと説明した。言及された動画への広告支出総額は過去60日間で8,000ドル未満であり、返金が予定されていた。

これは2年間で2度目の広告主の大量離脱であった。2017年には過激派や暴力的なコンテンツの隣に広告が表示されたことを巡り離脱が起き、その後プロクター・アンド・ギャンブルやAT&Tを含むブランドが復帰していた。YouTubeは2月19日、「一線を越える」コンテンツの扱いに関する更新ポリシーを公表したが、この出来事は同じ根底にあるリスク、すなわち自社が完全には制御していないユーザー生成コメントのエコシステムとの隣接性を露呈させた。

ディズニー、ネスレ、Epic Games、Dr. Oetkerが支出を一時停止または保留した。YouTubeは影響を受けた8,000ドル未満の広告について返金を予定した。これは2年間で2度目の広告主の大量離脱であった。

モデレーションは動画をリスクの単位として扱い、コメントをそう扱わなかった。そのため、合法な動画がその下の会話によって安全でないものになった。

推薦アルゴリズムがこのパターンを増幅し、搾取されたクリップ同士を、レビュー担当者が発見できるよりも速く結びつけた。

YouTubeは2017年以降、広告主に一度は修正策を示していた。2年間で2度目の児童安全スキャンダルがその安心感を損なった。

コメント欄は製品の一部である。モデレーションされていないコメントの上にアルゴリズムの推薦層が重なると、無害なアップロードが広告主の隣に置きたがらない危険へと変わり得る。

YouTubeはアカウントとチャンネルを削除し、違反コメントを無効化し、活動を当局に通報し、返金を約束した。同じ週に更新されたコンテンツポリシーを公表した。資料には定量化された収益損失は記録されていない。