米TV番組『Full Frontal』の司会者、サマンサ・ビーがYouTubeのアルゴリズムを徹底検証。小児性愛から過激な思想にいたるまで、YouTubeの動画おすすめ機能が危険かつ違法な行動を煽っている状況を調査した。
ニューヨーク・タイムズの最新の調査記事でも、YouTubeのアルゴリズムが小児性愛的な嗜好を持つユーザーをどんどん年齢層の低い少女が映っている動画へ誘導することが判明。子供が映っている動画へのおすすめ機能を停止するだけで済むものを、YouTubeはこうした措置を拒んでいる。
「しかも今年、YouTubeが小児性愛者にゴマをすっているのが見つかったのは1度や2度じゃないんです」とビー。「お咎めなしというわけにはいきませんよ。ウディ・アレンだって娘と結婚したのは1回きりだっていうのに」
ビーも解説しているように、YouTubeがアルゴリズムの修正に応じなかったのは、今回の場合はアルゴリズムが本来の目的通りに機能したからだという。つまり、ユーザーを長くネット上にとどめておくような動画へと誘導しているのだ。そのせいで、極右過激主義者らが人種差別的、性差別的、同性愛差別的なメッセージを幅広いオーディエンスに垂れ流すような状況を許してしまっているのだが、YouTubeの主張によれば、これは同社のハラスメント・サイバーいじめ禁止規約の違反には当たらないという。
ビーの意見では、YouTubeはせいぜい特定のチャンネルの収益化を停止するのが関の山。ユーザーの広告収入を減らせば、自分たちが全部懐に収められるという魂胆なのではないかと語った。
ビーは番組の終盤で、YouTubeはアルゴリズムのおかげで大儲けしている以上、現時点でアルゴリズムを修正する動機はないとも指摘した。同社の社員が有害動画コンテンツに対して問題提起した際、会社から面倒を起こすなという趣旨のことを言われたそうだ。だがアルゴリズム自体は氷山の一角にすぎない。
「アルゴリズムは人間によって設計されたものです」とビー。「アルゴリズムが人種差別主義なのは、人間が人種差別者だからです。アルゴリズムが欲深いのも、人間が強欲だからです。アルゴリズムがいつも私に、左右のカップの大きさが極端に違うブラを買えと言うのも……いや、これは明らかにバグですね」