GoogleのピチャイCEO「YouTubeは大きすぎて有害コンテンツに対処しきれない」
未曾有の金融危機となったリーマンショック当時、破綻しかかった巨大銀行に対して「大きすぎて潰せない(Too Big To Fall)」という言葉がよく投げかけられました。下手に破綻させると、社会に対して甚大な被害が及ぶからです。それから10年、潰す気は毛頭ないものの、Googleのスンダル・ピチャイ最高経営責任者(CEO)は自社サービスYouTubeのことを「大きすぎて完全には対処しきれない(Too Big To Fix Completely)」と感じているようです。
残り1%に対処できない
Googleのスンダル・ピチャイCEOはCNNのインタビューに対し、現在のYouTubeは余りにも巨大なため、有害なコンテンツを完全には排除しきれない、と自身の考えを語りました。
「マシン(機械学習)と人間とのコンビネーション」で事態は良化しており「99%には対処できているものの」、それでも例外は残るとピチャイCEOは語ります。問題はYouTubeほどのスケールともなると、“残りの1%”でも莫大な規模になることです。
同氏は「大規模なシステムは何であれ、完璧な対処は難しい」と話します。「クレジットカードのシステムを考えれば分かるが、いくらかの欠陥は存在するものだ。いずれにしてもその規模に達したら、(絶対数ではなく)パーセンテージで考えるべきだね」
アルゴリズムの限界も問題
ユーザー数は10億人超、1分間に300時間分の動画がアップロードされ(2015年時点)、1日に10億時間分の動画が再生されるYouTubeとあっては、隅々まで完璧に目を光らせるには無理があります。
しかも最近は、ナチスの問題を考える真面目な歴史動画までもが、“ヘイトスピーチ・コンテンツ”として誤って削除されてしまったことが問題視されたばかりで、すべてをアルゴリズムに任せるわけにもいきません。
アルゴリズムの限界については、YouTubeの「おすすめ機能」で推奨される子どもの動画が、児童ポルノ愛好家に活用されていることもNew York Timesによって指摘されています(「どうしてペドフィリアに子供たちの動画を推奨すべきではないのか、おすすめ機能のエンジンは理解できない」)。かくいう筆者も最近、無邪気に爬虫類の動画を再生していたら、ネズミを生きたまま水中にカメの餌として投下する過激な動画が「おすすめ」され、複雑な気持ちになったばかりです。
それでも「我々のゴールは、1%以下の非常に少ない確率にまで抑え込んでいくことだ」とピチャイ氏はインタビューで語り、改良に向けて歩み続けていくと今後への意気込みを示しました。
Source:CNN,CNBC,Fast Company,NYT,MIT Technology Review,YouTube
(kihachi)