親パレスチナ投稿の非表示問題、Instagramがアルゴリズム修正へ

 
イスラエルと激しく対立するパレスチナへの好意的な投稿に対し、Instagramが“検閲”を行ったことが問題となっています。抗議の声を受け、Instagramのアルゴリズムが見直されることが分かりました。

FB側は「一般的な問題に対処しただけ」と強調

Financial Timesによると、Instagramでパレスチナの肩を持つコンテンツが不適切と判断され、ユーザーに表示されにくくなる傾向が確認されていたそうです。この問題はユーザーのみならず、Instagramの従業員らの告発を受けて表面化しており、事態を重くみた同社は急きょアルゴリズムの見直しを表明しました。
 
ただし意図的な検閲ではなく、あくまでもアルゴリズムの自動モデレーション機能に偏りが起きていたためと考えられています。
 
ニュースサイトThe Vergeの取材に対し、Instagramの親会社であるFacebookは「今回のアルゴリズム変更は、親パレスチナのコンテンツに対する懸念に対応したものではなく」、あくまでも一般論として「ユーザーが最も関心を持っていると思われる投稿をポップアップ表示するアプリの機能の仕方が、結果的に特定の視点やトピックを抑圧していると思われた」ために修正を加えたと強調しました。
 
したがって今後は、パレスチナ問題だけでなく、話題性のあるテーマのコンテンツを平等に目にする機会が増える可能性もあります。

モスクの名称を過激派連合と勘違い

パレスチナ問題でInstagramの挙動が批判の矢面に立たされるのは、今回が初めてではありません。同社は5月上旬にも、数時間に渡ってユーザーがパレスチナ関連の投稿をできなくなる事象が確認されており「技術的な不具合」が生じていたことを認めています。
 
また親会社のFacebookも、無害な内容にもかかわらず「殉教者」「抵抗」といったキーワードを含んだ投稿に対し、暴力を扇動しているとするフラグを立てていたり、衝突が生じたアル・アクサ・モスクに関する投稿を、似たような名前の過激派連合と誤って結びつけ削除していたことで批判を受けています。

度々起こるアルゴリズムの暴走

アルゴリズムの“暴走”は、FacebookやInstagramだけでなく、長年テック企業が頭を抱える問題でもあります。
 
2015年にはGoogleのアルゴリズムが誤って黒人をゴリラとタグ付けし大問題になったほか、昨年もTwitterの画像投稿で黒人よりも白人が優先的に表示される仕様が発覚、釈明と顔認識システムの見直しを迫られました。
 
 
Source:Financial Times,The Verge,Yahoo!Finance
(kihachi)