Twitter、画像切り抜き機能の偏り発見するコンテスト開催〜意図せぬ人種差別防ぐ

 
Twitterは自社サービスの改善を目的とし、画像切り抜きアルゴリズムの偏りを発見する賞金コンテストを開催しています。ハッカーや研究者が参加対象となり、優勝チームには3,500ドル（約38万円）の賞金が授与されます。

昨年の“炎上”がきっかけ

Twitterの画像切り抜きアルゴリズムは昨年、バラク・オバマ元大統領（黒人）よりも白人のミッチ・マコーネル上院議員（白人）の顔検出が優先される仕様が明らかとなり、無意識の人種バイアスの存在が大きく問題視されました。問題の発覚によって、Twitterは「今まで人種やジェンダーバイアスを分析できていなかった」として公式謝罪しています。
 
こうした問題を踏まえ、Twitterはハッカーや研究者のチームを対象とし、コードと画像切り抜きモデルのアクセス権を与えることで、賞金コンテンストを通してアルゴリズムの有害性を発見してもらいたいと考えているようです。有害性は、悪意を持った害と意図的でない害で区別され、それぞれポイントが加算されます。
 
どのような害が発見されたか、人々にどれほどの影響を与える可能性があるかを点数付けし、最も多くのポイントを獲得したチームには3,500ドル、さらに最も革新的かつ一般化できる発見には追加で1,000ドル（約11万円）の賞金が付与されます。
 

Maybe add a few zeros to the prizes to not make it look like an empty marketing stunt?

— Gregor (@gr2m) July 30, 2021

 
ただ、Appleの開催するバグ懸賞プログラムの賞金が最大100万ドル（約1億1,000万円）であることを思うと、一部のユーザーが「（賞金額）に0を追加すべきだ」と声を上げるのも無理はないでしょう。コンテストは8月6日（現地時間）まで開催され、同月9日に勝者が発表されます。
 
 
Source:The Verge,Hackerone
(kihachi)