Twitter、デマ対策としてフェイク画像への注釈機能をテスト導入

 
本物と見分けがつかないフェイク画像や、誤解を生むことを目的とした悪質なデマ画像に対応すべく、Twitterは新たに試験的な試みとして、問題含みだと判断した画像コンテンツに一部ユーザーが注釈を入れられるようにしたことを明らかにしました。

フェイク画像が株式市場の混乱招いた

生成AIの盛り上がりによって、実在する人物や現実に起きた事象と見分けの付かない画像がインターネットに氾濫しています。中でも象徴的だったとのが、5月22日（現地時間）に発生した「ペンタゴン爆発騒動」でしょう。
 

 
青い認証マークのついたBloomberg Feedと名乗るアカウント（本当のBloombergとは無関係）が、「ワシントンDCのペンタゴン近くで大きな爆発があった」と画像付きでツイート、これにアルゴリズムが反応したことで米株価が大きく下落し、一時的に株式市場がパニックとなりました。
 
さすがにまずいと判断したのか、昨年から実験的に取り組んでいるCommunity Notesシステムを拡張する形で、一定度の貢献度が認められたコントリビューターであれば、画像に注釈を加えることができるオプションをTwitterは発表しました。
 

If you're a contributor with a Writing Impact of 10 or above, you’ll see a new option on some Tweets to mark your notes as “About the image”. This option can be selected when you believe the media is potentially misleading in itself, regardless of which Tweet it is featured in. pic.twitter.com/zMtXBspN5p

— Community Notes (@CommunityNotes) May 30, 2023

 
これによって、コントリビューターが問題だと判断した画像に注釈が表示されるようになるほか、類似画像だと判断されたものにも自動で注釈が出るようになるため、根拠のないデマやフェイク画像の拡散抑止が期待できます。
 
現在は一つの画像に注釈を入れられるのみですが、Twitterは将来的に動画や複数の画像にも対応していく旨を明らかにしています。
 
 
Source:Twitter via The Verge,ArsTechnica
(kihachi)