Facebookは現地時間11月27日、投稿された文章や動画の中で自殺の兆候があるものをAI(人工知能)が検出し、緊急性に応じて担当チームが対応する取り組みを開始すると発表しました。
投稿者の文章や動画だけでなく、周りのコメント等もAIが自動判別
Facebookは今年の3月より、自殺の兆候がある投稿文章をFacebookに報告できる「自殺防止ツール」の提供を開始していましたが、今月27日より、新たにAIを使った自殺予防の取り組みを開始しました。
Facebookによると、これは投稿された文章や動画、ライブ配信動画の中から自殺兆候のある言葉をAIが自動認識し、緊急性に応じて担当チームが適切な対処をする取組みだといいます。
担当チームは緊急性の高いものから順に、必要に応じて緊急出動要請をしたり、投稿者に相談窓口のリンクを送ったりします。
AIが認識する文章は投稿者自身の文章だけでなく、「大丈夫？」といったコメントや周囲の反応なども含まれます。
Facebookは先月、この取り組みを試行的に行っており、迅速な対応が必要と判断された報告は、他の報告と比べて2倍の早さで現地当局に通報されたといいます。
EUを除く世界中で提供予定
この取り組みは、いまのところ米国を含む一部地域でしか行われていませんが、最終的には世界中で提供予定となっています。
ただしEUはデータのプライバシーに関する規制があるため、対象からは除外されています。
Source:Facebook
Photo:flickr-Christopher
(kotobaya)