インスタグラム、機械学習でいじめ投稿を検出へ

インスタグラムが機械学習を使って問題のある投稿を検出すると明らかにした/Thomas Trutschel/Photothek via Getty Images

インスタグラムが機械学習を使って問題のある投稿を検出すると明らかにした/Thomas Trutschel/Photothek via Getty Images

ニューヨーク(CNN Business) 写真共有サイト「インスタグラム」は9日、インターネット上のいじめ対策として、機械学習の技術を使って問題のある写真やコメントを検出する機能を発表した。

検出された投稿は、人間の目で確認するために社内の担当チームへ送られる。

今月初めに就任した同社のモッセリ最高経営責任者(CEO)はブログへの投稿で、「ネットいじめは複雑な問題。インスタグラムでのいじめを減らして優しさを広めるために、やるべき仕事がまだあることは承知している」と述べた。

新たな機能はすでに導入を開始し、今後数週間で完了する予定。同社の報道担当者によると、相手の外見や人格を攻撃したり、安定した生活や健康を脅かしたりするような嫌がらせを検知する。

たとえば、写真を分割してだれかと並べ、比較してけなしている投稿などを見つけることができるという。

インスタグラムは今年5月、いじめを目的としたコメントを自動的にブロックするフィルターを導入していた。このフィルターは9日以降、ライブ動画にも適用されるようになった。

インスタグラムはさらに、人気ダンサーのマディー・ジーグラーさんと提携した写真加工機能「カインドネス・カメラ・エフェクト」の提供も開始する。

この機能は、ジーグラーさんをフォローしたユーザーに自動的に追加される。自撮りモードではハート、背面カメラモードでは優しいコメントが複数の言語で、画面に表示される。

Video

Photo

注目ニュース

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]