Instagram、写真やライブ動画での“いじめ行為”防止機能。いじめ写真自動検出／コメント自動ブロック

Instagramは、ユーザーがアップロードした写真やライブ動画上に対する“いじめ行為”を防ぐための機能を導入した。

同社では、「投稿の大半はポジティブな内容であるものの、残念ながら時には嫌がらせやいじめを目的に写真がシェアされることもあります。また、いじめ行為にあたる投稿を目にしたり、嫌がらせにあったりしても、自分から報告しない利用者も多くいます」と、今回の新機能導入の背景を説明。

これを受け、機械学習（マシンラーニング）を活用し、いじめと思われる写真やキャプションを検出する技術を導入した。検出された投稿はコミュニティオペレーションチームが内容を確認し、コミュニティガイドラインに違反するものは削除の対象になる。この機能は、今後数週間かけて導入される予定。

また、いじめコメントを自動的にブロックし、非表示にするフィルターを、ライブ動画にも導入。これまではフィード投稿、エクスプローラ（Explore）ページ、プロフィールに適用されていたが、今後はライブ動画上のいじめコメントもフィルタリングする。この機能はすでに導入済みで、日本語にも対応している。