安心・安全に使えるプラットフォーム作りに向けたInstagramの取り組み

コロナ禍でリアルなコミュニケーションが取れないなか、SNSは人と人とを結びつけ、人々の心の安定を助けています。その一方、コメントやメッセージで心ない誹謗中傷やいじめにさらされ、傷ついている人も少なくありません。

快適なコミュニケーションの場を提供できるように、各SNSのプラットフォームはさまざま取り組みを行っています。アクティブユーザーが急増しているInstagramも同様です。ここでは、2020年10月14日のメディア向け「Instagramを安心・安全にお使いいただくための最新の取り組みと機能を説明するラウンドテーブル」から、Instagramの新機能、および安心安全を保つための取り組みについてお伝えします。

Instagramのガイドライン違反判定の仕組み

Instagramは「大切な人や大好きなことと、あなたを近づける」というミッションを掲げて運営しており、Instagramの安心・安全の取り組みの指針にもなっています。「ユーザーがInstagramを安全で思いやりのある場所だと感じたときにのみ、自分自身を表現できると考えているからです」と、Instagramのフィリップ・チュア氏は説明します。

Instagramの安心・安全に関する取り組みの3つの柱

安心・安全に関する取り組みには、3つの柱があります。1つ目の「COMMUNITY GUIDELINES」はInstagramが定めた安全で思いやりのあるコミュニティ作りを目的としています。Instagramのガイドラインは、Facebookのポリシー分野の専門家と密に協力して作成しているとのことです。

「Facebookと異なり、Instagramは実名を使う必要はありません。Instagramを誰でも自分自身を表現できる場所にしたいと思っています。ペットの柴犬の代わりにアカウントを運用する人も、困難な時期を経験したために本名を使うことに心の準備ができていない人も使えます」（チュア氏）

Instagram アジア太平洋地域公共政策統括フィリップ・チュア氏

時代に合わせてガイドラインの見直しも行っています。2019年には、自殺と自傷に関するポリシーを変更しました。「（プラットフォームが）自傷行為の生々しいコンテンツを表示することは、たとえ自己表現だとしてもその行為を促しているとみなされる」と考え、自傷行為のコンテンツは非表示とすることにしました。そして、自殺や自傷行為に関するコンテンツを検索した利用者には、「日本いのちの電話連盟」や「東京自殺予防センター」といった国内パートナーの情報を提供しています。

ガイドラインに違反しているコンテンツをどう評価するか、これが柱の2本目である「REPORTING & CONTENT VIEW]です。Instagramは利用者から報告を受け、ガイドラインに違反していた場合、コンテンツを削除します。報告の数は判断に関係しません。

ガイドライン違反と報告されたコンテンツは、コンテンツレビュアーが確認します。コンテンツレビュアーは世界に35,000人。その国の言語や文化をよく知っているネイティブの人が24時間対応しています。

必要であれば、コンテンツだけでなくプロフィールページやアカウントの他の投稿、コメントも確認します。違反していると判断した場合、続いて違反の種類を判定。例えば、現実の世界で被害の可能性があるような問題だと判断した場合、コンテンツレビュアーは専用のチームに報告します。必要に応じて、法的機関とも連携します。

コンテンツレビュアーによってガイドライン違反をチェック

3つ目の柱「TECHNOLOGY」も、重要な役割を果たしています。AI技術を活用し、先回りしてInstagram上の悪質なコンテンツを検知する仕組みを導入しています。AIが判断に迷うようなコンテンツは、コンテンツレビュアーに通知されます。AIは、コメント内の表現、画像内の視覚的な表現、投稿へのコメント回数、フォローやアンフォロー、利用者の年齢などの情報を学習して判断を行います。

AI技術を使った自動判別も

安心、安全を守るInstagramの機能

Instagramはこれまでも、安心、安全に利用するための機能をリリースしてきました。2019年10月にリリースした「制限」機能は、相手を「制限」に設定することによって、相手が自分の投稿につけたコメントを承認制にしたり、ダイレクトメッセージをメッセージリクエストに移動して通知しないようにする機能です。例えば、いじめを行う相手をブロックして関係性が悪化することを心配する利用者が、相手の様子を見ながら対応することができます。

アカウントの「制限」機能は相手の様子を見ながら交流できます

2020年5月には、コメントの管理機能を強化。コメントの一括削除、コメント欄から複数アカウントのブロックや制限機能をサポートしました。また、「コメントのやり取りはトップに表示されるコメントのトーンに左右される」との利用者の声を受け、お気に入りのコメントをトップに固定する機能も搭載しました。

コメント欄のメニューから、コメントを一括削除できます

お気に入りのコメントをトップに固定することで、好ましい雰囲気を作れます

Instagramは、「制限」機能をこれまで使用した、または現在使用しているアカウントが3,500万以上いること、そして、コメントの一括削除、複数アカウントのブロックや制限機能を350万以上のアカウントが使用したことを明らかにしました。

3,500万以上のアカウントが「制限」を利用した経験を持っています

また、ガイドライン違反の可能性があるコメントを投稿しようとした利用者に事前通知したり、ネガティブなコメントを非表示したりする仕組みも導入しました。これらはInstagramの過去データにもとづき、AIで自動的に行うとのこと。非表示コメントに関しては、「非表示のコメントを見る」で投稿主がコメントを確認することもできます。

安心安全なプラットフォーム作りへの取り組み

2020年3月にはInstagramの安全な使い方を啓蒙するキャンペーンとして、クリエイタ－プロダクション「UUUM」と共同で「#インスタANZENカイギ」を発足。4名のアンバサダーとともに安心・安全に関するヒントを発信しています。

発信には、Instagramが一部のクリエイターやパブリッシャー向けに提供している「まとめ」機能を使っています。NPO「あなたのいばしょ」が運営する匿名のチャット相談窓口「あなたのいばしょ」は、このまとめ機能を使って、ネガティブ情報との向き合い方や死にたいと思ったときに心を落ち着ける方法を紹介しています。

「あなたのいばしょ」アカウントの「まとめ」タブから読むことができます

Instagramは熟慮したガイドラインを遵守し、人とAIで利用者の安心と安全に配慮しているとのこと。チュア氏は、「世界で10億アカウントに使われているInstagramにおいて、安全でないと感じている人はごく少数派。ほとんどの利用者はポジティブに利用できていますが、安全でないと感じている利用者がいる限り機能を拡張し、啓蒙活動を続けていく」としています。不快な思いをしても対応がわからず、困っている人がいるかもしれませんが、Instagramのさまざまな機能をうまく使って、ストレスのない環境を作ってもらえればと思います。