フェイスブックが自動モデレーション機能などのグループ管理者向け新ツール発表

Sarah Perez,Dragonfly

3年前

Facebook（フェイスブック）は米国時間6月17日、プラットフォーム上のコミュニティを適切に管理し、意見が対立して荒れるなどの状況を防ぐことを目的としたグループ管理者向けの新しいツールを発表した。特に興味深いツールは、機械学習を利用して、グループ内で不健全な会話が発生している可能性を管理者に警告する機能である。管理者がグループメンバーの投稿の頻度を制限して、白熱した会話のペースを落とす機能もある。

Facebookグループを利用するためにFacebookのアカウントを持ち続けるユーザーも多い。同社によると、現在、数千万のグループが存在し、世界中で7000万人以上のアクティブな管理者とモデレーターによって管理されているという。

Facebookは長年にわたり、グループオーナーのためのより優れたツールの導入に取り組んできた。大規模なオンラインコミュニティの運営には大き過ぎる管理責任がともなう。それに疲弊した管理者が仕事を放棄し、グループが管理されないまま放置され、誤った情報やスパム、不正行為の温床となってしまうことも多い。

2020年秋、Facebookはこのような問題に対処するために新しいグループポリシーを導入し、アクティブな管理者のいないグループを取り締まるなどの対策を講じた。同社はもちろん、グループの運営を簡単にできるようにして、グループが存続し、成長し続けることを維持したいと考えている。

米国時間6月17日、満を持して新機能が登場した。

新しいダッシュボード「管理者ホーム」には、管理者ツール、設定、機能が集約され、グループのニーズに合わせて役に立つツールを提案するヒントが表示される。

画像クレジット：Facebook

もう1つの新機能「管理者アシスト」では、グループ内のコメントを自動的に調整することができる。グループ内で議論が白熱した際に、事後的にコメントや投稿を削除すると、問題が生じる可能性がある。「管理者アシスト」機能を使うと、管理者は（事後的ではなく）より積極的にコメントや投稿を制限することができる。

管理者は「管理者アシスト」機能を使って、Facebookアカウントを取得してから間もないユーザーや、最近グループのルールに違反したユーザーの投稿を制限することができる。特定の内容の宣伝（マルチ商法へのリンクなど）を含む投稿を自動的に拒否し、その投稿が拒否された理由を投稿者に自動的にフィードバックすることも可能だ。

管理者は、Facebookが推奨する条件を利用して、スパムを制限したり、対立を管理したりすることもできる。

画像クレジット：Facebook

注目すべきアップデートは「対立の可能性のアラート」という、新しいタイプのモデレーションアラートだ。Facebookによると、この機能は現在テスト中で、グループ内で論争や不健全な会話が行われている可能性がある場合に管理者に通知する機能である。管理者はこのアラートを見て、コメントを消す、コメントできるユーザーを制限する、投稿を削除するなど、状況に応じて迅速に対応することができる。

「対立の可能性のアラート」は機械学習を利用している、とFacebookは説明する。機械学習モデルは、返信時間やコメントのサイズなどの複数のシグナルを見て、ユーザー間の相互作用がマイナスな方向に進行していないか、あるいは進行する可能性があるかどうかを判断するという。

これは、現在多くの管理者が使用しているキーワードアラート機能を自動化、拡張した機能で、言い争いになりそうなトピックを探すことができる。

画像クレジット：Facebook

これに関連した新機能では、管理者は、特定のメンバーによるコメントの頻度を制限したり、指定した投稿へのコメントの頻度を制限したりすることもできるようになる。

この機能を有効にすると、メンバーのコメントは5分に1回に制限される。根底にあるのは、議論が白熱する中、ユーザーにいったん立ち止まって自分の発言を考えてもらうことで、より文化的な会話につなげるというアイデアである。この考え方は、他のソーシャルネットワークでも採用されている。例えばTwitterは、リツイートする前に記事を読むように促したり、有害である可能性のある返信にプロンプトを表示して、投稿を再確認するように呼びかけたりしている。

画像クレジット：Facebook

その一方で、Facebookは、たとえそれがポジティブなやり取りや体験につながらない場合でも、プラットフォーム上でのコミュニケーションを幅広く受け入れてきた。今回の機能は大掛かりなものではないが、健全なオンラインコミュニティを構築するためには、頭に浮かんだことをすぐに書き込んだりコメントしたりできないようにする必要もある、とFacebookが認めたことを意味する。

Facebookは、管理者が特定のグループメンバーの活動を一時的に制限できるようにするツールもテスト中である。

管理者はこのツールを使って、特定のメンバーが1日に共有できる投稿数（1～9件）と、制限を有効にする期間（12時間、24時間、3日、7日、14日、28日）を設定したり、特定のメンバーが1時間あたりに共有できるコメント数（1～30件、5件単位）と、制限期間（12時間、24時間、3日、7日、14日、28日）を設定したりすることができる。

また、より健全なコミュニティの構築に向けて「メンバーの概要」という新機能で各メンバーのグループでの活動状況を把握したり、投稿数やコメント数、投稿の削除やミュートの回数などを確認したりすることも可能になる。

画像クレジット：Facebook

Facebookは、これらの新しいツールの活用法については言及していないが、管理者が詳細な「メンバーの概要」を利用して散発的にメンバーベースのクリーンアップを行い、議論を妨害してばかりいる悪質なユーザーを排除する、といったユースケースなどが考えられる。このツールで、グループの活動に貢献している無違反のユーザーを見つけてモデレーターに昇格させることもできるだろう。

さらに、管理者は、コメントと投稿にグループルールをタグ付けしたり、特定の投稿タイプ（アンケートやイベントなど）を禁止したり、グループの違反に関連する決定を再調査するようFacebookに「異議申し立て」したりすることができるようになる。

画像クレジット：Facebook

ここまでのニュースに埋もれてしまった感があるが、以前発表された「チャット」の復活も興味深い。

2019年、Facebookは突然チャット機能を削除した。（Facebookは製品インフラの問題であるとしたものの、）おそらくスパムが原因ではないかと一部で推測されている。以前と同様、チャットには、アクティブメンバーと、チャットからの通知をオプトインしたユーザーを含めて、最大250人が参加できる。上限に達すると、チャットのアクティブメンバーが退出するか、誰かが通知を停止するまで、他のメンバーはそのチャットルームに参加することができない。

Facebookグループのメンバーは、Messengerを使用するのではなく、Facebookグループ内で他のメンバーとのチャットを開始したり、チャットを検索して参加したりすることができる。管理者やモデレーターも同様だ。

今回の変更が、評価額が11億7000万ドル（約1290億円）の新しいユニコーン企業であるIRL（アイアールエル）のようなメッセージングベースのソーシャルネットワークの他、Telegram（テレグラム）やSignal（シグナル）などのメッセージングアプリ、さらに非主流のソーシャルネットワークの成長を後追いしている、という点は注目すべきだろう。