ソーシャルはもはやFacebookで行われていることに留まらない。使用するすべてのアプリで行うことに相当する。Venmo（ベンモ）、Strava（ストラバ）、Duolingo（デュオリンゴ）、さらにはSephora（セフォラ）での体験を思い浮かべてみて欲しい。
ソーシャルコンポーネントをアプリやサービスに実装する「ソーシャル＋企業」として知られる企業が、ユーザーとのつながりを確立し、インタラクションを実現するという強みを背景に、繁栄を続けている。
Andreessen Horowitz（アンドリーセン・ホロウィッツ）のD’Arcy Coolican（ダーシー・クーリカン）氏は、ソーシャル＋企業の魅力について次のように記している。
（ソーシャル＋は）ビデオゲームから音楽、ワークアウトに至るまで、あらゆる分野でコミュニティを見つけるのに役立ちます。ソーシャル＋は、喜びを刺激するような実用性が、人間の本質的なつながりと思慮深く統合されているときに生じます。その力は強力です。なぜなら、究極的には、正統的かつポジティブな形でお互いにつながる方法が多ければ多いほど、より良いものになるからです。
ソーシャル＋はまもなく私たちの生活のあらゆる側面に浸透し、数カ月後には猛烈な勢いで加速することが予想される。実用性を維持するアダプションが進み、すべての企業がソーシャル企業となることを、筆者は保証したい。これはとてもエキサイティングであるが、そうなるのは私たちが適切な構想を整えている場合に限られる。過去にソーシャルの支配力を私たちは目の当たりにしてきたが、その方向に向かわない限り、すばらしいものが創出されるだろう。
ソーシャルを生み出すアプリが正当なモデレーションの実践に信仰を見出さず、正しいテクノロジーとプロセスを最初から確実に構築するために必要なリソースへの投資を行わなければ、今日のユーザー体験にみられる目覚ましいほどの付加的なものが、まさに悪夢のようなものになりかねない。
Facebookからの学び
Facebookは、初代のソーシャルパイオニアとして社会の機能を再定義したが、そうすることで、いくつかの非常に痛ましい教訓に耐えることになった。注目すべきは、個人、グループ、組織に至る19億3000万人のデイリーアクティブユーザーからの投稿を監視しながら、同時に抑圧することなくコミュニティの意識を醸成し、プラットフォームアダプション、エンゲージメント、利益を促進するという重荷を背負わなければならないことだ。ソーシャル＋企業は、少なくとも短期的には、この種の量を目にすることはなさそうだが、同じ問題に対処しなければならず、それが起こることを予見できない言い訳はもはや存在しない。
Facebookがモデレートに失敗したいくつかの領域を見てみよう。
- 急成長する中で不適切なユーザー行動を見過ごしてしまう：Facebookの初期の頃、プラットフォームモデレーションは、ユーザー主導の無料スペースとみなされていたところでは必要ないと考えられていた。この会社は単なるつながりのパイプだった。Facebookは、効果的に管理するには遅すぎるという状況になるまで、ユーザーに害が及ぶ可能性を認識していなかった。最先端のソフトウェア、そして1万5000人の従業員が70言語にわたるコンテンツのレビューに専念しているワークフォースをもってしても、コンテンツモデレーションは依然として大きな問題であり、企業ユーザー、広告費、膨大な評判資本を犠牲にしている。
- 言葉の壁の過小評価：私たちはオンラインサービスやネットワークを通じてますますグローバル化する社会に住んでいるが、議会に提出された文書によると、偽情報を特定するために割り当てられたFacebookのグローバル予算の87％が米国に充てられていた。世界のその他の地域でのモデレーションプラクティスにわずか13％しか充当されていないことになるが、北米ユーザーはデイリーユーザーの10％に過ぎないのである。Facebookはこの問題に対処するために、言語に極めて微妙な差異がある市場にAIベースのコンテンツモデレーション用ソフトウェアを適用しようとしたが、うまく機能しなかった。Facebook最大の市場（3億5000万人のユーザーを抱えるインド）では、言語不足に起因して、誤情報や暴力扇動が急増している。北アフリカや中東の多様な方言の場合はさらに深刻である。結果として、人間によるコンテンツレビューと自動化されたコンテンツレビューの両方においてヘイトスピーチが蔓延するのを誤って許容してしまい、一方で、一見テロ活動を助長しているように思われる無害な投稿が削除されるという事態に陥っている。
- 政治的になる：米国のディープフェイクや偽情報キャンペーンにおいて武器化されてきた最も明確な言葉は正常化されているが、Facebookがそのサービス規約に照らして合法的に削除したりフラグを立てたりする投稿は、表現の権利が侵害され、自分の声が抑圧されていると感じているユーザーの怒りを招いている。これは、新しい法的手続きの断片と連動して、重大な市民の反発を引き起こした。つい最近の2021年12月1日、政治的信条に基づいてコンテンツが削除された場合に州住民がFacebookを訴えて損害賠償を求めることを可能にするテキサス州法の施行を、連邦判事が阻止した。政治的候補者、ニュースサイト、ユーザーを検閲した責任をFacebookに負わせようとしたフロリダ州の同様の法律も却下された。しかし、これらの試みは、人々が自分たちの好まない、あるいは時間の経過とともに自分たちに対抗するように変化していると感じるコンテンツモデレーションのプラクティスに、いかに憤慨しているかを示している。
- 禁止コンテンツをどうするかの判断：コンテンツが削除された場合、そのコンテンツはどうなるかという問題や、好ましくないコンテンツを引き渡したり、違法行為の可能性について当局に警告したりする倫理的責任が企業にあるかどうかという問題もある。例えば、検察は現在、抗議者が銃撃された暴力事件に関与したグループ、ニューメキシコ州市民警備隊のメンバーを特定するのに役立つデータをFacebookに渡すよう要求している。Facebookは、禁止されていた同グループの記録は削除したため、どうすることもできないと主張している。誰が何を所有しているのか、プライバシーに対する合理的な期待は何か、企業はコンテンツを放棄できるのかという点で、法執行機関とソーシャル企業の間で緊張が高まり続けている。
これらの問題はすべて、アプリやサービスにソーシャルコンポーネントを組み込むことを計画している企業によって、慎重に検討されるべきである。
次世代のソーシャルアプリ
ソーシャルエンゲージメントは、セールスやアダプションなど多くの側面で重要な要素となっているが、人間には欠点もあることを忘れてはならない。トロール、スパム、ポルノ、フィッシング、金銭詐欺は、ブラウザやショッピングカートと同程度にインターネットの一部となっている。それらによってコミュニティが一掃され、破壊される可能性もある。
考えてみて欲しい。Facebookとその開発者、モデレーター、AIテクノロジーの部隊が悪戦苦闘しているなら、モデレーションとコミュニティガイドラインを初めから優先しない場合、どのようなことが起こるだろうか？
企業は、特にサービスがグローバル化するにつれて、企業とともに拡張できるモデレーション機能を構築するか、堅牢なソリューションを提供する企業と提携する必要がある。これはいくら強調してもしすぎることはない。プラットフォームの長期的な成功と存続性、そしてソーシャル＋ムーブメントの未来にとって、それは基本的な要素である。
しかし、モデレーションツールがその役割を果たすためには、企業はコミュニティのために明確に定義された行動規範を作成しなければならない。それはグレーゾーンを最小化し、その意図をすべてのユーザーが理解できるように明確かつ簡潔に書かれたものであることが求められる。
透明性は必須である。不適切な行為をどのように扱うのか、投稿を削除したりユーザーをブロックしたりするプロセスはどのようになっているか、という観点で構造を整備することも企業は求められる。いつまでアカウントがロックアウトされ続けるのか？ユーザーは訴えることができるのか？
そして企業は、最初から一貫性を持ってこれらのルールを適用しなければならないという大きな試練が課せられる。インスタンスの間に曖昧さや対照があると、その企業は損失を被ることになる。
組織はまた、好ましくないコンテンツに関して、倫理的責任に対する姿勢を明確にしなければならない。ユーザーのプライバシーとコンテンツをどのように管理するのかについて、特に法執行機関が関心を持つ可能性があるものに留意しながら、企業は自主的に決定しておく必要がある。これは厄介な問題であるが、ソーシャル企業が不正に関与しないようにするための方策は、企業のプライバシーに関する姿勢を明確に示すことであり、そこに背を向けて、問題が発生した場合にのみそれを持ち出すようなやり方は避けるべきである。
フィンテックからヘルスケア、フードデリバリーまで、あらゆるアプリにソーシャルモデルが組み込まれ、私たちのデジタル生活をより魅力的で楽しいものにしている。同時に、企業がユーザーや顧客とのコミュニケーションのまったく新しい方法を開拓するとき、間違いは避けられないものでもある。
今重要となるのは、ソーシャル＋企業がFacebookのような先駆者から学び、より安全で協力的なオンライン世界を作り出すことである。そこで求められることは、ある程度の先見性とコミットメントに他ならない。
編集部注：本稿の執筆者John S.Kim（ジョン・S・キム）氏は、モバイルアプリ内にチャット、音声、ビデオ体験を埋め込む大手APIプロバイダーのSendbirdのCEO。
画像クレジット：Artur Debat / Getty Images
［原文へ］
（文：John S. Kim、翻訳：Dragonfly）