Meta（旧Facebook）は先日、同社のメッセージングサービスにおけるエンド・ツー・エンドの暗号化の導入を2023年中へと延期する計画を発表した。これは、この変更によって虐待者が発見されなくなるのではないかという児童安全擁護団体の懸念を理由としている。同社は米国時間12月1日、エンド・ツー・エンドの暗号化の導入と並行して、被害防止の必要性にどのように取り組むかについて詳細を発表した。
暗号化されていないプライベートメッセージをスキャンして悪意のある行動パターンを検出する技術はあるが、エンド・ツー・エンドで暗号化された環境ではそうはいかない、とMetaは説明する。同社はその代わりに、人工知能と機械学習を利用して、ユーザーのプロフィールや写真など、暗号化されていない部分を調べ、悪意のある行動を示す他のシグナルを探すことを計画している。例えば、大人が新しいプロフィールを設定して、知らない未成年者に連絡を取ろうとし続けたり、多くの見知らぬ人にメッセージを送るようになったりした場合、同社は介入して対策を講じることができる、とブログには書かれている。
Metaは最近、未成年者が所有するアカウントの保護を強化するために、FacebookとInstagramのアカウントをデフォルトで非公開または「友達のみ」にするなど一連の策を実施した。また、2021年に入ってからは、成人のInstagramユーザーが、まだフォローしていない10代の若者に連絡を取ることができないようにする機能を導入した。さらにMessengerでは、機械学習を利用して開発された、疑わしい行動を発見するためのアドバイスや、他のユーザーをブロック、報告、無視、制限するなどの行動をとる方法を示す安全通知をポップアップで表示するようになった。過去1カ月間で、このアドバイスは1億人以上のユーザーに読まれた。Metaによると、このような機能は、エンド・ツー・エンドで暗号化された環境でも機能するとのことだ。
関連記事：Instagramが10代ユーザーのアカウントをデフォルトで非公開に、広告や望まない大人からの接触を制限
同社はさらに、受信箱を通じて誰が自分に連絡を取ることができるかをよりコントロールできる、ユーザー向けのさまざまな機能を挙げている。リーチ範囲の拡大を求めるクリエイターは、コントロールを少なくしたいかもしれないが、不正使用やスパムをフィルタリングしたいと思うだろうし、プライベートアカウントを持つ人は、連絡を知り合いだけに完全に制限したいと思うかもしれない。その他のメッセージング機能では、画像や動画をぼかしたり、メッセージングリクエスト（知らない人が始めた会話）からのリンクをブロックしたりすることができる。
Metaはまた、2021年初めに報告機能の変更を行い、報告フローの中に「子どもを含む」という選択肢を追加することで、児童搾取規則に違反するコンテンツの報告を容易にし、報告をより身近なものにしたと述べている。その結果、報告件数が前年比で50％近く増加したという。メッセージが報告されると、会話の一部が復号化され、警察やNCMEC（全米行方不明・被搾取児童センター）への児童搾取未遂の報告など、行動を起こせるようになる。Metaによると、児童搾取の画像を再共有することは、たとえ怒りに任せたものであっても有害であることをユーザーに警告し「報告して、共有しないで」というキャンペーンを開始した。
同社は、規制当局からの問い合わせや、エンド・ツー・エンドで暗号化された環境で児童搾取が増加することを懸念する児童安全擁護団体からの反発に対応するため、すでにこれらの手順や計画の多くを明らかにしていた。しかし、Metaは、ユーザーの非暗号化データのスキャンと既存のレポート機能を組み合わせることで、メッセージが暗号化されていても、不正使用に対して行動を起こすことができると主張している。実際、エンド・ツー・エンドの暗号化がすでに採用されているWhatsAppでも、この方法で不正使用の検出に成功している。WhatsAppは最近、過去の事例を検証した結果、問題のチャットがエンド・ツー・エンドで暗号化されていたとしても、法執行機関に情報を提供することができただろうとも述べている。
Please stop with this. Child safety is not FUD, nor disingenuous. Here is what happened with Facebook's haphazard E2EE plan, from someone who was there and familiar with the underlying systems. 1/ https://t.co/EBuNIgbnNR
— David Thiel (@elegant_wallaby) November 22, 2021
暗号化されたメッセージングに関する問題は、Metaが規制当局からその展開を許可されるべきかどうかということだけではない。Metaの本日の投稿は、E2EEによってユーザーの安全を確保することができなくなることはないと主張しているように見えるが、Metaの元従業員は最近、同社が「馬鹿馬鹿しいほど早いスケジュール」でE2EEシステムへの移行を計画していたことを非難している。このことは、E2EE環境での保護のためのロードマップや計画がなかったために、子どもの安全保護が明らかに悪化していたと理解している子ども安全チームのメンバーの辞任につながった。従業員のDavid Thiel（デイビット・ティール）氏がTwitterで指摘した具体的な問題はMetaの投稿では解決されておらず、暗号化された通信を可能にしつつ、ユーザーにとって真に安全な環境を作るために必要なことを単純化しすぎている。
画像クレジット：Bryce Durbin / TechCrunch
［原文へ］
（文：Sarah Perez、翻訳：Nariko Mizoguchi）
- Original:https://jp.techcrunch.com/2021/12/02/2021-12-01-meta-explains-its-approach-to-user-safety-following-delayed-rollout-of-end-to-end-encryption/
- Source:TechCrunch Japan
- Author:Sarah Perez,Nariko Mizoguchi
Amazonベストセラー
Now loading...