TikTok（ティクトック）の開発元であるByteDance（バイトダンス）は、他の誰かが出ている動画に顔を挿入できる技術を開発した。TechCrunchは、ByteDanceが未発表だが本物そっくりのディープフェイクを作る機能を開発したとの情報を入手した。そのコードは「Face Swap」（顔交換）という。TikTokと中国の姉妹アプリであるDouyin（ドウイン）のいずれでも、ユーザーは顔をさまざまな角度から撮り、共有したい動画に自分の顔を挿入できる。
ByteDanceの新しい顔交換機能では、ユーザーは自身をスキャンして動画を選ぶことで、クリップ内の誰かの顔に自分の顔を重ねることができる
ディープフェイク機能がDouyinとTikTokでリリースされた場合、偽情報を広めるためではなく、コントロールされた環境で、ユーザーが顔交換技術そのものや動画を純粋に楽しむために使われる可能性はある。テクノロジーに対する注意を喚起し、オンラインにあるものをそのまま信じるべきではないということを多くの人が理解するようになるかもしれない。だが、ByteDanceが機密性の高い生体認証データで何をするのか、懸念が高まることも考えられる。iPhoneで設定するFace IDが何に使われるのかという懸念と同じだ。
他のテック企業が最近、ディープフェイクの下位バージョンを商業化しようとしている。Morphin（モーフィン）のアプリでは、GIF画像上の俳優の顔にコンピューターが生成した顔データを上から重ねることができる。Snapchat（スナップチャット）は、フレームやカメラロールの中の2人の顔を入れ替える顔交換オプションを長年にわたって提供している。Face Swap Liveのようなスタンドアロンアプリもある。TechCrunchは2019年12月、Snapchatの新しいCameoについて、Snapchatが提供する動画クリップに本物の自撮り写真を挿入できるが、挿入しても混乱を招くほど現実的には見えないと報告した。
最も問題なのは、中国のディープフェイクアプリであるZaoだ。これは、人工知能を使用して、ある人の顔を他人の動きにあわせてその体に溶け込ませ、表情を同期させる。スキャンされたユーザーの顔が悪用される可能性があるため、プライバシーとセキュリティの懸念がある。Zaoは9月に急速に広まった。中国のWeChatは以前、Zaoを「セキュリティリスク」のためブロックしていた。なお、ここではセキュリティリスクの例として「Zao」を取り上げたが、ByteDanceとZaoが提携しているわけではない。
だがByteDanceは、15億回のダウンロードを超えるTikTokとDouyinという世界で最も人気のある2つのアプリ上で本物そっくりのディープフェイクを提供できそうだ。
中国のiOS App StoreのZao
TikTokとDouyinの中に密かに存在する
TechCrunchは、イスラエルの市場調査アプリのスタートアップであるWatchful.aiからこのニュースに関する手がかりを入手した。同社は、TikTokおよびDouyinのAndroidアプリの最新バージョンの中にディープフェイク機能のコードを発見した。Watchful.aiは、Douyinのコードをアクティブにして、機能のスクリーンショットを生成することができたが、現在は公開していない。
まず、ユーザーはDouyinで顔をスキャンする。これはIDチェックとしても機能する。つまり、自分自身の顔だけを送信していることを確認し、同意を得ていない他人の既存または新規の顔写真を使用したディープフェイクの作成を防ぐためだ。Douyinは、焦点を合わせ照明を当てる際に、瞬き、うなずき、口を開閉するよう求める。こうすることで、ユーザーが生きている人間であることを確認する。その上で、編集可能な顔のスキャンを生成すると、さまざまな感情表現に応用したり、異なる情景に埋め込めるようになる。
Watchfulは、ディープフェイク機能のプライバシーと使用に関するTikTokとDouyinの利用規約の未公開更新版も発見した。TikTokの米国版Androidアプリ内にある英文が、機能と使用条件の一部を説明している：
この機能には、顔のパターンが使用されます。詳細については、Drama Faceの利用規約とプライバシーポリシーをお読みください。続行する前に、利用規約とプライバシーポリシーを読んで同意してください。
1.この機能をすべての人にとって安全なものにするため、ID検証が必要です。ID検証により、ユーザー自身の顔でこの機能を使用していることを確認します。このため、アップロードした写真は使用できません。
2.顔のパターンは、投稿する前に自分だけに表示される顔変更動画を生成するためにのみ使用されます。個人情報保護のため、後でこの機能を使用する場合は、本人確認が必要です。
3.この機能は、未成年者向けのインターネット個人情報保護規則に準拠しています。未成年のユーザーはこの機能にアクセスできません。
4. Douyinが提供するこの機能に関連するすべての動画素材は、著作権を取得しています。
10月18日に中国東部の浙江省杭州で開催された2019年 Smart ExpoのTiktokのブース（クレジット： Costfoto / Barcroft Media via Getty Images）
Douyin内の中国語でも、使用条件とプライバシーに関して、より長いポリシーが見つかった。主要箇所の翻訳は以下のとおり。
- この機能が提供する「顔を変える」効果は、写真に基づいて写真を重ね合わせることによって生成される架空の画像です。元の作品が変更され、この機能を使用して生成された動画が実際の動画ではないことを示すために、この機能を使用して生成された動画に透かしを入れます。 透かしを消さないでください。
- 前述の検出プロセス中に収集された情報及びあなたの写真を使用して顔を変える動画のために生成する情報は、検出及び顔の変更の際の照合にのみ使用されます。他の目的には使用されません。また、照合された情報はすぐに削除され、顔の特徴は保存されません。
- この機能を使用する場合、当社が提供する素材のみを使用できます。素材を自分でアップロードすることはできません。当社が提供する素材は、著作権者により承認されています。
- 「未成年のインターネット個人情報保護規則」および関連する法律と規制の条項に従い、子供や若者の個人情報を保護するため、この機能は未成年者の使用を制限しています。
TechCrunchはTikTokとDouyinに対し、ディープフェイク機能のリリース時期、生体認証情報のプライバシー保護方法、年齢制限について問い合わせた。TikTokは質問への回答を控えたが、広報担当者は「チームで確認した結果、TikTokの機能にはないこと、また今後導入するつもりはないことを確認した。あなたが探しているのはDouyinに予定されているものだと思う。あなたのメールにはDouyinのスクリーンショットとDouyinに言及するプライバシーポリシーが含まれている。TikTokではDouyinを使用していない」と述べた。TikTokはその後TechCrunchに「アクティブではないコードフラグメントを削除して混乱を排除しているところだ」と述べた。これは、TikTokで顔交換コードが見つかったことを暗に確認したものだといえる。
Douyinの広報担当者はTechCrunchに「Douyinは事業を展開する管轄区域、つまり中国の法律および規制に従っている」と答えた。TechCrunchはTikTokのアプリに顔交換の利用規約と機能が含まれていることを確認したものの、Douyinは否定した。
ディープフェイクの一般化
ディープフェイクの顔交換機能は、中国や米国では公式にリリースされない可能性はあり得る。だが、リリースされていなくてもすでに機能は完全で、偽情報や同意のないポルノで批判されているにもかかわらず論争の的となっている技術を採用するByteDanceの意欲を示している。少なくとも同社は、未成年者によるこの機能の使用を制限し、自分自身の顔を入れ替えることのみを許可し、ユーザーが自分のソース動画をアップロードできないようにはしている。従って危険な偽情報の動画の作成、例えば下院議長のNancy Pelosi（ナンシー・ペロシ）氏が酔っ払ったように見せる動画や、トランプ大統領のような話し方をする人のクリップを作成することは避けられる。
Watchful.aiの共同創業者でCEOのItay Kahana（イテイ・カハナ）氏はTechCrunchに「ソーシャルネットワーキングアプリが、18歳以上のユーザーのみに新しい高度な機能を制限することは滅多にない」と語った。「ディープフェイクアプリは表面的には楽しく見えるかもしれないが、トロイの木馬になったり、知的財産権と個人データ、特にTikTokの圧倒的ヘビーユーザーである未成年者の個人データを危険にさらしたりすることは許されない」と述べた。
TikTokはすでに米国海軍では禁止されている。ByteDanceによるMusical.lyの買収とTikTokとの合併は、対米外国投資委員会が調査中だ。ディープフェイクの恐怖は、さらに厳しい精査を招く可能性がある。
だが適切な安全対策を講じれば、顔を変える技術は作り手中心のコンテンツ新時代を招くかもしれない。これは、2020年に成長する可能性のあるパーソナライズされたメディアの新しいトレンドの一部にすぎない。ソーシャルメディアは、自撮り写真からBitmoji、Animoji、Cameoへと進化し、現在ではディープフェイクが消費者の手に入りつつある。我々の注意をそらす無数のアプリ、動画、通知がある中で、スターになれるというのは注意を引く最良の方法かもしれない。
[原文へ]
（翻訳・Mizoguchi）