イギリスのランカスター大学とカリフォルニア大学バークレー校の共同研究チームは、最新のAIテクノロジーで生成された人間の顔（合成顔）の画像と、本物の人間の顔の画像を区別できるかという実験を行いました。
研究チームによると、それら2つの区別をつけるのは難しく、「ディープフェイク」を防ぐためのセーフガードの必要性を訴えています。
ディープフェイクを見抜くのは至難の業
私たちの生活にとって身近な存在となりつつある便利なAIですが、悪意を持った者が使うことで、恐ろしい事例が起きていることも事実。
たとえば、AIが合成したテキスト・音声・画像・映像は、詐欺やプロパガンダ、またいわゆる「リベンジポルノ」などでも利用されています。
なかでも、とくに悪用される可能性が高いというディープフェイクについて、イギリスのランカスター大学とカリフォルニア大学バークレー校の共同研究チームが実験を行いました。ディープフェイクとは、「深層学習（ディープラーニング）」と「偽物（フェイク）」を組み合わせた混成語で、AIが生成する人物画像合成テクノロジーのことを指します。
今回の実験では「StyleGAN2」と呼ばれる最新のAIが使用されたとのこと。まず第一回目の実験では、315人の参加者が800人の顔から128人の顔を「本物か、合成の顔か」に分類しました。その結果、正解率は48%にとどまったとのこと。本物か偽物かを区別できた確率が「半分（約50％）」だったということは、315人の参加者は実質的にはAIと本物を区別できていないことになるでしょう。
合成の顔のほうが信頼されている結果に
次に二回目の実験では、219人の新しい実験参加者に顔の分類方法（見分け方）をトレーニングし、フィードバックを実施。しかし、事前にトレーニング三を行ったにもかかわらず、AIと本物の区別の精度は59%にしか向上しなかったようです。
そして三回目の実験です。今回は223人の参加者に、同じ800人の顔から選んだ128人の顔の信頼度を、1（非常に信頼できない）から7（非常に信頼できる）の尺度で評価してもらいました。その結果、驚くことにAIによる合成顔の平均評価値は、本物の顔の平均評価値よりも7.7%信頼度が高かったといいます。
つまり、本物の顔と比較してもAIによる合成顔のほうが実験参加者に与える「信頼度」が高いことがわかりました。この結果について研究チームは、AIにより合成された顔は、いわゆる「平均的な顔」に似ているため、より信頼性が高いと判断されるのではないか、と考えているようです。
研究チームは今後ディープフェイクへの対策として、「画像や映像の合成ネットワークに電子透かしを組み込み、ユーザーのもとに届く段階で、確実に識別できるようにする」などのセーフガードを検討すべきとしています。
AI-synthesized faces are indistinguishable from real faces and more trustworthy
（文・Takeuchi）
- Original:https://techable.jp/archives/173784
- Source:Techable（テッカブル） -海外・国内のネットベンチャー系ニュースサイト
- Author:takeuchi
Amazonベストセラー
Now loading...