「Alfonzo Macias」は、髭面で眼鏡をかけ、短い顎鬚を持つ、一見すると何の変哲もない人物に見えます。 しかし、彼の奇妙に歪んだメガネと、彼の背後にある溶け出した背景は、不快な真実をほのめかしています。

肉眼では発見できない、不思議なほど人間の顔は、実際には、アルゴリズムによって作られたもので、親トランプのメディア アウトレット TheBL が、そのウェブサイトへのトラフィックを増やすために使う多くの偽 Facebook アカウントに ID を与えるために使用したものです。

近年、政治家や有名人の言動を操作して人気を博したバイラルなディープフェイク動画ほど注目を集めませんが、人工知能が生成した静的な顔は、誤報のツールとしてますます一般的になりつつあると専門家は述べています。

この技術は、実在の人物の言動に見せかけるのではなく、まったく「新しい」人物をゼロから生成することで機能します。

すでに、中国やロシアのボット キャンペーン、右派のオンライン メディア、および合法とされるビジネスで、偽の顔が確認されています。 これらの拡散により、オンライン プラットフォームが米国の選挙を前にして高まる誤報に対処する中で、この技術はディープフェイクよりも偏在的で差し迫った脅威となる可能性があるという懸念が生まれました。

「1年前、これは目新しかった」と、ソーシャルメディア情報グループ Graphika の調査ディレクター Ben Nimmo はツイートしました。 「今では、私たちが分析するすべての活動が、少なくとも一度はこれを試しているように感じます」

顔レース

ディープフェイクと同様に、AIが生成した顔は、GAN、またはGenerative adversarial networksとして知られる技術を使用して作成されています。 あるネットワークはコンテンツを生成し、別のネットワークはそれを人間の顔と比較し、合成画像と本物の顔を区別できなくなるまで改善を強いる。 しかし、GAN によって生成された顔の特徴は、そのフォトリアリズム、つまりキャラクターに奇妙な生命力を与える細部のレベルです。

「最新の GAN モデルを使って、人間の顔の非常にリアルな合成画像を、特に皮膚や髪といった極小の細部まで作成できるようになりました」と、ニューヨーク州立大学アルバニー校のコンピュータサイエンスの教授、Siwei Lyu は述べています。

ThisPersonDoesNotExist は、更新されるたびに StyleGAN2 の顔を作成する Web サイトですが、このような画像がいかに説得力のあるものになるかを実証しています。 しかし、この技術は人間の顔に限らず、車から猫まで、何十種類ものバリエーションがあります。

AIによる誤報への懸念は、主に政治的なディープフェイクに集中していましたが、実際のケースはまだ実現していないと、フェイクと合成メディアを専門とする研究者の Henry Ajder は述べています。 “核の赤ボタンを振り回すようなトランプ氏はいなかった”

しかし、AP通信がシンクタンクの職員を装ったリンクトインのアカウントを特定した昨年6月から、GANで生成された偽の顔が騙しに使われる事例が現れている。

一方、国家もこの技術の可能性に注目しており、Graphika は中国とロシアに関連したキャンペーンで使用された、何十もの GAN で生成された顔を発見しました。 中国の場合、GAN で生成された画像は、Facebook のキャンペーンでプロフィール画像として使用され、台湾、南シナ海、インドネシアなどのテーマについて、親北京派の主張を押し付ける偽アカウントが作成されました。

ディープフェイク検出プラットフォームSensityのCEOであるGiorgio Patrini氏は、GANで生成された顔は企業界にも登場しており、顧客の証言に偽の顔を使ったソフトウェア会社、「チーム」の写真を生成するためにこの技術を使ったマーケティング会社などの事例があると述べています。

「これは実は作り物です」

GAN生成顔のリスクと戦うための最初のステップは、その存在に対する認識を広めることだと、Rizzuto氏は述べました。 “一度、それが実は捏造であることをこれらの人々に伝えると、すべての人間が画像の異常を発見するために持っている、この進化した感覚を見ることができます。”

StyleGAN2の背後にある目覚しい進歩にもかかわらず、彼は、被写体の頭が傾いている一方で鼻や歯はまっすぐのままであるなど、偽物の兆候を示すものがいくつかあると述べています。 このアルゴリズムは、背景のオブジェクトや他の人々を取り込む際にも苦労することがあり、不注意に不快な光景を作り出すこともあります。

GANによって生成された顔の目が、「被験者」がどちらを向いていても、画像内の同じ場所にすべて表示されるということも、グラフィカが指摘した潜在的な欠点のひとつです。 Lyu氏は、そのような技術に関する論文の著者の一人で、本物の顔を偽物から区別するために、被験者の目に映る物体の画像を研究しました。

この分野は常に進化しているとRizzuto氏は言い、昨年、サムソンがモナリザをリアルなおしゃべり頭に変えてしまったディープフェイク研究を指摘しました。 また、この技術は、よりリアルな偽のプロフィールを作成し、様々な角度や表情の写真を作成するために適用される可能性があると述べた。 「近い将来、それがかなり減少することを期待します」

。