Buzzfeedが啓発目的で作成したオバマ前大統領のDeepfake動画。作成には56時間かかったという

「Deepfake（ディープフェイク）」を知っているだろか。機械学習アルゴリズムに基づき、巧妙なフェイク動画を生み出す技術だ。

動画の登場人物に、別人の顔を重ねるフェイススワップ（顔交換）で、自然な動画を合成する。主に有名人の偽ポルノ生成に使用されており、テイラー・スウィフトやスカーレット・ヨハンソンなどもターゲットになった。本物と区別するのが難しいほどの精度で、「リベンジポルノ」に悪用される懸念も出ている。

Deepfakeは、オンライン掲示板「Reddit（レディット）」で「deepfakes」と名乗るユーザーが2017年11月ごろに動画を公開したことが始まりとされている。

その後、一般ユーザーでもフェイク動画を作成できるアプリ「FakeApp（フェイクアップ）」が開発されたことで一気に広まり、社会問題化した。2018年1月には、Deepfake動画の専門YouTubeチャンネルが開設され、再生数は1ヶ月で40万回を超えた。

偽ポルノ拡散の舞台となったプラットフォームは削除を進めているものの、対策に苦慮している。『Motherboard』によると、Redditは偽ポルノのユーザーコミュニティを閉鎖、アダルト動画サイト「Pornhub（ポルノハブ）」も排除を表明している。

GIF投稿サイト「Gfycat（ジフィーキャット）」は、アップロードされた動画より高画質なGIFを検索できるAI技術を駆使して、フェイク動画に対抗している。一方で、このAI技術はアップロード件数が多い有名人の動画には有効だが、一般人が素材となった場合には、AIが参照できるデータ数が少ないため対処が難しいという。新たに投稿されるフェイク動画すべてを排除するのは難しく、いたちごっこの様相を呈している。

GIF投稿サイト「Gfycat」

実際にアプリを使ってフェイク動画を作る実験を行った『Poynter』によると、現段階ではディープラーニングの知識がないと、リアルなフェイク動画を作成するのはそう簡単ではないという。しかし、このまま技術が進化すればフェイク動画の質はさらに高まり、情報戦争の「新たな兵器」になる恐れもある。近い将来、政治キャンペーンや選挙介入に使用されたり、国家の安全保障を脅かしたりする可能性も指摘されている。

民主主義の基盤を揺るがしかねないだけに、フェイク動画対策には米国政府も関心を寄せている。国防総省の国防高等研究計画局（DARPA）は、フェイク動画や画像を自動検出するプラットフォームの開発支援に乗り出している。

『TechCrunch』によると、DARPAの研究者らが昨年行った実験では75%の確率で動画の不自然な点を特定することに成功。さらに大規模な調査が行われる予定だ。

しかし、MIT Technology Reviewでは、DARPAのプロジェクトが立ち上がった数年前に比べても、より本物に近いフェイク動画を生み出すテクノロジーは大きく進歩しており、対策を講じる側も追いつくのが難しい状況になっていることを指摘している。

国も力を入れるフェイク動画対策だが、この分野でいち早くテクノロジー開発に取り組むスタートアップがある。写真認証サービスを提供する「Truepic（トゥルーピク）」だ。

Truepic

写真認証サービスを提供する「Truepic」

2016年に設立された同社は、世界の紛争地域で活動するNGO団体と連携し、オンラインコンテンツの真偽を検証する取り組みをサポートするなど、注目が集まっている。

2018年6月には、フェイク動画を検知する技術の開発を視野に、800万ドルの資金を調達。すでにDeepfakeを見分ける繊細な技術を構築しつつあるという。具体的には、髪の毛や耳といった体のパーツや、光が人の目にどう反射するかなど、詳細を分析する高度なテクノロジーが用いられる。今後は、オフラインでの画像や動画の分析に投資していくという。

同社の写真認証テクノロジーは、Redditで投稿者がユーザーの質問に答える「Ask Me Anything（なんでも聞いて）」というコーナーで、投稿者の身分を証明し、偽アカウントによる投稿を防ぐツールとして推奨されている。フェイク動画の検知技術が確立されれば、排除に苦慮するプラットフォームとの連携やビジネス機会が広がる可能性がある。

そのほかにも、オンライン情報の検証ツールを提供する「Factmata（ファクトマタ）」や、ボット検知テクノロジーを開発する「Distil Networks（ディスティル・ネットワークス）」など、フェイクニュース対策に取り組むスタートアップも増えてきた。

7月にはFacebookが、ロンドンに拠点を置くAIスタートアップ「Bloomsbury AI」の買収を発表したが、これもフェイクニュース対策に役立てる意向だとされている。

フェイク動画は、冒頭で触れたYコンビネータも「非常に関心を寄せている」とする25分野の一つ。今後スタートアップによる新たな取り組みが加速していくだろう。