ディープフェイク動画の脅威

フォトショップなど画像加工ソフトの普及によって、我々は簡単にイメージを編集できる手段を手に入れた。映像編集は人を夢中にさせるが、同時に不安が生まれるのも事実だ。

映像の一部の要素を変えて、誰もが納得する形でオリジナルとは違った映像に仕上げるのは、最近までは困難なことだった。それが今や変わりつつある。人工知能（AI）や深層学習（ディープラーニング）などの研究が進み、深層学習を使って作られたフェイク（偽物）動画「ディープフェイク動画」の、制作ツールが開発されたのだ。安価で使いやすいツールが、ここ数年であちこちに広まっている。

現在、ディープフェイクはおそらくポルノ産業と最も深く結びついていると考えられ、例えば有名人の顔をポルノ俳優の身体と合成させるような使われ方をしている。米国の俳優兼プロデューサーのジョーダン・ピール氏は昨年4月、オバマ前大統領が実際には行っていないスピーチの映像を制作して公開。ディープフェイク動画が広範で、なおかつ（もっと）不埒に使われる可能性を明らかにした（下記映像）。　ピール氏がオバマ氏の声を真似し、くちびるは別の言葉とシンクロさせているのである。

この技術がさまざまな形に応用され、大きな影響を及ぼす可能性は想像に難くない。誤った情報の拡散によって治安が悪化するばかりか、ディープフェイクの伝播により人々がデジタル情報を全く信用しなくなる時がくるかもしれない。このような事情を背景に今、政府やニュース配信会社、（一部の）民間企業はこの問題を真剣に考え始めている。

BBCの対応

ジェイミー・アンガス氏は、昨年BBCワールドサービスグループのディレクターに就任以来、フェイクニュースを迎え撃つ中心的立場にいる。香港で実施したCampaign Asia-Pacificのインタビューに対し、同氏は「画像捏造」に特に関心を持っている、と語った。技術進歩が早く、アマチュアレベルでも思い通りに駆使できるようになったためだ。「我が社のニュースコンテンツが他人によって捏造される問題が多く発生しており、国際的な放送会社としての我々の風評リスクになっています」とアンガス氏。「問題の検出方法や、それを自動化する方法、そしてそのための共通基準を作るためいかに同業他社と連携できるか検討しています」

映像の捏造によってBBCが直面している問題は、多岐にわたる。例えばBBCのものではない映像が、多くの場合は悪意ない形で、BBCのものとして配信されている。同氏は昨年ユーチューブに投稿された、ドミノピザがインドで「偽のチーズ」を使っているという内容のドキュメンタリー風の映像を例に挙げた。BBCのニュースレポートに基づくものであると示す映像タイトルで、この映像は国中に拡散した。BBCはドミノピザの要請を受け、BBCが制作した映像ではないと公表することに同意したのである。

ジェイミー・アンガス氏

偽のニュースを拡散させる目的で、BBCの映像であるかのごとく偽造されたものもある。アンガス氏によると、2017年のケニアの選挙に際し、あたかもBBCの定例番組「Focus on Africa」の一部であるがのように改竄されたテレビレポートが、事実とは異なる投票結果を報じたのである。それほど関心のない視聴者を取り込むには十分なほど上手く作られた映像で、BBCはこれが偽物だという声明を出すに至った。

だが、声明の公表はあまり有用ではないだろう。偽の映像が一度ネットに流れ、特にWhatsAppやWeChatなどのインスタントメッセンジャーのような参照元が無く追跡困難な「ダークソーシャル」に流れてしまうと、ダメージを抑えることは至極困難となる。放送会社のインテグリティー（誠実さ）や評判、セキュリティーのすべてが危うい状態に陥り、おそらくデジタルに関わる人すべてが危機に直面する。

ブランドの対策

コミュニケーションやマーケティングに携わる者たちは早い時期からディープフェイク動画の影響の可能性に気付いていた、と言うのはデジタルコンサルティング会社「ルーダー・フィン・イノベーション・スタジオス・アジア（Ruder Finn Innovation Studios Asia RFI）」のSVP兼アジア担当リーダー、デイビッド・コー氏。しかし一部の人たちは明らかに、もっと危機感を募らせているようだ。一方、Campaignは何人かのコミュニケーションの専門家に意見を求めたが、彼らのディープフェイクに対する危機意識は高くはなかった。

この問題に対する認識を深めることを目指し、ルーダー・フィン社は2018年第3四半期、アジア地域のブランドに提供する危機シミュレーションサービス「Sonar」に、ディープフェイク動画シナリオの研修を加えた。

この1日のワークショップではブランドの危機管理チームがコミュニケーションに関するトラブルをシミュレーション体験するが、より対応の難しいケースの一つとしてディープフェイク動画が登場する。「例えば銀行を対象にした研修では、銀行のCEOがBBCのインタビューを受け、パーム油が環境に及ぼす影響に無関心であることを語ったり、あるいは職場での性的加害行為「#MeToo」の責任を否定するような設定のディープフェイク動画が出てきます。実際にはあらゆる可能性が存在しますから、私たちはできるだけリアルな動画を作ります。さらに、これらの動画がダークソーシャルを通じて拡散し、炎上や暴力に発展しかねない状況を設定します。その上で企業は、ここから生ずる結果にどう対応するかを学んでいくのです」

このような場合の最善策は、捏造された動画がどこまで広がっているかを見極め、オウンドメディア、ソーシャルメディア、ペイドメディアを含むあらゆる手段を駆使して間違いを正していくことだとコー氏は言う。

これまでのところ、ブランドがこのようなディープフェイク動画のターゲットになった例はコー氏もアンガス氏も知らないようだ。だがコー氏が面談したブランドのコミュニケーション担当者は皆、この問題を真剣にとらえているという。

コー氏は個人的には、何かが起こることを「100パーセント確信」しており、ディープフェイクのもたらす影響に悲観的だ。ダークソーシャルの閉鎖性に加え、シェアされた情報の正しさを確認するリテラシーの高さには各国でばらつきがあり、その結果「諸悪の根源」になり得ると彼は考えている。

アンガス氏によると、偽情報のタイプとそれらの拡散の仕方は地域によって異なるものの（例えばアジアのネットユーザーは大きなチャットグループに参加していることが多く、それがコンテンツを拡散させる「強力な媒介者」にもなり得る）、取り組むべき問題は世界中で変わることは無い。問題の多くは、ソーシャルメディアプラットフォームの性質に起因するものだというのだ。「プラットフォームは元来、偽情報のコンテンツのシェアやおすすめがしやすい一方で、質の良いコンテンツについてはしにくいもの。この点がニュース配信会社にとってはもちろん、ブランドにとっても課題なのです」

BBCは現在この議題に関してWhatsAppと話し合いを進めており、特に4～5月のインド総選挙時におけるコンテンツ共有について協議している。WhatsAppはデジタルニュースのプラットフォームではないが、人々がそのように利用していることから、BBCはユーザーに直接コンテンツを提供できないかと検討している。「BBCのものだと検証した情報を選挙期間中、許諾を得たWhatsAppユーザーに対して毎日配信できないか、と尋ねました」（アンガス氏）

先制アクション

しかしながらディープフェイクは、トラディショナルメディアに希望の光をもたらすかもしれない。もし偽情報がインターネット上に蔓延し始めている可能性があれば、ユーザーは情報を求めてメディアのサイトを訪れるようになる。このことは当然、ブランドがどこに広告費を投入するかを左右し得る。ここ8年から10年続いたソーシャルメディアにとっての「蜜月の期間」が終わり、人々は信頼できるニュースソースが重要な役割を果たすことを再び認識し始めているというのが、コー氏の考えだ。

問題が起きてから行動を起こす以外に、ブランドがディープフェイク動画にとれる対策は無いと、コー氏は考える。一方アンガス氏は、ニュース提供社にはもっと能動的に取り組んでほしいと考えている。BBCの2019年の優先事項の一つは、コンピュータによってディープフェイク問題を解決するための一連のプロトコルを作成すること。それには索引作成や捏造されたオンラインコンテンツの検索の自動化が含まれ、編集者が対応方法を素早く決定できるようになる。映像へのいかなる改竄も見つけられるデジタルウォーターマーク（電子透かし）機能も検討中だ。

いくつかのパブリッシャーが試みているように、ディープフェイクの背景にあるコンセプトを広く知らしめることは価値があるとアンガス氏は考えている。例えば10月のウォール・ストリート・ジャーナルのレポートでは、ジャーナリストのジェイソン・ベリーニ氏が「ディープフェイク」によって、ブルーノ・マーズ（米国の歌手）のように踊る様子が報じられた。11月にBBCは番組「Beyond Fake News」の中で、英語しか話せないニュースキャスター、マシュー・アムロリワラ氏がスペイン語、北京語そしてヒンディ語でニュースを読む様子を放送した。このディープフェイクはシンセシア社（Synthesia）のソフトウェアによって制作され、アンガス氏によれば「ほぼ納得できる」出来映えのようだ。これを作るのに2週間を要したが、技術の進歩に伴い大幅な時間短縮が期待できる。

ディープフェイクに注目している人たちは、この最新技術を世界が無視できなくなる時が、すぐやってくると信じている。ブランド、ジャーナリスト、プラットフォーム、そして政府が、この脅威と戦うためにリソースを集中することがますます必要となるだろう。

（文：オリビア・パーカー　翻訳：岡田藤郎　編集：田崎亮子）