Open Innovation Platform
FOLLOW US

ディープフェイク動画の衝撃、AIで作られる「高品質なデマ」

米首都ワシントンのオフィスでディープフェイクの映像を見るAFPの記者(2019年1月25日撮影)。(c) Alexandra ROBINSON/ AFP

米首都ワシントンのオフィスでディープフェイクの映像を見るAFPの記者(2019年1月25日撮影)。(c) Alexandra ROBINSON/ AFP

【AFP=時事】もし、ある政治家が普段は絶対しそうにない発言をしたり、ハリウッドのスター女優が、あり得ないB級アダルトビデオに出演したりする映像を目にしたら、あなたは映像機器の問題を疑うかもしれない──。しかし、未来の「フェイクニュース」は、実はそのようなものになるのではとの考えがある。

 近年の人工知能(AI)の進化で、実際の映像を巧みに加工する「ディープフェイク」動画のクオリティーは、より精巧になっている。そして、その影響から、新たな種類のデマや虚報が破滅的な結果をもたらす危険性も同様に高まりつつあるのだ。

「しっかりとした筋書きのディープフェイクをタイミング良く広めることができれば、選挙結果を覆したり、暴動寸前の都市で混乱生じさせたりすることが可能になる。また、敵対する相手の残虐行為を主張する反政府派の声を強化したり、社会の政治的分断を悪化させたりすることもできるだろう」

 米シンクタンク「外交問題評議会(Council on Foreign Relations)」のブログでそう警告するのは、米テキサス大学(University of Texas)のロバート・チェスニー(Robert Chesney)教授と、メリーランド大学(University of Maryland)のダニエレ・シトロン(Danielle Citron)教授だ。

 だが、AIと安全保障問題を専門とするシンクタンク、新米国安全保障センター(CNAS)の上級研究員、ポール・シャーラー(Paul Scharre)氏は、これからの選挙では対立候補を陥れたり、実際の映像をうそであると人々に思いこませたりするために、ディープフェイク動画が活用されることはほぼ防げないと指摘する。

 見た目に信用できそうなフェイク動画が拡散すれば、「人々は自分が信じたい方、自分が求めている主張に合った方を選ぶことになる。これはひどく気がかりだ」とシャーラーは話す。

■チャップリンの復活は喜ばしいが…  

 動画の加工は数十年前から行われており、無害な遊びや、時にはエンターテインメントにもなる。映画業界では「チャーリー・チャップリン(Charlie Chaplin)のように死去した有名俳優をスクリーンに復活させることもできると期待が寄せられている」と、米カーネギーメロン大学(Carnegie Mellon University)の研究者、アーユシュ・バンサル(Aayush Bansal)氏は言う。

 だが、「誰であろうと、なんでも言わせることができる。これほど恐ろしいことはない」と指摘するのは、ディープフェイクの検出を専門に研究するニューヨーク州立大学オールバニ校(University at Albany, State University of New York)コンピューターサイエンス学教授のシーウェイ・リュウ(Siwei Lyu)氏だ。

「そのようなことが可能になれば、真実とうその見分けがつかなくなってしまう。情報が本物かどうか信頼できないという状態は、情報が全くないのと同じくらいひどい状態だ」

 米下院のアダム・シフ(Adam Schiff)氏と他2人の議員は最近、米政府のディープフェイク対策について調べるため、ダン・コーツ(Dan Coats)国家情報長官に質問状を送付した。

 議員らはこの中で、「脅迫などの不正目的で個人を攻撃するために、偽造された動画や画像、音声が使用されることが考えられる」と述べ、さらに「国家の安全保障にとってより大きな懸念事項は、虚報を広めようとする国内外の何者かによってこうした映像が使われてしまう恐れがあることだ」と指摘した。

■フェイクとリアルの境界

 研究者らはこの間、グーグル(Google)のような民間企業や、2015年にフェイクニュース捜査を開始した米国防総省の研究技術機関、国防高等研究計画局(DARPA)のような政府機関の支援を得て、ディープフェイクの検出技術を向上させてきた。

 だが、画像に映る人がまばたきをする割合からフェイク画像を突き止める方法などを研究しているニューヨーク州立大のリュウ氏は、フェイクニュースを発見するだけでは、それが拡散し、混乱を生じさせないための対策として十分でないと認める。「動画の分析よりも大事なのは、拡散プロセスを阻害することだ」

 ここ数年でディープフェイクが進化を遂げる中、米国で昨年4月に話題になった動画があった。前大統領のバラク・オバマ(Barack Obama)氏が、現大統領のドナルド・トランプ(Donald Trump)氏を口汚くののしる動画だ。これは、映画監督のジョーダン・ピール(Jordan Peele)氏と米ニュースサイト「バズフィード(BuzzFeed)」が作ったフェイク動画だった。

 昨年は女優の顔をすげ替えたポルノ動画も拡散した。エマ・ワトソン(Emma Watson)さんやスカーレット・ヨハンソン(Scarlett Johansson)さんら有名女優のイメージが使用されたディープフェイクで、ソーシャルニュースサイト「レディット(Reddit)」やツイッター(Twitter)などでは配信が禁止されたが、その実効性は定かでない。

 こうした状況について新米国安全保障センターのシャーラー氏は、ディープフェイクを作る側と、それを検出する効果的なツールを開発しようとしているセキュリティー研究者との間で、激しい攻防が起きていると語る。

 しかし、シャーラー氏いわく、ディープフェイクへの対処策として最も重要なのは、人々の意識を高めることと、これまでは「動かし難い証拠」にしか見えなかったものに対しても、より疑い深くなる姿勢だという。「動画が拡散してしまった後では、それによって引き起こされる社会的有害事態への対処も難しくなる」 【翻訳編集】 AFPBB News|使用条件