【AFP＝時事】テック企業は、ディープフェイクの脅威に備えた対策に力を入れている。人工知能（AI）の進歩により、リアルな音声や映像を使った詐欺が以前よりも容易に作成可能となり、その被害が後を絶たない。
デビー・ボドキンさんは、93歳の母親にかかってきた電話についてAFPに語った。生成AIによってボドキンさん本人そっくりに作られた声が、「ママ、私。事故に遭ったの」と話したという。どこにいるのかと尋ねると、AIによる成りすましの声は病院名を名乗った。幸いにも電話を受けたのは孫娘で、仕事中のボドキンさんにすぐ連絡を取り、無事を確認できた。「こうした詐欺の電話はこれが初めてではなく、ほぼ毎日のようにかかってくる」とボドキンさんは語る。
ディープフェイクを利用した詐欺電話は、架空の緊急事態を装い、治療費などの送金を要求するのが一般的だ。ディープフェイクは著名人になりすましたSNSでの偽情報拡散のほか、犯罪組織によっても悪用されている。
香港警察は今年、多国籍企業の社員が「同僚のAIアバター」とのビデオ会議に騙され、2億香港ドル（約37億円）をだまし取られたと明らかにした。
スタートアップ企業iBoomによると、最近の調査で提示された写真や動画をディープフェイクだと見抜けた米英の参加者は、わずか0.1％にとどまったという。声紋認証サービスを手がける米ピンドロップ・セキュリティーのCEO、ビジェイ・バラサブラマニヤン氏は、「10年前には合成音声を作れるAIツールは1つしかなかったが、今では数百ある」とし、生成AIは「ゲームチェンジャー」だと指摘。「以前は誰かの声を再現するのに20時間分の音声が必要だったが、今は5秒で可能になっている」とAFPに語った。
■ 人間とAIの境界線を改めて確立
米半導体大手インテルなどは、生成AIで作成された音声や映像をリアルタイムで検出するツールの開発を進めている。インテルの「FakeCatcher」は、顔の血流の変化を検知して、映像が本物か偽物かを判別する。一方、ピンドロップは音声を1秒ごとに分割し、人の声の特徴と照合する技術を開発した。
同社のバラサブラマニヤン氏は、AIによるコンテンツ検出ソフトの導入が今後、あらゆる企業で標準化されるだろうと述べた。また、「生成AIによって人とAIの境界は曖昧になっているが、その境界を再び明確にする技術を手がける企業は、数十億ドル規模の市場に急成長するはずだ」とも語っている。
今年1月には、中国の大手通信機器メーカー・栄耀（Honor）が、ディープフェイク検出機能を内蔵したスマートフォン「Magic7」を発売。英国のスタートアップ、サーフ・セキュリティーも昨年末、ディープフェイクを検出可能な企業向けウェブブラウザを発表した。
ニューヨーク州立大学バッファロー校のシーウェイ・リュウ教授（コンピューターサイエンス）は、「ディープフェイクはスパム（迷惑メール）のような存在になるだろう」とし、「将来的には、ディープフェイク検出アルゴリズムが、電子メールのスパムフィルターのような役割を果たすようになる」と予測している。「だが、現時点ではそこまでには至っていない」【翻訳編集】 AFPBB News｜使用条件
関連記事
