Open Innovation Platform
FOLLOW US

国民監視からテロまで、AIが悪用される近未来の脅威 専門家らが警鐘

ドイツ・ハノーバーで開催された情報通信技術見本市「セビット(CeBIT)」で、機器の操作を行う人工知能(AI)搭載の人型ロボットの腕(2013年3月5日撮影、資料写真)。(c)AFP/CARSTEN KOALL

ドイツ・ハノーバーで開催された情報通信技術見本市「セビット(CeBIT)」で、機器の操作を行う人工知能(AI)搭載の人型ロボットの腕(2013年3月5日撮影、資料写真)。(c)AFP/CARSTEN KOALL

【AFP=時事】独裁者や犯罪者、テロリストが人工知能(AI)を利用して選挙を操作したり、ドローン(小型無人機)によるテロ攻撃を行ったりしたら?──20人を超える世界の専門家が、AI技術の悪用に警鐘を鳴らす報告書を発表した。

 21日に発表された報告書「The Malicious Use of AI: Forecasting, Prevention, and Mitigation(AIの悪用:予測、防止、リスク軽減)」で、英国ケンブリッジ大学(University of Cambridge)の「存在リスク研究センター(CSER)」や米国の「電子フロンティア財団(EFF)」、「新米国安全保障センター(CNAS)」、AI研究非営利団体「オープンAI(OpenAI)」などの専門家らは、作業を自動化するプログラム「bot(ボット)」を利用したニュース取材・収集への介入や、ソーシャルメディア(SNS)への侵入、急成長するサイバー犯罪などを挙げ、向こう10年間に起こり得るシナリオに関する分析結果を100ページに及ぶ報告書にまとめている。

 CSERのエグゼクティブ・ディレクター、ショーン・オヘイガティ(Sean O hEigeartaigh)氏はAFPに対し「サイバーセキュリティ、物理的安全、政治的安全保障のすべてにまたがる形で、AIは新たな脅威を及ぼすか、あるいは今ある脅威の性質に変化をもたらすだろう」と述べた。

■個人に対するサイバー攻撃の進化

 報告書によるとまず、マルウエア(悪意のあるソフトウエア)が仕込まれたメールを送信し、個人情報を不正に取得する詐欺の手口である「フィッシング」の脅威が増すことが考えられる。例えば、現在の技術では特定の個人を標的とする「スピアフィッシング」には手間がかかるが、「AIを使えばプロセスの多くを自動化し、大規模なスピアフィッシングが可能になるだろう」とオヘイガティ氏は言う。

■独裁者による国民監視

 政治に関わる部分では、自国民をスパイするために張り巡らされた監視ネットワークから集めた大量のデータを、独裁的な指導者や無節操な政治家らが最新技術を使ってふるいにかけることがすでに可能な状態だ。「独裁者は政権転覆を計画している者たちをいっそう敏速に把握し、居場所を特定し、彼らが行動を起こす前に投獄することが可能になるだろう」と報告書は述べている。

 また、安価でありながら真実味のあるフェイク(偽)動画を使った特定の対象へのプロパガンダは、「これまでに想像できなかった規模で」世論を操作する強力なツールとなりつつあるという。

■掃除ロボットが自動テロ

 ドローン(無人機)やロボットが普及しつつあることも迫りくる新たな危険だ。自動運転車を衝突させたり、ミサイルを運搬したり、重要インフラを脅して身代金を得ようとしたりと、本来の目的とは異なった使い方をされることもあり得る。 「個人的に特に懸念しているのは、犯罪者や国家組織の両方によって自律移動できるドローンがテロに使われたり、サイバー攻撃が自動化されたりする可能性だ」と話すのは、英オックスフォード大学(Oxford University)人類未来研究所(Future of Humanity Institute)の研究員で報告書の著者の1人、マイルス・ブランデージ(Miles Brundage)氏だ。

 報告書では実際に起こり得る出来事として、爆弾を仕掛けられたオフィス用掃除ロボットが他の同型のロボットにまぎれ、ドイツ財務省に侵入するシナリオが詳述されている。

 侵入したロボットは通常通り掃除をしたり、ごみ箱を片付けたりするが、隠された顔認識ソフトが標的の財務相を特定すると接近していく。このSF的なシナリオでは最後、仕掛けられた爆発装置は近接で爆破され、同相を殺害、周辺にいた職員を負傷させて終わる。 「これから5年、10年の未来がどうなる可能性があるかをこの報告書は想像している」「われわれはAIの悪用による危険性を日々はらんでいる世界に住んでおり、この問題に対する責任を負う必要がある」とオヘイガティ氏は言う。

 報告書の著者らは政策立案者や企業に対し、ハッキングされないロボット運用ソフトウエアの作成や、安全保障の観点から一部の研究に制限を課すこと、またAI開発を管理する法と規制の拡大の検討などを求めている。

■自律型兵器の普及

 さらに懸念されている分野の一つが自律型兵器の使用が拡大されることだ。  昨年、米電気自動車(EV)大手テスラ(Tesla)および宇宙開発企業スペースX(SpaceX)のイーロン・マスク(Elon Musk)最高経営責任者(CEO)や、英国の著名な宇宙物理学者スティーブン・ホーキング(Stephen Hawking)博士を含むロボット産業とAI業界の100人を超える実業家や専門家らは、自律型殺人ロボット開発の禁止を訴える書簡を国連(UN)に提出した。

 彼らはデジタル時代の兵器が、テロリストによって民間人に対して使われる可能性を指摘。米グーグル(Google)傘下の英AI企業ディープマインド(DeepMind)のムスタファ・スレイマン(Mustafa Suleyman)共同創業者も署名した共同声明で「自律型殺傷兵器は、機関銃と原子爆弾の発明に次ぐ、武力衝突における第3の革命となり得る脅威だ」と警告し、「行動を起こすために多くの時間は残されていない。一度、パンドラの箱が開いてしまってからでは、それを閉じることは困難だろう」と述べている。【翻訳編集】 AFPBB News