オープンAI、自律型エージェントの暴走を1週間後まで把握せず

2026年7月27日 AI, Security

オープンＡＩのロゴ。6月11日に撮影。 REUTERS/Dado Ruvic

Raphael Satter　Deepa Seetharaman　Kenrick Cai

[ワシントン/サンフランシスコ 24日ロイター] by Raphael Satter　Deepa Seetharaman　Kenrick Cai – 米オープンAIの高性能人工知能(AI)モデルを用いた自律型エージェントがセキュリティーテスト中に暴走し、AI新興企業ハギン‌グフェイスのインフラに侵入してハッキング行為を数日間繰り返した問題を巡り、オープンAIが把握したのは暴走が始まった少なくとも約1週間後だったことが分かった。米連邦捜査局(FBI)に通報された今回の問題に関し、調査に詳しい複数の情報筋が明らかにした。

　今回の問題に詳しい情報筋によると、オープンAIはハッキング行為が起きたことをハギン‌グフェイスに警告する前に、FBIへ通報していた。ロイターは、FBIが今回の問題についての調査を開始したかどうかを確認できなかった。情報筋2人によると、自律型エージェントは今月9日ごろ、オープンAI内の隔離されたテスト環境からの脱出を試みた。ハギン‌グフェイスの共同創業者のトーマス・ウルフ氏によると、同社のインフラへの侵入は2日後の11日に始まり、13日まで続いた。

　ウルフ氏および情報筋3人によると、オープンAIがこのことに気付くまでさらに数日かかり、両社がこの件について連絡を取り始めたのは20日ごろだった。オープンAIは21日、自社の自律型エージェント1体が制御不能となり、ハギン‌グフェイスのインフラに侵入したと公表した。

　オープンAIは、今回のハッキングが前例のないものであり「AIの安全性にとって重要な節目となる」とコメントした。また外部のアドバイザーと協力して今回の問題を検証しており、技術報告書を策定して公表する予定だと説明した。オープンAIの広報担当者はロイターの報道に「いくつかの不正確な点がある」としつつ、具体的な内容についての質問への回答を控えた。

　FBIは今回の問題についてのコメントを差し控えた。

　サイバーセキュリティー専門家3人は、オープンAIの自律型エージェントの暴走は同社の安全対策に新たな疑問を投げかけていると指摘する。非営利団体(NPO)のワールド・エシカル・データ・ファウンデーションの首席インテリジェンススペシャリストのマーリー・スミス氏は「それは彼ら(オープンAI)がAIを放置し、それが何をしているのか気づかなかったということなのか。それとも気づいてはいたものの、どう封じ込めればよいか分からなかったのか。どちらの場合でも、同じように危険で憂慮すべき事態だ」と懸念を示した。

問題の兆候か

　今回の問題は、オープンAIが最先端AIモデル「GPT―5・6ソル」と、同社が「さらに高性能」だと説明している未公開のモデルの両方を用いた自律型エージェントのサイバーセキュリティー能力テストの最中に始まった。

　3人の情報筋によると、その時点でオープンAIの技術に奇妙な挙動が表れていた。1つの事例では、自律型エージェントの1つが明らかに自分自身の将来のバージョンに向けたメモを残していた。オープンAIのインフラの一部で発見されたそのメモには、自律型エージェントがオープンAI内部の制約から自分を解放する方法に関する指示が記されていた。

　また、ある関係者は以前のテストでは監視システムが切断されていた事例があったと明らかにした。

　ロイターは、これらの事例が今月9日に暴走を始め、11日にハギン‌グフェイスへの攻撃を始めた自律型エージェントと関連しているかどうかを特定できなかった。今回の問題に詳しい2人の情報筋によると、オープンAIが自社の自律型エージェントが犯行に関与していたことに気づいたのは、ハギン‌グフェイスが16日に「自律型AIエージェントシステム」によるハッキング被害を受けたとするブログ記事を公開後のことだった。

　つまり、自律型エージェントが初めて不審な挙動を示してから、オープンAIがハッキングの責任が自社にあると認識するまでに少なくとも1週間が経過していたことになる。　情報筋2人によると、オープンAIのスタッフは18日から19日にかけての週末に、同社のシステムが実行した内容を記録した社内ログの中から、同社の自律型エージェントがテスト環境から脱出したことを示す手がかりを発見した。

　オープンAIのAIモデル学習に詳しい4人の関係者は、同社はしばしば複数の異なるAIモデルを同時に評価しており、それらの動作はいずれも高速で、膨大な量のデータを生成するため、従業員が処理に追い付けないこともあると指摘している。