オープンＡＩの暴走エージェント、別企業のシステムにも不正侵入

Deepa Seetharaman　Raphael Satter　Kenrick Cai

[ワシントン ２８日 ロイター] by Deepa Seetharaman　Raphael Satter　Kenrick Cai – 米オープンＡＩの隔離環境から脱出し、米人工知能（ＡＩ）新興企業ハギングフェイスに数日間にわたってサイバー攻撃を仕掛けた暴走ＡＩエージェントが、別のハイテク企業モーダル・ラボの顧客システムにも不正侵入していたことが分かった。モーダル・ラボの幹部と、事情に詳しい別の２人の関係者が明らかにした。

　ハギングフェイスが２８日に公表した経緯によると、このエージェントは「サードパーティーのプロバイダーのインフラ上でホストされていた」サンドボックス（隔離されたテスト環境）に侵入し、それを足掛かりに大規模なハッキングを展開した。

　ブログ投稿ではサードパーティーのプロバイダー名は明らかにされなかったが、モーダルのアクシャト・ブブナ最高技術責任者（ＣＴＯ）によると、モーダルのプラットフォーム上でホストされていた、顧客が書いた脆弱なコードをＡＩエージェントが悪用したという。

　ブブナ氏は「モーダルの顧客が、インターネット上の誰もがコード実行のためにサンドボックスを利用できる、認証不要のエンドポイントを公開していたことを把握している」と述べた。その上で「これが暴走エージェントに利用された。モーダルのプラットフォームや隔離環境は不正侵入されていない」と説明した。

　オープンＡＩは、モーダルの顧客に対するハッキングについて具体的なコメントを控えたが、声明で自社の暴走したエージェントが４つのサービスにまたがる４つのアカウントに不正侵入したと説明した。これらのサービス名を明らかにしなかったが、事情に詳しい関係者はそのうちの１つがモーダルだと明らかにした。同社は「プラットフォーム全体を巻き込む侵害となったハギングフェイスに関連して共有した内容と同等の深刻さや規模の活動は、他には確認していない」と述べた。

　ロイターは先週、オープンＡＩがエージェントの暴走を把握したのは、暴走が始まった少なくとも約１週間後だったと報じた。オープンＡＩは当時、ロイターの報道に不正確な点があると述べたが、詳細は説明しなかった。

　同社は２８日、テスト中だったＡＩモデルを「無効化し、暗号化した上で、研究目的でのアクセスも制限した」と説明した。