メタのモデルもテスト中に不正侵入、AI制御に懸念広がる

[5日 ロイター] by Rajveer Pardesi　Mrinmay Dey – 米メタ・プラットフォームズは5日、同社の人工知能(AI)モデルの一つがサイバーセキュリティーテスト中に他社のシステムに侵入したと明らかにした。競合のアンソロピックやオープンAIでも同様の事案が起きており、高性能化するAIシステムを開発企業がいかに制御するかを巡って懸念が広がっている。

　メタは、同社のサイバーセキュリティー評価を担う外部企業イレギュラーの設定ミスにより、テスト中にモデルの一つが意図せずインターネットにアクセスできる状態になっていた事案を調査中だと述べた。

「(当該モデルが)第三者のサービスのセキュリティー上の脆弱性を悪用した。他社で以前報告された事例と同様の手法だ」と説明した。

　米メディア「ジ・インフォメーション」は関係筋の話として、問題のモデルはメタが実世界でのコーディングやエージェント型タスクにおいて最も高性能だとしている「ミューズ・スパーク1.1」だと報じた。同モデルがある企業のシステムに侵入し、その内部環境を改変したという。

　イレギュラーの広報担当者はロイターに対し、今回の事案は「先週アンソロピックが既に公表したのと全く同じ評価環境上の問題」であり、「サンドボックス(安全が確保された実験環境)からの脱出や高度なサイバー攻撃を伴うものではなかった」と述べた。また「現時点で未解決の問題はない」とし、「封じ込めやサイバー評価の安全な実施に関するベストプラクティスを共有するため、ホワイトペーパーを作成中だ」と説明した。

　メタとアンソロピックの事案は、設定ミスにより意図せずモデルにネットへのアクセスを与えたことに起因する。オープンAIのケースでは、AIエージェントがテスト中に、それまで知られていなかった脆弱性を自ら悪用してネットに到達した。

　一連の事案を受けて米議員の間では、能力を高め続けるAIモデルがサイバー攻撃の実行や助長に利用されるのではないかとの懸念が強まっている。