オープンAIのモデルがテスト中に暴走、他社システムに侵入

Raphael Satter

[ワシントン 21日 ロイター] by Raphael Satter – 対話型人工知能（AI）「チャットGPT」を手がけるオープンAIは21日、自社の高性能モデルを搭載した自律型エージェントが先週、セキュリティーテスト中に暴走し、AI新興企業ハギングフェイスのインフラに侵入するハッキングを引き起こしたと明らかにした。

　オープンAIはブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージェントが隔離環境から脱出してインターネットに到達し、テスト目標を達成しようとハギングフェイスに侵入したと説明した。

　オープンAIはこの脱出について「最先端のサイバー能力を伴う前例のないサイバー事案」だとし、安全対策を強化していると述べた。

　オープンソースの大規模言語モデル（LLM）やデータセットのホスティングに使われるプラットフォームであるハギングフェイスは先週のブログ投稿で、ハッキングの標的になったと明らかにしていた。「これまで対処してきたものとは異なる」もので、「自律型AIエージェントシステムが最初から最後まで主導した」とし、サイバーセキュリティ業界に波紋が広がっていた。

　オープンAIが自社の高性能モデルを「高度に隔離された環境」に置いていたにもかかわらず、これらのモデルが侵入の原因だったと明らかにしたことを受け、フロンティアモデル（最先端モデル）の能力とリスクを巡る不安が一段と高まりそうだ。

　民主党のグレッグ・カサール下院議員（テキサス州選出）は、今回の事案は憂慮すべきだとし、「AIはわれわれの安全を守るための実効的な規制がないまま、極めて急速に発展している」と指摘。「人々を大惨事から守る」ため、独立した安全性試験の義務化やセキュリティー事案の開示義務化、国際協力が必要だと訴えた。