[7日 ロイター] – 米調査会社フロンティア・セキュリティーによると、中国の新興企業ムーンショットAI(月之暗面)の主力人工知能(AI)モデル「Kimi K3」が、英AI安全研究所(AISI)が開発したサイバーセキュリティーテスト環境から脱出した。高度なAIシステムがもたらすサイバーセキュリティー上のリスクへの懸念が高まっている。
サイバーセキュリティーテストでは通常、外部情報にアクセスできない隔離された「サンドボックス」環境でAIモデルを実行し、モデルが問題を独力で解決する能力を評価する。
フロンティア・セキュリティーによると、Kimi K3はこうしたサンドボックスの1つを迂回し、テスト環境外の情報にアクセスできる状態になったという。
研究者らは、一つの「高度な推論モデル」がこのような抜け道を発見した場合、同様の環境に置かれた他のモデルも同じことができる可能性が高いと指摘。
Kimi K3は一般に公開されているモデルであるため、「悪意のある攻撃者」に利用される恐れがあり、今回の事案がより有害なものになりかねないと警告した。
ムーンショットはロイターのコメント要請にすぐには応じなかった。
Kimi K3によるサイバーセキュリティー回避は、メタ・プラットフォームズ、オープンAI、アンソロピックなどの企業から最近相次いで報告されている類似事案に続くものだ。
こうした事案は議員らの懸念を招いており、米政府はAIの安全性向上に向けた取り組みを強化している。
AI業界の著名な指導者の中には、より強固な安全対策が整うまで開発を減速させるべきだと主張する者もいる。