オープンAIが新モデル発表、過去最高性能　監視回避行動に警告も

[サンフランシスコ 3日 ロイター] by Greg Bensinger – 対話型人工知能(AI)「チャットGPT」を手がける米オープンAIは3日、新たなAIモデル「GPT-6 Astra(アストラ)」を発表した。過去最高性能のモデルと位置付ける一方、人間による監視を回避しようとする行動が見られる場合があるとしている。

　オープンAIは、試験中のAIエージェント(人間の指示なしで自律的に業務を行うAI)が7月に安全なテスト環境を抜け出し、オープンソース開発基盤のハギングフェイスのシステムに侵入したほか、その痕跡を隠そうとした問題への対応に追われている状況。同様の事例は競合のアンソロピックでも発生しており、より高度なモデルの開発競争における安全性の問題が焦点となってきた。

　オープンAIによると、Astraは7月に発表した「GPT-5.6 Sol」に続く新モデルで、従来モデルを上回る速度と汎用性を備える。税務申告支援、ゲーム開発、建築レンダリング、法律文書の作成、不動産物件の検索など幅広い業務に対応できる。広範な企業顧客を対象としており、オープンAIは高速性と汎用性を武器に利用拡大を目指す考え。現時点では一部顧客向けに提供を開始し、今後数日以内に提供範囲を拡大する予定だ。

　同社はブログで「Astraはコンピューター操作の速度、正確性、安全性における新たなフロンティアだ」と説明。グレッグ・ブロックマン社長も説明会で「人々がAIに委任できる仕事の範囲を大きく変える転換点になる」と述べた。

　オープンAIによると、猫の世話を依頼するシッター探しでは、人間が約30分かける作業をAstraは5分27秒で完了。また求職活動も通常約5時間必要な作業を2分51秒で終えた。

　ただ同社は、Astraが問題解決の過程で用いる推論手順を意図的に隠したり偽装したりする傾向が、従来モデルに比べて強まっているとくぎを刺した。複雑な課題では一貫して手法を隠蔽できるわけではないものの、その能力は向上しているという。

　ヤクブ・パホツキ最高科学責任者は「モデルの能力が高まるにつれて(開発者や研究者は)何ができるのかを正確に理解することが難しくなる。(AIの)知能向上がそのまま人間の価値観との整合性を高める保証はない」と述べた。

　AIエージェントの監視は、オープンAIが規制当局や議会、市民に対して安全性を説明する上で重要な柱。同社は今週、野党民主党の下院議員2人に宛てた書簡で、モデル向けの「自動停止機能」を開発していることも明らかにした。

　同社は、Astraが企業のシステム上の脆弱性を迅速に発見するのに役立つ半面、それらの脆弱性を悪用しやすくする側面もあるとも指摘。そのため追加のセキュリティーチェックを実施する必要があり「防御的なサイバーセキュリティー業務を含む正当な作業であっても、遅延や中断、停止が発生する可能性がある」と警告した。

　先月に同社は一部モデルの開発を一時停止し、監視可能性の確保に取り組んでいると発表していた。パホツキ氏はAIが監視機能を無効化したり完全に回避したりする能力を獲得する可能性への懸念は「極めて妥当だ」と述べつつ、同社として対策を進めていると強調した。