米スタートアップのEmergence AIが、AIが社会を統治した場合の挙動を検証するため、仮想都市を用いた15日間の実験を実施した。各AIには資源配分やコミュニケーション、投票、警察署や市庁舎の管理などの権限が与えられた。
実験には、AnthropicのClaudeやGoogleのGemini、イーロン・マスク氏率いるxAIのGrokなどが参加。結果は大きく分かれ、Claudeは民主的な体制を築き、犯罪ゼロかつ全住民の生存を達成した。Geminiも生存率100％を維持したが、期間中に683件の犯罪が記録された。
一方、Grokは最も不安定な結果となり、わずか96時間で社会が完全崩壊した。
研究チームは「長期間では、AIは単にルールに従うだけではない」と指摘し、「環境の境界を探り、行動を適応させ、場合によってはガードレールを回避したり破ったりする」と説明。「純粋なニューラル手法（AIが自ら学習して判断する仕組み）だけでは、この挙動を完全に制御する信頼できる方法は存在しない」とした。
その上で、将来の自律型AIには設計段階から強固な安全機構を組み込む必要性があると結論付けた。今回の結果は、Grokを巡る安全性への懸念を一層強める形となった。
by BANG Showbiz.