インドネシア「Grok」へのアクセス遮断性的画像生成問題

2026年1月11日 AI

実業家イーロン・マスク氏らが設立した生成AI（人工知能）開発の新興企業xAIが開発した、生成型人工知能チャットボット「Grok（グロック）」のロゴが映し出されたスクリーン。仏トゥールーズで（2025年1月13日撮影）。（c）Lionel BONAVENTURE/AFP

【AFP＝時事】米実業家イーロン・マスク氏が率いる人工知能（AI）新興企業「xAI」の対話型生成AI「Grok」が、子どもや女性の画像を性的に加工・生成可能となっている問題を受け、インドネシアは10日、アプリケーションへのアクセスを一時的に停止した。Grokをめぐっては、昨年12月下旬に「画像編集」機能が追加されて以降、児童性的虐待に関する苦情がX上で相次いで寄せられている。

　ムティア・ハフィッド通信・デジタル相は声明を発表し、「人工知能（AI）技術を使用して生成された偽のポルノコンテンツから女性、子ども、および一般市民を保護するため、政府はGrokアプリケーションへのアクセスを一時的にブロックした」と述べた。

　インドネシアは、Grokへのアクセスを全面的に停止した最初の国となった。その他の国では、有料会員のみが利用可能にする形での対応がとられている。ハフィッド氏は「政府は、同意のないディープフェイクの実践を、人権、尊厳、およびデジタル空間における市民の安全に対する重大な侵害と見なしている」と説明した。インドネシアの対応について、xAIは現時点でコメントを出していない。【翻訳編集】 AFPBB News｜使用条件