【AFP＝時事】米実業家イーロン・マスク氏が率いる人工知能（AI）新興企業「xAI」の対話型生成AI「Grok」が、子どもや女性の画像を性的に加工・生成可能となっている問題を受け、Xは14日、一部地域でビキニ姿などの画像を作成する機能を制限すると発表した。
この問題をめぐっては同日、米国カリフォルニア州の司法長官が調査の開始を明らかにしていた。また、インドネシアやマレーシアでは、同サービスへのアクセスがブロックされている。
Xは対策として、法的な規制がある国や地域を対象に、「ビキニ、下着、またはそれに類する服装をした人々の画像を作成する機能」を「地理的に制限する」と発表した。声明では「ビキニのような露出度の高い服装をした実在の人物の画像編集を、Grokアカウントで許可しないよう技術的な対策を実施した」とし、「この制限は、有料会員を含むすべてのユーザーに適用される」としている。さらに「追加の保護措置」として、XのGrokアカウントを通じた画像作成や写真編集の機能は、現在、有料会員のみに提供されているとも付け加えた。
ｖ先週、仏パリの非営利団体「AI Forensics」が2万点以上のGrok生成画像を対象に行った分析では、半数以上が「最小限の服装をした個人」を描写しており、その大半が女性で、2％は未成年とみられることが判明している。【翻訳編集】 AFPBB News｜使用条件