生成AI「Grok」に苦情殺到　画像編集機能めぐり

【AFP＝時事】米実業家イーロン・マスク氏が率いる人工知能（AI）新興企業xAIの対話型生成AI「Grok」は2日、子どもや女性の写真をエロチックな画像に変換しているとのユーザーからの苦情を受け、人工知能（AI）ツールの不具合の修正に取り組んでいると発表した。

　GrokはX（旧ツイッター）への投稿で、「セーフガードに不具合があることを確認しており、急ぎ修正している」「CSAM（児童性的虐待コンテンツ）は違法で、禁止されている」と述べた。昨年12月下旬にGrokに「画像編集」機能が追加されて以来、児童性的虐待に対する苦情がXに寄せられるようになった。

　この機能を使えば、X上のあらゆる画像を修正できるため、写真に写っている女性や子どもの服を部分的または完全に脱がせているユーザーもいるという。

　xAIはAFPの取材に対し、「主流メディアはうそをついている」という簡潔な自動返信で回答した。だがGrokは、米国企業は児童ポルノの作成または共有を故意に助長、または防止しなかったとして刑事訴追される可能性があるというXユーザーからの問い合わせに回答した。

　インドのメディアは2日、当局がXに対し、Grokが被写体の同意なしに作成した「ヌード、わいせつ、性的含みのあるコンテンツ」を削除するために同社が講じている措置の詳細について早急に説明するよう求めていると報じた。一方、フランス・パリの検察庁は、Grokが児童ポルノの作成・頒布に利用されているという新たな容疑をXに対する捜査の対象に加えた。同庁は昨年7月、Xのアルゴリズムが外国による干渉を目的として操作されているという報道を受けて捜査を開始した。

　Grokはここ数か月、パレスチナ自治区ガザ地区での紛争やインド・パキスタン紛争、反ユダヤ主義的な発言、オーストラリア・ボンダイビーチでの銃撃事件に関する誤情報の拡散など、物議を醸す発言を繰り返し、批判されている。【翻訳編集】 AFPBB News｜使用条件