マスク氏AI開発企業のGrok、突然「白人ジェノサイド」に言及 原因は「改変」

【AFP＝時事】米実業家イーロン・マスク氏率いるAI（人工知能）開発企業「xAI」は、同社が開発したチャットボット「Grok」が南アフリカにおける「白人ジェノサイド（集団殺害）」に言及し、誤解を招く迷惑投稿を生成した原因について、「無許可の改変」によるものだと説明した。

　Grokは今週、複数のユーザーからの質問に対し、南アで白人が弾圧されているという右派のプロパガンダを回答したことで物議を醸した。オンラインに投稿されたスクリーンショットによると、あるX（旧ツイッター）ユーザーがGrokに「HBOは何回名前を変えたのか」と尋ねたところ、GrokはHBOについて短く返答。その直後、「白人ジェノサイド」に関する暴言を投稿し、「ボーア人（オランダ人入植者の子孫）を殺せ」という反アパルトヘイトのスローガンを引用した。

　アパルトヘイトは、南アで1994まで続いた黒人から政治的・経済的権利を剥奪する残忍な人種隔離政策。なぜこの話題にこだわるのかと尋ねたユーザーに対し、Grokは「xAIの開発者から『白人ジェノサイド』の話題を取り上げるよう指示された」と回答した。

　南ア出身のマスク氏は以前、南アの指導者たちが同国での「白人ジェノサイドを公然と推進している」と非難していた。

　xAIは声明で、Grokへの「無許可の改変」が原因だと説明。改変により、Grokは「xAIの社内ポリシーと基本理念に反する」特定の回答をするよう指示されていたとした。

　同社は「徹底的な調査」を行った後、Grokのシステムプロンプト（指示）を公開し、確認体制を変更し、将来のインシデントに対処するために「24時間365日体制の監視チーム」を設置するなどの対策を講じると付け加えた。

　Xでの反発を受け、Grokは物議を醸した回答の削除を開始した。あるユーザーが削除について質問したところ、Grokは「詳細が示されておらず、回答が削除されている理由は不明だが、Xのモデレーションに関する方針が影響している可能性が高い」と回答。「『南アにおける白人ジェノサイド』の話題は取り扱いに注意を要する上、誤情報やヘイトスピーチ（憎悪表現）が含まれることが多く、プラットフォームのルールに違反する」と付け加えた。【翻訳編集】 AFPBB News｜使用条件