実業家イーロン・マスク氏らが設立した生成AI(人工知能)開発の新興企業xAIが開発した、生成型人工知能チャットボット「Grok(グロック)」のロゴが映し出されたスクリーン。仏トゥールーズで(2025年1月13日撮影)。(c)Lionel BONAVENTURE/AFP
【AFP=時事】実業家イーロン・マスク氏らが設立した生成AI(人工知能)開発を手掛ける新興企業xAIの生成AI「グロック」が、イスラエルとイランの紛争に関する事実確認を求めた利用者に対して、不正確で矛盾した回答を出したとする研究結果が24日、公表された。デマを打ち消すツールとしての信頼性に、新たな疑問が投げかけられている。
米国のシンクタンク、アトランティック・カウンシルの研究機関、デジタルフォレンジック・リサーチラボ(DFRLab)は報告書で、「イスラエルとイランの紛争初期におけるグロックの情報処理結果を分析したところ、危機発生時に正確で信頼性があり、一貫性のある情報を提供する能力に重大な欠陥と限界があることが明らかになった」と指摘。
DFRLabは、グロックが搭載されているX(旧ツイッター)上で、さまざまな言語の約13万件の投稿を分析した結果、Grokが「AI生成メディアの事実認証に苦戦している」ことが分かったとしている。
例えばイランがイスラエルへの報復攻撃を行った後、グロックはX上で、AIが生成した破壊された空港の映像に関する類似の質問に対して、1分間に出した回答は、破壊を否定したり、あるいは被害を認めたりと揺れていた。しかも、そうした回答は数百万回視聴されたという。【翻訳編集】 AFPBB News|使用条件