メタのAI検出ツール、加工画像の一部識別できず＝ロイター分析

[10日 ロイター] by Hardik Vyas Seana Davis – 米テック大手メタが画像生成モデル「ミューズ・イメージ」のリリースに合わせてプレビュー版を公開した新しい人工知能（AI）検出ツールは、トリミングされたAI生成画像の一部を識別できないことが分かった。ロイターが分析した。

　この結果は一般的な加工が施されたAI生成画像を検証する上での課題を浮き彫りにしている。米中間選挙を控える中、オンライン上のディープフェイクを特定することがより困難になる可能性がある。

　ロイターがミューズ・イメージを使用して生成された40枚の画像を分析したところ、この検出ツールは元のAI生成画像を全て識別できたものの、元のサイズの約3分の1から2分の1にトリミングされた同じ画像の55％については識別できなかった。

　メタは自社のウェブサイト上で、このプレビュー版検出ツールは、たとえ画像がトリミングされていても、自社が生成したAI画像を識別できると説明している。これは「Content Seal」と呼ばれる不可視の透かしシステムによるもので、ミューズ・イメージによって生成された全ての画像に埋め込まれており、ユーザーがその画像がメタのAIモデルによって作成されたものかどうかを確認できるように設計されている。

　ロイターによるこの検出ツールの分析結果について問われた際、メタは同ツールが「プレビュー版」であることを指摘。この透かしは一般的な編集後もそのまま残るよう設計されているが、画像が大幅にトリミングされた場合、その信号が失われる可能性があると述べた。

　ニューヨーク州立大学バッファロー校のスーウェイ・リュウ教授（コンピュータサイエンス）は、メタのツールを評価したことはないとしつつ、透かしベースのシステムには限界があると指摘。「トリミングなど、埋め込まれた信号を削除または弱めるような改変が行われると、透かしの設計方法によってはその有効性が低下する可能性がある」と語った。