私たちは本当に人工知能AIウォーターマーキングを信頼できるのでしょうか？ このAI論文は、現在のディープフェイクの防御方法の脆弱性を暴きます

人工知能AIウォーターマーキングの信頼性は本当にあるのか？ このAI論文が現在のディープフェイク防御の脆弱性を暴く

生成型人工知能の領域における急速な進歩は、デジタルコンテンツの制作の風景に重要な変化をもたらしました。これらのAIアルゴリズムは進化し、より広く利用可能になり、非常に魅力的な偽のデジタルコンテンツを作成することが可能になりました。ディープフェイクは、写真や動画、音声などのハイパーリアルなメディア形式であり、視聴者や聴衆を誤導する可能性があり、誤情報、詐欺、名誉毀損、感情的な苦痛につながる懸念が高まっています。その結果、AIが生成した情報を特定し、そのソースを追跡することは大きな課題となっています。

本物のコンテンツとAIが生成した素材を区別することが不可欠となった最近の生成型AIモデルの開発により、本物のコンテンツとAIが生成した素材の違いを見分けるためにウォーターマーキングが一つの手法として開発されました。メリーランド大学コンピューターサイエンス学部の研究者たちによる最近の研究では、ウォーターマーキングや分類器ベースのディープフェイク検出器など、いくつかのAI画像検出器の抵抗性に焦点を当てています。

この研究では、微妙な画像の摂動を導入するウォーターマーキング技術に対する拡散浄化攻撃に対する逃避エラー率、つまりウォーターマークがないと検出される割合、とスプーフィングエラー率、つまりウォーターマークがあると検出される割合、の間に基本的なトレードオフが存在することが明らかにされています。偽陰性と偽陽性の防止のバランスについて調査されています。偽陰性とは、AIが生成したのに誤ってAIによるものと認識された実際の画像のことであり、偽陽性とは、実際のものなのにAIが生成したものと誤って検出されたAIが生成した画像のことです。

• 大型言語モデルへの優しい導入
• Google DeepMindは、直接報酬微調整（DRaFT）を導入しました：微分可能な報酬関数を最大化するための効果的な人工知能手法における拡散モデルの微調整
• テキスト生成の評価におけるベクトル化されたBERTScoreのビジュアルガイド

この研究では、微小な摂動を導入するウォーターマーキング技術に対して拡散浄化攻撃が画像からウォーターマークを効果的に除去することができることが経験的に証明されました。ウォーターマーキング技術によって微妙に変化させられた画像は、この攻撃によりより脆弱になります。一方、ウォーターマーキング技術によって画像が大きく変化する場合、拡散浄化攻撃の成功率が低くなります。したがって、研究ではモデルの代替敵対攻撃と呼ばれる、ウォーターマーキングモデルを欺くことでウォーターマークを効果的に除去する方法を提案しています。

この研究では、ウォーターマーキング技術がスプーフィング攻撃に対してどれだけ脆弱であるかが強調されています。スプーフィング攻撃では、攻撃者は実際の画像（不適切または露骨なもの）がウォーターマーク付きの画像と誤解されることを望んでいます。研究では、ウォーターマーキング技術へのブラックボックスアクセスのみでウォーターマーク付きノイズ画像を作成することができることを示しています。これは、攻撃者がウォーターマーキング技術の内部動作を知らないことを意味します。このノイズ画像を実際の写真に追加することで、攻撃者は誤って本物の写真をウォーターマーク付きとしてラベル付けすることができ、悪影響を及ぼす可能性があります。

この研究の主な貢献は以下のとおりです。

1. 本研究では、拡散浄化攻撃に対して画像ウォーターマーキングにおける逃避エラーとスプーフィングエラーの基本的なトレードオフを特定しました。

1. 高度な画像ウォーターマーキング手法においてウォーターマークを効果的に除去するためのモデルの代替敵対攻撃が開発されました。

1. ウォーターマーキング手法に対するスプーフィング攻撃が特定され、ウォーターマーキング技術開発者の評判に損害を与える可能性があります。

1. ディープフェイク検出器の堅牢性と信頼性のトレードオフが検知されました。

結論として、この研究は、悪意のある攻撃や増え続けるAI生成物に対して、特にウォーターマーキング技術などのAI画像検出器の困難さと弱点を明確にしています。これらの課題に対処し、克服するためには、生成型AI時代において検出方法を創造し、向上させることがいかに重要であるかを強調しています。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!