「1または0へ：画像分類におけるピクセル攻撃」

＂美とファッションの世界へ：鮮やかなピクセル攻撃で画像分類に挑む＂

敵対的機械学習の舞台を航海する

こんにちは！

今年、AI Village @ DEFCON 31のCapture The Flag (CTF) コンテストに初めて参加しました。その経験は興味深く、とても魅力的でした。特にピクセル攻撃に関連するチャレンジが私の注意を引き、この投稿の主要な焦点となりました。元々はコンテスト中に行ったピクセル攻撃の簡単なバージョンを共有するつもりでしたが、この投稿の目標は、コンテストで遭遇したようなピクセル攻撃により、MLモデルがより耐えられるようにするための戦略にも踏み込むことです。

理論に入る前に、まずは気を引くシナリオで雰囲気を盛り上げましょう。

以下のような状況を想像してみてください。私たちの会社、MM Vigilantは、革新的なオブジェクト検出製品の開発に取り組んでいます。コンセプトはシンプルかつ革命的で、顧客が望むアイテムの写真を撮影すると、数日後に自宅の玄関先に配送されるというものです。バックエンドで活躍する素晴らしいデータサイエンティストとして、究極の画像ベースのオブジェクト分類モデルを作り上げました。分類結果は素晴らしく、モデル評価メトリクスも一流で、関係者たちは大変満足しています。モデルは本番に導入され、顧客も喜んでいますが、突然苦情が殺到します。

• 特定のタスクを効率的に解決するための4つのパンダのワンライナー
• 線形代数の鳥の目の眺め：なぜ行列の掛け算はあんな風になるのか？
• ネットワークグラフを視覚化するための最高の新しいPythonパッケージ

調査の結果、分類器に到達する前に、誰かが画像に手を加えていることがわかりました。具体的には、時計の画像がいたずらっぽく鏡として分類されています。結果はどうでしょう？時計を希望していた人は、思いがけない鏡を玄関先に届けられてしまうのです。予想外の展開ですね。

MM Vigilantの関係者たちは、この問題が起こった理由に興味津々で、何らかの対策を講じるべきか懸念しています。

私たちが探求したシナリオは仮想のものですが、画像の改ざんは非常にあり得る状況です。特にモデルに脆弱性がある場合にはそうです。

では、画像の一種の操作について詳しく見てみましょう…

画像分類におけるピクセル攻撃

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!