東京大学の研究者たちは、攻撃者から機密性の高い人工知能（AI）ベースのアプリケーションを保護するための新しい技術を紹介しました

東京大学の研究者は、機密性の高いAIベースのアプリを保護する新技術を紹介

近年、人工知能（AI）の急速な進歩により、コンピュータビジョン、音声認識など、さまざまな分野で広範な応用が行われるようになりました。この使用の急増により、ニューラルネットワークが中心となり、人間の能力に匹敵するレベルのパフォーマンスを頻繁に達成することが多くなり、産業界に革命をもたらしています。

しかし、AIの能力の進歩に伴い、ニューラルネットワークが敵対的な入力に対して脆弱であるという重要な懸念が存在しています。ディープラーニングにおけるこの重要な課題は、ネットワークが入力データの微妙な変更によって誤導されることに起因しています。微小な、目に見えない変化でも、ニューラルネットワークは顕著に誤った予測をし、しばしば正当な根拠なく自信を持っています。これは、自動車や医療診断などの安全に関わるアプリケーションにおけるニューラルネットワークの信頼性について深刻な懸念を引き起こします。

この脆弱性に対抗するため、研究者たちは解決策を模索しています。注目すべき戦略の一つには、ニューラルネットワークの初期層に制御されたノイズを導入するというものがあります。この新しいアプローチは、入力データの微小な変動に対するネットワークの耐性を高め、取るに足らない詳細に固執することを防ぐことを目指しています。ネットワークにより一般的かつ堅牢な特徴を学習させることで、ノイズの挿入は、敵対的な攻撃や予期せぬ入力変動に対する脆弱性を軽減する可能性を示しています。この開発は、ニューラルネットワークを現実世界のシナリオでより信頼性の高いものにする可能性を秘めています。

• 「MITの新しい機械学習の研究では、階層的な計画（HiP）のための組成的な基礎モデルを提案しています：長期的な課題の解決のために言語、ビジョン、行動を統合する」
• UCIと浙江大学の研究者は、ドラフティングと検証のステージを使用した自己推測デコーディングによるロスレスな大規模言語モデルの高速化を紹介しました
• 「挑戦的に、マイクロソフトの研究者はGPT-4に「人工知能の火花」を見つけたと述べる」

しかし、攻撃者はニューラルネットワークの内部層に集中して攻撃を行うため、新たな課題が生じます。これらの攻撃は微妙な変更ではなく、ネットワークの内部動作に関する詳細な知識を悪用します。特定のアーティファクトを導入することで、期待とは大幅に異なる入力を提供し、目的の結果を得る攻撃です。

これらの内部層攻撃に対する保護は、より複雑なものとなっています。内部層にランダムノイズを導入することで、ネットワークのパフォーマンスが通常の状態下で低下するという一般的な信念は、大きな障害となりました。しかし、東京大学の研究者らによる論文は、この仮定に疑問を投げかけました。

研究チームは、内部の隠れた層を標的とする敵対的な攻撃を考案し、入力画像の誤分類を引き起こしました。この成功した攻撃は、ネットワークの内部層にランダムノイズを挿入する彼らの革新的な技術を評価するためのプラットフォームとなりました。驚くべきことに、この見かけ上単純な変更により、ニューラルネットワークは攻撃に対して強靭になりました。このブレークスルーは、内部層にノイズを注入することで、将来のニューラルネットワークの適応性と防御能力を向上させる可能性を示しています。

このアプローチは有望である一方で、特定の攻撃タイプに対処するという点を認識することが重要です。研究者は、彼らの研究で考慮された特徴空間ノイズを回避するために、将来の攻撃者が新しいアプローチを考案する可能性に警戒を促しています。ニューラルネットワークにおける攻撃と防御の戦いは、私たちが日常的に頼りにしているシステムを保護するために、革新と改善の連続的なサイクルを必要とする終わりのない軍拡競争です。

重要なアプリケーションにおける人工知能への依存が増えるにつれて、ニューラルネットワークの堅牢性が予期しないデータや意図的な攻撃に対してますます重要になってきます。この領域での継続的なイノベーションにより、今後数ヶ月や数年でより堅牢かつ強靭なニューラルネットワークへの期待が高まっています。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!