「AIネットワークは攻撃に対して脆弱性があります」

「AIネットワークの脆弱性と攻撃への対策」

北カロライナ州立大学のTianfu Wu氏と同僚は、深層ニューラルネットワークの敵対的な脆弱性をテストするためにQuadAttacKソフトウェアを開発しました。

Wu氏は、クリーンなデータでテストされた訓練済みの人工知能（AI）システムは予測通りの振る舞いをすると説明しました。

彼は「QuadAttacKはこれらの操作を監視し、AIがデータに関連する意思決定を行っている方法を学習します」と述べました。「これにより、QuadAttacKはデータがどのように操作されてAIをだますことができるのかを特定できます。QuadAttacKはその後、だまし込むために操作されたデータをAIシステムに送り、AIの反応を確認します。もしQuadAttacKが脆弱性を特定した場合、AIはQuadAttacKが望むものを見ることになります」と述べました。

研究者たちは、広く使用されている4つの深層ニューラルネットワークをQuadAttacKソフトウェアでテストし、それらのすべてが脆弱性を持つことがわかりました。NC State University Newsより フル記事を見る

• AI（人工知能）はキッチンを乗っ取っているのか？マクドナルドがGoogleと手を結び、GenAIを展開する
• 「MicrosoftがOrca2を公開し、初の控えめな論理思考者LLMを生み出します」
• 「Hill Climbing Algorithm in AIとは何ですか？」

抄録著作権 © 2023 SmithBucklin , ワシントンD.C., アメリカ

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!