「AIネットワークは攻撃に対して脆弱性があります」
「AIネットワークの脆弱性と攻撃への対策」
北カロライナ州立大学のTianfu Wu氏と同僚は、深層ニューラルネットワークの敵対的な脆弱性をテストするためにQuadAttacKソフトウェアを開発しました。
Wu氏は、クリーンなデータでテストされた訓練済みの人工知能（AI）システムは予測通りの振る舞いをすると説明しました。
彼は「QuadAttacKはこれらの操作を監視し、AIがデータに関連する意思決定を行っている方法を学習します」と述べました。「これにより、QuadAttacKはデータがどのように操作されてAIをだますことができるのかを特定できます。QuadAttacKはその後、だまし込むために操作されたデータをAIシステムに送り、AIの反応を確認します。もしQuadAttacKが脆弱性を特定した場合、AIはQuadAttacKが望むものを見ることになります」と述べました。
研究者たちは、広く使用されている4つの深層ニューラルネットワークをQuadAttacKソフトウェアでテストし、それらのすべてが脆弱性を持つことがわかりました。NC State University Newsより フル記事を見る
- AI（人工知能）はキッチンを乗っ取っているのか？マクドナルドがGoogleと手を結び、GenAIを展開する
- 「MicrosoftがOrca2を公開し、初の控えめな論理思考者LLMを生み出します」
- 「Hill Climbing Algorithm in AIとは何ですか？」
抄録著作権 © 2023 SmithBucklin , ワシントンD.C., アメリカ 
We will continue to update VoAGI; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
- 「FacebookとInstagramにて、Metaが新しいAI機能を発表」
- 「Pixel 8 Pro」という初めてのAI搭載スマートフォンは、現在Gemini Nanoで稼働しており、さらにAIのアップデートがPixelポートフォリオにも導入されています」
- ジェミニと共に、バードはこれまで最大のアップグレードを実現しました
- 「国々がAIの悪影響に対処する世界的な競争で遅れをとっている方法」
- 『ウェアラブルコミュニケーションシステムがデジタルヘルスの格差を減らす可能性』
- 「Googleのジェミニは私たちが期待していた生成AIモデルではありません」
- 「耳を持つドローン」というタイトルで提案されている最新のテクノロジーが注目されていますこのドローンは、耳のようなセンサーを備えており、音を感知することができますこれにより、ドローンが音声指示を聞き分けることが可能になり、より効果的な操作やアクションが行えるようになります
