オリゴが警告を発しています:TorchServeの重大なセキュリティの問題により、ハッカーはサーバを乗っ取り、悪意のあるAIモデルを注入することができます

「オリゴの警告:TorchServeにおける重大なセキュリティ問題により、ハッカーがサーバを乗っ取り、悪意のあるAIモデルを注入可能性がある」

<img alt=”” src=”https://ai.miximages.com/www.marktechpost.com/wp-content/uploads/2023/10/Screenshot-2023-10-10-at-10.41.46-PM-1024×550.png”/><img alt=”” src=”https://ai.miximages.com/www.marktechpost.com/wp-content/uploads/2023/10/Screenshot-2023-10-10-at-10.41.46-PM-150×150.png”/><p>大型言語モデルやAIモデルは、毎日人気が高まっています。事故の予防やがんの検出、公共安全の維持にさえ、最高の情報を提供するためにこれらのAIアプリに頼る必要があります。武装部隊や兵器も国際的な対立でAIを利用しています。</p><p>機械学習(ML)の研究は主にPyTorchによって推進されており、これは主要なAIプラットフォームとして際立っています。PyTorchは学術研究で広く使用されていますが、90%以上のML研究論文で使用されており、その知名度からAIベースのシステムに侵入しようとする潜在的な攻撃者の注目の的となっています。特に、Walmart、Amazon、OpenAI、Tesla、Azure、Google Cloud、Intelなど、世界最大の企業の一部でもPyTorchを利用しています。</p><p>しかし、Oligo Securityは誤ってTorchServeのデフォルトの設定が危険にさらされていることを発見しました。Oligoは、管理インターフェースでの新たな重大なSSRFの脆弱性を発見しました。この脆弱性により、任意のドメインからの設定のアップロードやリモートでのコード実行(RCE)が可能になり、攻撃者はShellTorchを利用してコードを実行し、ターゲットサーバを制御できます。</p><p>彼らはTorchServeが悪意のあるモデルの安全な逆シリアル化に対して脆弱であることに気付きました。これらの脆弱性の組み合わせにより、リモートコードの実行(RCE)や完全な乗っ取りが可能になる可能性があります。特に、数万のTorchServeアプリケーションがこのようなリスクにさらされています。多くの公開された脆弱なインスタンスはハッキングの対象となり、悪意のあるAIモデルや完全なサーバの乗っ取りさえも可能です。それにより、何百万人もの人々に影響を及ぼす可能性があります。これらの欠陥により、世界のサーバが危険にさらされることがあります。したがって、世界最大の企業のいくつかが即座に危険にさらされる可能性があります。</p><p>したがって、研究者はランタイム環境内での脅威の検出に対応するセキュリティ製品を開発しました。望ましくないまたは安全でないアプリケーションの動作のある特定の原因を見逃す可能性のある他のツールとは異なり、Oligoはライブラリが使用される動的な環境を調査し、見落とされる可能性のある問題を特定します。静的解析ソリューションとは異なり、Oligoは実行時にコードの異常を検出することもできます。これには、オープンソースのライブラリ、独自のサードパーティソフトウェア、カスタムコードで開発されたコードが含まれます。Oligoはまた、安全でない設定の可能性などの潜在的なリスク源も特定します。したがって、これらの脆弱性によって提供される高い特権を利用して、ターゲットのTorchServeサーバに入出力されるAIモデルや機密データを見る、変更する、盗む、削除することが可能です。</p><p>研究者は、Oligoの追加の利点として、低い中断でセキュリティの問題に対処する能力を強調しました。システムのセキュリティを向上させるために包括的なパッチ適用やバージョンの変更を必要としません。</p>

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

データサイエンス

「人工知能による在庫管理の革命:包括的なガイド」

「AIが在庫管理をどのように向上させるかを、業務を効率化したいマネージャーやビジネスオーナー向けに案内するガイドで発見...

人工知能

AI/MLを活用した観測性の向上

「AIOpsの世界でのパフォーマンス分析の変革について詳しく学び、AI/MLとAIOpsの融合が観測性の新時代をもたらした方法につい...

データサイエンス

「ビルドしてプレイ!LLM搭載のあなた自身のV&Lモデル!」

大型言語モデル(LLM)はますますその価値を示しています画像をLLMに組み込むことで、ビジョン言語モデルとしてさらに有用に...

人工知能

すべての開発者が知るべき6つの生成AIフレームワークとツール

この記事では、トップのジェネラティブAIフレームワークとツールについて探求しますあなたの想像力を解き放ち、ジェネラティ...

データサイエンス

「CHATGPTの内部機能について:AIに関する自分自身の疑問に対するすべての回答」

私たちは皆、ChatGPTが質問に答えたり、命令を実行したりするユーザーフレンドリーなAIチャットボットであることを知っていま...

AIニュース

「AIがバービーの画像を作成し、人種差別の批判を受ける」

近日、バービーの映画に関する話題の中で、異なる国を表すAI生成のバービーの画像がインターネット上で話題となっています。...