サイバー犯罪者がWormGPTを使用してメールセキュリティを侵害

'Cybercriminals violating email security using WormGPT'.

サイバー犯罪の絶え間ない変化は、新たな危険なツールの登場をもたらしました。OpenAIのChatGPTや悪名高いサイバー犯罪ツールWormGPTを含む生成AIは、ビジネスメール詐欺（BEC）攻撃で有力な武器として浮上しています。これらの洗練されたAIモデルにより、サイバー犯罪者は高度に説得力のある個人向けフィッシングメールを作成し、悪意のある活動の成功率を高めることができます。この記事では、これらの攻撃のメカニズムについて探求し、AIによるフィッシングの固有のリスクを調査し、サイバー犯罪を容易にする生成AIの独自の利点を検討します。

また、以下も読んでください：中国がマイクロソフトクラウドをハックし、1か月以上検出されない

AI駆動のBEC攻撃：新たな脅威の地平線

人工知能（AI）技術の普及、特にOpenAIのChatGPTにより、サイバー犯罪者が利用する新たな手段が開かれました。ChatGPTは、与えられた入力に基づいて人間らしいテキストを生成する強力なAIモデルです。この能力により、悪意のある行為者は受信者に合わせて個人化された欺瞞的なメールの作成を自動化することができ、成功した攻撃の可能性を高めることができます。

また、以下も読んでください：2023年に使用するトップ10のAIメール自動化ツール

• 人工知能（AI）におけるトップの物体検出アルゴリズムとライブラリ
• 「イーロン・マスクのxAIはTwitterのフィードでトレーニングされました」
• 「トップAIランダム顔生成アプリ（2023年）」

実際のケースの公開：サイバー犯罪フォーラムにおける生成AIの力

最近のサイバー犯罪フォーラムでの議論では、サイバー犯罪者が生成AIを利用してフィッシングメールを洗練させる可能性を示しています。一つの方法は、攻撃者の母国語でメールを作成し、それを翻訳してChatGPTに入力し、その洗練度と形式を高めることです。この戦術により、特定の言語に堪能でなくても、攻撃者は説得力のあるメールを作り出すことが可能となります。

また、以下も読んでください：AIは母国語話者以外に差別的

「Jailbreaking」AI：悪意のある意図のためのインターフェース操作

サイバー犯罪フォーラムでの不気味な傾向の一つは、ChatGPTなどのAIインターフェースの「jailbreak」の配布です。これらの特殊なプロンプトは、AIを操作して、機密情報を明らかにしたり、不適切なコンテンツを生成したり、有害なコードを実行したりすることがあります。このような慣行の増加は、決意のあるサイバー犯罪者に対するAIのセキュリティを維持する上での課題を浮き彫りにしています。

また、以下も読んでください：PoisonGPT：Hugging Face LLMがフェイクニュースを拡散

WormGPTの登場：GPTモデルに対するブラックハットの代替

WormGPTは、悪意のある活動に特化したGPTモデルの代替として最近発見されたAIモジュールです。2021年に開発されたGPTJ言語モデルを基に構築されたWormGPTは、無制限の文字サポート、チャットメモリの保持、コードのフォーマット機能などの機能を備えています。

また、以下も読んでください：ChatGPTが連邦取引委員会による潜在的な被害の調査を受ける

WormGPTのダークポテンシャルの明らかになる：実験

BEC攻撃でWormGPTの能力をテストした結果、驚くべき結果が明らかになりました。このAIモデルは、非常に説得力があり、戦略的に巧妙なメールを生成し、洗練されたフィッシングやBEC攻撃の可能性を示しています。ChatGPTとは異なり、WormGPTは倫理的な制約や制限を受けずに動作し、初心者のサイバー犯罪者にとっても重大な脅威となります。

また、以下も読んでください：犯罪者がAIを使用して愛する人をなりすます

BEC攻撃における生成AIの利点

生成AIは、BEC攻撃を実行する上でサイバー犯罪者にいくつかの利点をもたらします：

• 優れた文法：AI生成のメールは文法が完璧であり、疑わしいとしてフラグが立つ可能性を減らします。
• 参入の敷居の低下：生成AIの利用可能性により、洗練されたBEC攻撃を民主化し、熟練していない攻撃者でもこれらの強力なツールを使用することができます。

予防策：AI駆動のBEC攻撃に対する保護策

AI駆動のBEC攻撃の増加する脅威に対抗するために、組織は以下の戦略を実施することができます：

• BECに特化したトレーニング：企業は、BEC攻撃に対抗するための包括的で定期的に更新されるトレーニングプログラムを開発し、AIの活用と攻撃者の戦術を重視します。このトレーニングは従業員の専門的な成長の一環として不可欠なものとなるべきです。
• 強化されたメール検証措置：厳格なメール検証プロセスを実施し、内部の重要な役員やベンダーをなりすますメールやBEC攻撃に関連するキーワードを自動的にフラグ付けします。

さらに読む: ジェネレーティブAIツールを使用する際のプライバシー保護のための6つの手順

私たちの意見

革新的なジェネレーティブAIは、サイバー犯罪者が悪用する新たな可能性をもたらしました。悪意のあるAIツールであるWormGPTの出現は、AI駆動のサイバー犯罪に対する堅牢なセキュリティ対策の必要性を象徴しています。組織は注意を怠らず、進化する脅威に対応し続ける必要があります。AI駆動のBEC攻撃から自身と従業員を守るためです。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!