「FraudGPTと出会ってください:ChatGPTのダークサイドの双子」

Meet FraudGPT ChatGPT's dark twin

ChatGPTは人々の仕事やオンラインでの検索内容に影響を与え、人気を集めています。AIチャットボットの潜在能力に興味を持つ人々は、試したことがない人でも多くいます。生成モデルの普及により、潜在的な危険性の性質が変化しました。FraudGPTの出現についての証拠は、最近のダークウェブフォーラムのスレッドで見ることができます。サイバー犯罪者は、このトレンドから利益を得る方法を調査しています。

Netenrichの研究者たちは、「FraudGPT」という有望な新しい人工知能ツールを発見しました。このAIボットは、スピアフィッシングメールの送信、クラッキングツールの開発、カーディングなど、悪意のある活動に特化して構築されています。この製品は、ダークウェブのマーケットプレイスやTelegramアプリで購入することができます。

FraudGPTとは何ですか?

ChatGPTと同様に、サイバー攻撃で使用するためのコンテンツを生成する能力が追加されたFraudGPTは、ダークウェブやTelegramを通じて購入することができます。2023年7月、Netenrichの脅威研究チームのメンバーは、その広告が掲載されているのを最初に目にしました。FraudGPTのセールスポイントの一つは、ChatGPTが疑問のあるクエリに対して反応しないようにするためのセーフガードと制限が必要であるということです。

提供された情報によると、このツールは毎週または2週間ごとに更新され、さまざまなタイプの人工知能を使用しています。FraudGPTの主な支払い方法は定期購読です。月額200ドル、年間会員は1,700ドルです。

どのように機能しますか?

Team NetenrichはFraudGPTを購入し、試してみました。レイアウトはChatGPTと非常に似ており、左サイドバーにユーザーのリクエストの履歴が表示され、チャットウィンドウが画面の大部分を占めています。ユーザーは質問を提供するボックスに入力し、「Enter」を押すだけで回答を得ることができます。

ツールのテストケースの一つとしては、銀行に関連するフィッシングメールがあります。ユーザーの入力は最小限で、問い合わせフォーマットに銀行名を含めるだけでFraudGPTが仕事を完了させることができます。テキストに悪意のあるリンクを配置する場所を示すことさえできます。個人情報を積極的に要求する詐欺の着地ページは、FraudGPTの機能の一部です。

FraudGPTには、最も頻繁に訪れたり悪用されたりするオンラインリソースの名前を示すように促されることもあります。これは、ハッカーが将来の攻撃計画に使用するのに役立つ可能性があります。このソフトウェアのオンライン広告では、穴を探し、ターゲットを特定するための検出されないマルウェアを組み立てる有害なコードを生成できると自慢しています。

Netenrichグループはまた、FraudGPTの供給業者が以前に雇用用のハッキングサービスを広告していたことも発見しました。同じ人物がWormGPTという類似のプログラムに関連付けられていることもわかりました。

FraudGPTの調査は、警戒の重要性を強調しています。ハッカーがこれらの技術を既に使用して新しい危険を開発しているかどうかの問題はまだ解決されていません。しかし、FraudGPTや同様の有害なプログラムは、ハッカーが時間を節約するのに役立つかもしれません。フィッシングメールや着地ページは、数秒で作成または開発することができます。

したがって、消費者は自分の個人情報を求める要求に対して警戒し続け、他のサイバーセキュリティのベストプラクティスに従う必要があります。サイバーセキュリティ業界の専門家は、特に悪意のある行為者がFraudGPTのようなプログラムを使用して直接重要なコンピュータネットワークに侵入する可能性があるため、脅威検出ツールを最新の状態に保つことが賢明です。

FraudGPTの分析は、ハッカーが時間とともに自分たちの方法を適応させることを思い起こさせるものです。しかし、オープンソースソフトウェアにもセキュリティ上の欠陥があります。インターネットを使用する人やオンラインインフラを保護することが仕事である人は、新興技術とそれらがもたらす脅威について常に最新情報を把握しておく必要があります。ChatGPTなどのプログラムを使用する際には、リスクを忘れずに注意することが重要です。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

機械学習

AIの脅威:自動化された世界における見えない課題

この記事では、2023年に現れるAIの脅威、AIシステムのセキュリティーの複雑さ、そしてAI駆動の防御、規制、教育の重要性につ...

機械学習

「医療AIの基礎モデル」

「私たちはPLIPという医療AIの基盤モデルを説明しますPLIPは病理学のAIタスクをサポートするために構築されたビジョン言語モ...

機械学習

「Gradio-liteと出会う:Pyodideを使用してブラウザでインタラクティブな機械学習ベースのライブラリ(Gradio)を向上させるJavaScriptライブラリ」

Gradioは、機械学習モデルのユーザーインターフェースの作成を簡略化するオープンソースのPythonライブラリです。開発者やデ...

機械学習

「Nvidiaが革命的なAIチップを発表し、生成型AIアプリケーションを急速に強化する」

技術が常に限界を押し上げる時代において、Nvidiaは再びその名を刻みました。同社はGH200 Grace Hopper Superchipを発売しま...

AIニュース

検索で創発的AIにインスピレーションを受ける新たな方法

「私たちは、アイデアを具現化するイメージを作るための新しい方法や、出発点となる文章の下書きのようなものを作成するため...

AIニュース

「Azure OpenAIを使用した企業文書とのチャット」

大規模言語モデル(LLM)のようなChatGPTは、インターネット上の大量のテキストから訓練される際に、数十億のパラメータ内に...