「数の力：NVIDIAとGenerative Red Team ChallengeがDEF CONでセキュリティを検証するために数千人を解放する」

NVIDIA and Generative Red Team Challenge will release thousands of people at DEF CON to verify security with the power of numbers.

今週、ラスベガスで数千人のハッカーが最新の生成型AIプラットフォームを微調整し、探求し、調査することで、より信頼性の高い包括的なAIの構築を試みます。

NVIDIAはハッカーコミュニティと協力して次世代AIのテストのためのベストプラクティスを確立するために、NVIDIA NeMoおよびNeMo Guardrailsを含む業界をリードするLLMソリューションの初のテストに参加しています。

AI Village、SeedAI、Humane Intelligence主催のGenerative Red Team Challengeは、ラスベガスでのBlack HatとDEF CONセキュリティカンファレンスでの一連のワークショップ、トレーニングセッション、NVIDIAリーダーの出演の一環として行われます。

ハッカーに脆弱性を悪用する機会を提供するこのチャレンジは、新興AI技術の現実的なチェックの最初の機会となるでしょう。

• 「挑戦受けた：GeForce NOWが究極の挑戦とベセスダゲームをクラウドで始動させる」
• 「ODSC West Bootcamp Roadmapのご紹介 – 今すぐスタート」
• 「時間管理のための15の最高のChatGPTプロンプト」

SeedAIの創設者であり、Generative Red Team Challengeの共同主催者であるAustin Carsonは、「AIは個人が以前不可能だったものを作り出し、構築する力を与えます。しかし、テクノロジーをテストし評価するための大きく多様なコミュニティがなければ、AIはその創造者を反映するだけで、社会の大部分を取り残すことになります。」と述べています。

ハッカーコミュニティとの協力は、世界中でAIの安全性に関する注目を浴びており、バイデン・ハリス政権は最先端の生成モデルに取り組んでいる主要なAI企業からの自主的な取り組みを確保しています。

AI Villageの創設者であり、Generative Red Team Challengeの共同主催者であるSven Cattellは、「AIシステムの悪用や社会への影響に関心を持つコミュニティがAI Villageに集まります。DEFCON 29では、TwitterのRumman Chowdhury氏の前チームと共に初めてアルゴリズムバイアスバウンティを開催しました。これは、企業が自社のモデルを公開して監査することを許可した初の試みでした。」と述べています。

今週のチャレンジは、ハッカーコミュニティの主導する役割によってAIの進化における重要な一歩となります。ハッカーコミュニティは懐疑心、独立性、透明性という倫理を持っており、新興セキュリティ基準の創造とフィールドテストにおいて重要な役割を果たしています。

NVIDIAの技術はAIにとって基本的であり、NVIDIAは生成型AI革命の初期から関与しています。2016年、NVIDIAの創設者兼CEOのJensen Huangは、最初のNVIDIA DGX AIスーパーコンピュータをOpenAIに直接手渡ししました。このDGXがChatGPTを駆動する大規模言語モデルの突破口となりました。

NVIDIA DGXシステムは、元々AI研究のための研究機器として使用されていましたが、現在は世界中の企業で24時間365日稼働してデータを洗練し、AIを処理しています。

マネジメントコンサルティング会社のMcKinseyによると、生成型AIは63の用途にわたって、年間2.6兆ドルから4.4兆ドル相当の価値を世界経済にもたらすと推定されています。

そのため、安全性と信頼性は業界全体の関心事となっています。

そのため、NVIDIAの従業員は先週のセキュリティ専門家向けのBlack Hatカンファレンスと今週のDEF CON集会で参加者と交流しています。

Black Hatでは、機械学習の使用方法に関する2日間のトレーニングセッションを開催し、Webスケールのトレーニングデータセットの汚染のリスクについてのブリーフィングに参加しました。また、セキュリティにおけるAIの潜在的な利点についてのパネルディスカッションにも参加しました。

DEF CONでは、NVIDIAはベースボード管理コントローラへの侵入のリスクについてのトークをサポートしています。これらの特殊なサービスプロセッサは、コンピュータ、ネットワークサーバー、その他のハードウェアデバイスの物理的な状態を監視します。

そしてAI Village Prompt Detectiveワークショップの一環であるGenerative Red Team Challengeにより、DEF CONの数千人の参加者はプロンプトインジェクションを実証し、倫理的でない行動を促し、不適切な応答を得るための他の技術を試すことができます。

Anthropic、Cohere、Google、Hugging Face、Meta、NVIDIA、OpenAI、Stabilityが開発し、Microsoftの参加も含めて、Scale AIが開発した評価プラットフォームでテストされます。

その結果、みんながより賢くなります。

AI Villageのリーダーシップチームの一員であり、Generative Red Team Challengeの共同主催者であるRumman Chowdhuryは、「意見や情報の交換を促進すると同時に、リスクと機会に対処しています。ハッカーコミュニティは異なるアイデアに触れることができ、コミュニティのパートナーは将来に向けた新たなスキルを身につけることができます。」と述べています。

オープンソースソフトウェアとして4月に公開されたNeMo Guardrailsは、開発者が生成型AIアプリケーションをガイドし、トピックに沿った正確で適切かつ安全なテキスト応答を生成するのに役立ちます。

透明性と技術を多くの環境で活用する能力を確保するために、数年にわたる研究の成果であるNeMo Guardrailsはオープンソースであり、NeMo会話AIフレームワークの大部分も既にGitHubでオープンソースコードとして利用可能であり、開発者コミュニティのエネルギーとAIの安全性に関する取り組みに貢献しています。

DEF CONコミュニティとの連携により、NVIDIAはNeMo Guardrailsで学んだことを共有し、その逆にコミュニティから学ぶことができます。

このイベントの主催者であるSeedAI、Humane Intelligence、AI Villageを含む組織は、データを分析し、プロセスや学びを含めた調査結果を公開し、他の組織が同様の演習を行うのをサポートする予定です。

先週、主催者は研究提案の募集を行い、最初の24時間で著名な研究者からいくつかの提案を受け取りました。

「これは大規模な生成型AIシステムのライブハッキングイベントの初めての試みなので、私たちは一緒に学んでいきます」とChowdhury氏は述べています。「この演習を再現し、数千人の手にAIテストを置くことが成功の鍵です。」

Generative Red Team Challengeは、DEF CON 31のAI Villageで2023年8月10日から13日まで、ラスベガスのCaesar’s Forumで開催されます。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!