「NVIDIA、ワシントンのAIの安全性確保の取り組みを支援」
NVIDIA supports AI safety efforts in Washington
本日、ホワイトハウスで開催されたイベントで、NVIDIAはバイデン政権が策定した自発的な取り組みを支持することを発表し、高度なAIシステムの安全性、セキュリティ、信頼性を確保するための取り組みを行うことを発表しました。
同日、NVIDIAの最高科学者であるビル・ダリー氏が、米国上院の小委員会に出席し、生成型AIに関する潜在的な法規制に関する意見を求める証言を行いました。また、NVIDIAの創設者兼CEOであるジェンセン・ファンは、AIに関する業界のリーダーたちと共に、水曜日に上院全体で非公開の会議に参加します。
アドビ、IBM、パランティア、セールスフォースなどの7社が、アマゾン、アンソロピック、グーグル、インフレクション、メタ、マイクロソフト、OpenAIと共に、バイデン・ハリス政権が7月に発表した8つの合意を支持しました。
これらの取り組みは、規制が整備されるまで、生成型AIシステムの安全性を確保するための共通の基準とベストプラクティスを推進するために設計されています。これらは以下の内容を含んでいます：
- AI製品が展開される前に、その安全性と機能をテストすること
- サイバーや内部の脅威からAIモデルを保護すること
- がんから気候変動まで、社会の最大の課題に対処するためにAIを活用すること
ダリー氏がNVIDIAの経験を共有
ダリー氏は証言の中で、政府と産業界はAIのイノベーションを奨励する一方で、モデルが責任を持って展開されるようにバランスを取るべきだと述べました。
この小委員会の公聴会「AIの監督：人工知能のルール」は、世界中の政策立案者が生成型AIの潜在的なリスクを特定し、対処しようとする行動の一環です。
今年初めに、この小委員会では、Anthropic、IBM、OpenAIのリーダー、AIの父とされるモントリオール大学の教授であるヨシュア・ベンジオなど、さまざまな学術的な証言が行われました。
ダリー氏は、NVIDIAリサーチの300人以上のグローバルチームを率いており、火曜日にはMicrosoftの社長兼副議長であるブラッド・スミス氏と共に証人席を共有しました。ダリー氏の証言は、過去20年間にわたるAIの進化におけるNVIDIAの特異な役割を簡潔にまとめたものでした。
加速されたコンピューティングがAIを生み出した
彼は、NVIDIAが1999年にGPU（グラフィックス処理ユニット）を発明し、2006年にCUDAプログラミングソフトウェアで並列処理の幅広い役割に適合させたことを説明しました。その後、さまざまな科学技術分野の開発者たちが、この新しい形の加速されたコンピューティングが彼らの研究を大幅に前進させることができると気付きました。
その過程で、研究者たちはGPUが巨大な並列処理を必要とするAIのニューラルネットワークにも適していることを発見しました。
2012年に、2つのNVIDIA GPUで訓練されたAlexNetモデルは、画像認識において人間の能力に近い結果を示しました。この結果は、ChatGPTなどの既存のモデルの進展をもたらし、世界中の数億人が使用する生成型AIモデルの急速な進化の10年を引き起こしました。
今日、加速されたコンピューティングと生成型AIは、産業の変革、グローバルな課題の解決、そして社会への深い恩恵を示しています。それは、ダリー氏がNVIDIAに加入する前に、スタンフォード大学のコンピュータサイエンス学科の教授を務めていたこともあります。
AIの可能性と限界
ダリー氏は、書面でAIがビジネス、医療、気候科学など、さまざまな分野で専門家の仕事を想像以上に向上させる例を挙げました。
AI製品やサービスも、他の技術と同様にリスクを伴い、既存の法律や規制の対象となっています。
産業界も、AIを責任を持って展開する役割を果たす必要があります。開発者は、モデルを訓練し、その出力を定義する際に、AIモデルの限界を設定します。
ダリー氏は、NVIDIAがオープンソースのNeMo Guardrailsを2023年4月に公開しました。これは、開発者が正確で適切かつ安全なテキスト応答を生成するための生成型AIアプリケーションをガイドするために使用できるソフトウェアです。また、NVIDIAはAIモデルの内部リスク管理ガイドラインも維持しています。
将来に注目
ダリー氏は、「フロンティア」モデルが正確かつ安全であることを確認することは、規制当局の自然な役割だと述べました。
彼は、これらの「フロンティア」モデルが巨大なスケールで開発されていることを指摘しました。これらは、既に開発者やユーザーによって十分に探求されたChatGPTなどの既存のモデルの能力を超えています。
ダリー氏は、AI開発者コミュニティには、世界中の数千のスタートアップ、研究者、企業が含まれており、熟慮された規制とイノベーションを奨励する必要があると述べ、AIツールは広く利用可能でなければならないと述べました。
質問中、Amy Klobuchar上院議員（D-MN）は、Dallyに対して、なぜNVIDIAがGetty Imagesとの協力を発表したのか尋ねました。
「NVIDIAでは、人々の知的財産権を尊重することを信じています」とDallyは答えました。「私たちはGettyと協力して、Picassoというサービスを使って大規模な言語モデルをトレーニングしました。これにより、元のコンテンツを提供した人々が報酬を受けることができます。」
最後に、DallyはNVIDIAが創造的なAIと高速計算を通じて、すべての利益に奉仕することへの献身を再確認しました。
We will continue to update VoAGI; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
