Search Results リーダーボード

「Falcon 180Bをご紹介します：1800億のパラメータを持つ、公開されている最大の言語モデル」

強力かつ多目的な言語モデルへの需要は、自然言語処理と人工知能においてますます迫り来るものとなっています。これらのモデルは、チャットボットや仮想アシスタントから機械翻訳や感情分析まで、多数のアプリケーションの基盤となっています。しかし、さまざまな言語のタスクで優れたパフォーマンスを発揮できる言語モデルを構築することは、依然として複雑な課題です。最近のブレークスルーは、この中心的な問題に対処することを目指しています。先進的な言語モデルの開発を追求するなかで、研究者はしばしばモデルのサイズ、トレーニングデータ、多目的性に関連する制約に直面してきました。これらの制約により、異なるモデルが特定のタスクで優れている一方で、真にワンサイズフィットオールの解決策と言えるのは一部のモデルに限られています。テクノロジーイノベーション研究所（TII）の研究者は、画期的な言語モデル「Falcon 180B」を紹介しました。Falcon 180Bは、1800億のパラメータを誇る言語モデルの飛躍的な進化を体現しています。しかし、これまでのモデルや競合他社との差別化要因は、そのサイズと多目的性、そして利用のしやすさにあります。Falcon 180Bは最初の大規模な言語モデルではありませんが、オープンアクセスの性質が特徴です。多くのクローズドソースモデルがプロプライエタリなままであるのに対し、Falcon 180Bは研究や商業利用のために利用可能に設計されています。このオープンアクセスへのシフトは、透明性と協力がますます重要視されるAIコミュニティ全体のトレンドと一致しています。 Falcon 180Bの素晴らしい機能は、驚異的な3.5兆のトークンを含む多様なデータセットでのトレーニングによってもたらされています。この膨大なテキストコーパスにより、モデルは言語と文脈の理解において他に類を見ない能力を持ち、幅広い自然言語処理タスクで優れたパフォーマンスを発揮することができます。このモデルの主な強みの一つは、推論、コーディング、熟練度評価、知識テストなど、多様な言語タスクを処理できる能力です。この多目的性は、ウェブデータ、会話、技術論文、さらにはコードの一部まで含まれる豊富で多様なデータセットに対するトレーニングによるものです。Falcon 180Bは、MetaのLLaMA 2などのクローズドソースの競合モデルに引けを取らないパフォーマンスを発揮します。 Falcon 180Bの重要性を示すものとして、Hugging Face Leaderboardでのランキングが挙げられます。現在、Falcon 180Bは競争力のあるスコア68.74を保持しており、このリーダーボードのランキングは、多くの言語関連の課題に対応できるトップクラスの言語モデルであることを確固たるものにしています。まとめると、TIIのFalcon 180Bは自然言語処理の分野において大きな進歩を表しています。そのサイズ、トレーニングデータ、オープンアクセスの可用性により、研究者や開発者にとって強力かつ多目的なツールとなっています。Falcon 180Bをオープンアクセスに提供するという決定は、透明性と協力の重要性が増しているAIコミュニティとの一致点として特筆されます。 Falcon 180Bの導入による影響は広範囲に及びます。1800億のパラメータを持つオープンアクセスモデルを提供することで、TIIは研究者や開発者が自然言語処理の新たな領域を探求する力を与えます。クローズドソースの対抗モデルと比較して、このモデルの競争力のあるパフォーマンスは、医療、金融、教育などさまざまな分野でのイノベーションの可能性を広げるものです。さらに、Falcon 180Bの成功は、AIにおけるオープンソースイニシアチブの価値を示しています。研究者が協力とアクセス可能性を優先すると、AIのブレークスルーはより広範な観衆にとってアクセス可能になります。AIコミュニティが透明性、協力、AIの能力の向上に取り組む原則をますます受け入れていく中で、Falcon…

「お知らせ：フォーカスエンターテイメントがゲームパスのタイトルをGeForce NOWに提供します」

GeForce NOWは今週、PC Game Passのサポートを拡大しました。メンバーは、Microsoftの定額制サービスから更に8つのゲームをストリーミングで楽しむことができます。その中には、人気パブリッシャーFocus Entertainmentの4つのタイトルも含まれています。 GeForce NOW Ultimateメンバーシップを持つメンバーは、A Plague Tale: RequiemやAtomic Heartなどを最大4Kの解像度と秒間120フレームでGeForce NOWライブラリからプレイできます。さらに、Ultimate KovaaK’s Challengeに挑むのは時間がほとんどありません。今日リーダーボードに参加してください – チャレンジは9月21日木曜日に終了します。緻密な焦点 Focus EntertainmentのPC Game Passカタログから4つのゲームが今週GeForce NOWに追加されました。Microsoftの定額制サービスにサインアップしているメンバーは、追加の購入なしでA…

「翼を広げよう：Falcon 180Bがここにあります」

はじめに本日は、TIIのFalcon 180BをHuggingFaceに歓迎します！ Falcon 180Bは、オープンモデルの最新技術を提供します。1800億のパラメータを持つ最大の公開言語モデルであり、TIIのRefinedWebデータセットを使用して3.5兆トークンを使用してトレーニングされました。これはオープンモデルにおける最長の単一エポックの事前トレーニングを表しています。 Hugging Face Hub（ベースモデルとチャットモデル）でモデルを見つけることができ、Falcon Chat Demo Spaceでモデルと対話することができます。 Falcon 180Bは、自然言語タスク全体で最先端の結果を実現しています。これは（事前トレーニング済みの）オープンアクセスモデルのリーダーボードをトップし、PaLM-2のようなプロプライエタリモデルと競合しています。まだ明確にランク付けすることは難しいですが、PaLM-2 Largeと同等の性能を持ち、Falcon 180Bは公に知られている最も能力のあるLLMの一つです。このブログ投稿では、いくつかの評価結果を見ながらFalcon 180Bがなぜ優れているのかを探求し、モデルの使用方法を紹介します。 Falcon-180Bとは何ですか？ Falcon 180Bはどれくらい優れていますか？ Falcon 180Bの使用方法は？デモハードウェア要件…

このAIニュースレターは、あなたが必要とするすべてです＃62

今週は、METAのコーディングモデルの開発とOpenAIの新しいファインチューニング機能の進展を見てきましたMetaは、Code LLaMAという大規模な言語モデルを導入しましたこのモデルは…

「Xbox PC Game PassがGeForce NOWに登場、25本の新しいゲームも同時に追加されます」

ゲーマーへのより多くの選択肢をもたらすため、NVIDIAとMicrosoftのコラボレーションの一環として、GeForce NOWにMicrosoft Storeの統合が追加されました。これにより、ゲーマーはXbox PC Game Passカタログの一部のタイトルをGeForce NOWでストリーミングできるようになります。統合は本日から開始されます。 Microsoft Storeの統合により、メンバーはサポートされているPCゲームで新しいXboxボタンを表示し、Microsoft Storeで単体のゲームを購入したか、アクティブなXbox Game Pass UltimateまたはPC Game Passのサブスクリプションを持っている場合には、これらのタイトルをデバイス間でシームレスに起動できます。最新のGamescomの発表に続いて、この秋にGeForce NOWに登場する4つの大ヒットタイトルがあります。それは、Alan Wake 2、Cyberpunk 2077: Phantom Liberty拡張、Party Animals、PAYDAY 3です。…

「Llama 2がコーディングを学ぶ」

イントロダクション Code Llamaは、コードタスクに特化した最新のオープンアクセスバージョンであり、Hugging Faceエコシステムでの統合をリリースすることに興奮しています！ Code Llamaは、Llama 2と同じ許容されるコミュニティライセンスでリリースされ、商業利用が可能です。今日、私たちは以下をリリースすることに興奮しています：モデルカードとライセンスを備えたHub上のモデル Transformersの統合高速かつ効率的な本番用推論のためのテキスト生成推論との統合推論エンドポイントとの統合コードのベンチマーク Code LLMは、ソフトウェアエンジニアにとってのエキサイティングな開発です。IDEでのコード補完により生産性を向上させることができ、ドックストリングの記述などの繰り返しや面倒なタスクを処理することができ、ユニットテストを作成することもできます。目次イントロダクション目次 Code Llamaとは？ Code Llamaの使い方デモ Transformers…

クラウドの証明 GeForce NOWがUltimate KovaaK’s Challengeの結果を発表

結論は出ました：GeForce NOW Ultimateメンバーシップはゲームを次のレベルに引き上げます。メンバーはUltimate KovvaKの挑戦に真剣に取り組んでおり、Ultimateのパワーがゲームを240フレーム/秒のストリーミングでどれほど改善するかを自分自身で確認しています。ゲーマーの狙いを向上させる人気のトレーニングタイトルであるKovaaKのクラウドでの完全なローンチが今週行われ、Steamで期間限定の割引も提供されます。KovaaK’sはこの週にGeForce NOWのライブラリに新たに20以上の新しいゲームを加えます。ゲーマーがQuakeConで最善を尽くす Ultimateが先頭をリードしています。多くのPCゲームファンが先週末にQuakeConのGeForce NOWラウンジでUltimate KovaaKの挑戦に臨みました。参加者はまず無料会員でプレイし、その後Ultimateメンバーシップで240fpsのストリーミングを体験しました。そして、GeForce RTX 4080ゲーミングリグからのストリーミングがゲームをどれだけ変えるかは明らかでした。チャレンジ開始以来、58,000のセッションが完了し、参加者はUltimateメンバーシップでプレイするだけでゲームのスコアが1.6倍向上したことがすぐにわかりました。 QuakeConの参加者がクラウドを目指しています。参加者はQuakeConのリーダーボードで上位に入るために競い、自慢や究極の賞品を獲得しました。ショーの3日間ごとのトップ3スロットと総合トップスロットは、Ultimateメンバーシップを使用した人々によって支配されました。以下はUltimateについてのいくつかのコメントです：「これ[Ultimate Tier]は非常にスムーズで、反応性が素晴らしいです。」 – デビッドG. 「…[Ultimate Tier]では非常にクリアさがあります。」 – ゴードンM.…

メタAIのハンプバック！LLMの自己整列と指示逆翻訳による大きな波を起こしています

大規模言語モデル（LLM）は、コンテキスト学習や思考の連鎖など、優れた一般化能力を示しています。LLMが自然言語の指示に従い、現実世界のタスクを完了するために、研究者はLLMの指示調整方法を探求しています。これは、人間の注釈付きプロンプトやフィードバック、または公開ベンチマークとデータセットを使用した監督微調整など、さまざまな関数でモデルを微調整することで実現されます。最近の研究では、人間の注釈データの品質の重要性が強調されています。しかし、そのような品質のデータセットに従って指示を注釈付けすることは、スケールするのが難しいことがわかっています。この解決策は、LLMとの自己整列を扱います。つまり、モデルを利用して自身を改善し、モデルが書かれたフィードバック、批判、説明などの望ましい振る舞いに応じて応答を整列させることです。Meta AIの研究者は、自己整列による指示付きバックトランスレーションを紹介しました。基本的なアイデアは、大規模言語モデルを使用してWebテキストに対応する指示を自動的にラベル付けすることです。セルフトレーニングのアプローチでは、ベースとなる言語モデル、ラベルのない例のコレクション（例えば、Webコーパス）、および少量のシードデータにアクセスできることが前提とされます。この方法の第一の前提は、この大量の人間によって書かれたテキストの一部は、いくつかのユーザー指示のための良い生成物として有用であるということです。第二の前提は、これらの応答に対して指示を予測できるということであり、これを使用して高品質の例のペアを使用して指示に従うモデルをトレーニングすることができます。指示付きバックトランスレーション全体は、以下の手順に分割できます：セルフオーグメント：ラージ言語モデルMeta AI（LLaMA）を使用して、ラベルの付いていないデータ（Webコーパスなど）のための「良い指示」を生成し、指示の調整のためのトレーニングデータ（指示、出力のペア）を生成します。セルフクリエイト：LLaMAを使用して生成されたデータを評価します。そして、このデータを使用してLLaMAを微調整し、手順を繰り返して改良されたモデルを使用します。その結果、トレーニングされたLlamaベースの指示バックトランスレーションモデルは、「ハンプバック」と呼ばれました（クジラの大規模性にちなんでいます）。「ハンプバック」は、アルパカリーダーボードのClaude、Guanaco、Falcon-Instruct、LIMAなどに関して、すべての既存の非蒸留モデルを上回りました。現在の手順の欠点は、高度なデータがWebコーパスから派生しているため、微調整モデルはウェブデータのバイアスを強調する可能性があるということです。結論として、この方法はトレーニングデータがなくなることは絶対にありませんし、大規模言語モデルに指示に従うための堅牢なスケーラブルなアプローチを提供します。今後の課題は、より大きな未ラベルのコーパスを考慮することで、さらなる利益が得られる可能性があることです。

「挑戦受けた：GeForce NOWが究極の挑戦とベセスダゲームをクラウドで始動させる」

おはようございます、目を覚ましてください — GeForce NOWアルティメットKovaaKの挑戦が本日のQuakeConゲーミングフェスティバルで開催されます。240フレーム/秒の超高速ストリーミングで、ゲーマーは究極の潜在能力を発揮するチャンスを得ることができます。トップスコアを獲得した方には、240Hzのゲーミングモニターなど、素敵な賞品が贈られます。 Bethesdaの受賞歴のあるタイトル、Doom Eternal、Quake、Wolfenstein: The New Order、Wolfenstein II: The New Colossus、Wolfenstein: Youngbloodが今週、GeForce NOWライブラリに加わり、クラウドを熱く盛り上げます。さらに、Baldur’s Gate 3はメンバーに大好評です。今日UltimateとPriorityメンバーシップにアップグレードして、無料メンバーよりも待ち時間をスキップして、より早くゲームを楽しんでください。究極のパワー、究極の勝利注意：GeForce NOW Ultimateメンバーシップは非常に優れているため、ゲーマーはもはやハードウェアのせいに敗北を嘆くことはありません。 Ultimateアップグレードの完了を祝して、GeForce NOWはUltimate…

「LLMランドグラブ：AWS、Azure、およびGCPがAIを巡って闘っている」

企業クラウドプラットフォーム間でのAIの優位性を競うレースが始まっています大手および中小のプロバイダーが自分たちの賭けをする中、過去の技術的な対立が急速な変化の時に教訓を提供しています

Learn more about Search Results リーダーボード - Page 6