Search Results MMLU

マーク外：AI進捗競争におけるメトリクスゲーミングの落とし穴

「共産主義のネイル工場から資本主義のボット戦まで、この記事では、虚偽の基準や狭視的なハイプサイクルが意味のある進歩を阻害する永遠のリスクに焦点を当てています」

デシAIはDeciLM-7Bを紹介します：超高速かつ超高精度の70億パラメータの大規模言語モデル（LLM）

技術の進化が絶えず進む中で、言語モデルは欠かせない存在となりました。これらのシステムは高度な人工知能によって動力を得ており、デジタルプラットフォームとのインタラクションを向上させます。LLM（Language Models）は人間の言語の理解と生成を促進し、人間のコミュニケーションと機械の理解とのギャップを埋めるために設計されています。技術の進歩により、言語モデルは情報処理、コミュニケーション、問題解決においてますます重要な役割を果たすデジタル時代を迎えました。最近、Deciは7兆パラメータクラスで利用可能な高精度高速な革新的なモデルであるDeciLM-7Bを導入しました。Apache 2.0でライセンスされたこのモデルは、7兆パラメータクラスで類を見ない精度と速度を誇る新世代の言語モデルの最前線に立っています。このモデルは、言語処理の進歩と変革の力を備えています。 DeciLM-7BはThe Open Language Model Leaderboardにおいて61.55の印象的な平均スコアを記録しています。これは、DeciLM-7Bが7兆パラメータクラスで最も先進的なベース言語モデルであり、さまざまなアプリケーションにおいて改善された精度と信頼性を提供していることを示しています。Mistral 7Bは、Arc、HellaSwag、MMLU、Winogrande、GSM8Kを含むいくつかのベンチマークで従来のモデルよりも優れたパフォーマンスを発揮します。 DeciLM-7Bは単に精度が高いだけでなく、驚異的な速度能力を持っています。Mistral 7Bに比べてスループットが83%向上し、Llama 2 7Bに比べて139%も向上しています。DeciLM-7Bは言語モデルの効率性の基準を引き上げています。PyTorchのベンチマークでは、Mistral 7BおよびLlama 2 7Bよりも1.83倍および2.39倍のスループットを示しており、その優位性がハイライトされています。 DeciLM-7BとInfery、Decが開発した推論SDKの相乗効果により、vLLMを使用したMistral 7Bに比べて4.4倍の速度向上が実現され、コスト効果の高い大量ユーザーインタラクションの可能性が提供されます。 DeciLM-7BはNASパワードエンジン、AutoNACを活用しています。このモデルは複雑な好み最適化手法なしで、上位の7兆パラメータの説明モデルの中で優れた性能を発揮します。研究者たちは、DeciLM-7BとInfery-LLMが革新的な変化をいくつかの産業にもたらす可能性を持つアプリケーションを持っていることを強調しています。これら2つは、リアルタイムのチャットボットによるハイボリューム顧客サービスの向上と、医療、法律、マーケティング、ファイナンスなどのテキスト重視の専門分野におけるワークフロー自動化を革新します。まとめると、DeciLM-7Bは大規模な言語モデルにおける重要なモデルです。精度と効率性だけでなく、アクセシビリティと多様性においても言語モデルが優れていることを示しています。技術の進化につれて、DeciLM-7Bのようなモデルはデジタル世界を形作る上でますます重要になっています。これらのモデルは未来に向けた無数の可能性を示してくれます。技術の進歩とともに、これらのモデルはますます重要になり、デジタルフロンティアの多岐にわたる選択肢を展望する魅力的かつ広大な予感を私たちにもたらしてくれます。

『LLM360をご紹介します：最初の完全オープンソースで透明な大規模言語モデル（LLM）』

“`html オープンソースの大規模言語モデル（LLM）であるLLaMA、Falcon、Mistralなどは、AIのプロフェッショナルや学者向けにさまざまな選択肢を提供しています。しかし、これらのLLMの大部分は、エンドモデルの重みや推論スクリプトなどの一部のコンポーネントだけが利用可能であり、技術的なドキュメントでは、一般的な設計の側面や基本的なメトリックに焦点を絞った内容が多いです。このアプローチでは、LLMのトレーニング手法の明確性が低下し、チームがトレーニング手順のさまざまな側面を継続的に解明するための努力が重複してしまいます。 Petuum、MBZUAI、USC、CMU、UIUC、UCSDの研究者チームが、LLM360を導入しました。これは、エンドツーエンドのLLMトレーニングプロセスを透明で再現可能にすることにより、オープンかつ協力的なAIの研究をサポートするイニシアチブです。LLM360は、トレーニングコードとデータ、モデルのチェックポイント、中間結果などのすべてをコミュニティに提供することを主張する、完全なオープンソースのLLMです。 LLM360に最も近いプロジェクトはPythiaであり、LLMの完全な再現性を目指しています。GPT-JやGPT-NeoXなどのEleutherAIモデルは、トレーニングコード、データセット、中間モデルのチェックポイントと共にリリースされており、オープンソースのトレーニングコードの価値を示しています。INCITE、MPT、OpenLLaMAは、トレーニングコードとトレーニングデータセットがリリースされ、RedPajamaも中間モデルのチェックポイントを公開しています。 LLM360は、AMBERとCRYSTALCODERの2つの7BパラメータLLMをリリースし、そのトレーニングコード、データ、中間チェックポイント、分析も提供します。事前トレーニングデータセットの詳細、データの前処理、フォーマット、データミキシングの比率、LLMモデルのアーキテクチャの詳細については、研究で詳しく説明されています。この研究では、以前の研究で導入された記憶スコアの使用と、メトリック、データチャンク、チェックポイントの公開により、研究者が対応関係を容易に見つけることができるようになることを示しています。研究ではまた、LLMが事前にトレーニングされたデータを削除することの重要性や、データのフィルタリング、処理、トレーニング順序の詳細についても強調しています。研究では、ARC、HellaSwag、MMLU、TruthfulQAの4つのデータセットについてのベンチマーク結果が示され、モデルの事前トレーニング中のパフォーマンスが示されています。HellaSwagとARCの評価スコアはトレーニング中に単調に増加し、TruthfulQAのスコアは減少します。MMLUのスコアは最初に減少し、その後成長します。AMBERのパフォーマンスはMMLUなどのスコアで競争力があるものの、ARCでは遅れています。ファインチューニングされたAMBERモデルは、他の類似モデルと比較して強力なパフォーマンスを示します。 LLM360は、オープンソースLLMの完全かつ包括的なイニシアチブであり、オープンソースのLLM事前トレーニングコミュニティ内での透明性を推進するものです。この研究では、AMBERとCRYSTALCODERの2つの7B LLMをトレーニングコード、データ、中間モデルのチェックポイント、分析と共にリリースしています。研究では、チェックポイント、データチャンク、評価結果を公開することにより、包括的な分析と再現性を可能にするため、すべての角度からLLMをオープンソース化することの重要性を強調しています。 “`

グーグルのマルチモーダルAIジェミニ-技術の深い潜水

「ジェミニを探索してくださいGoogleの高度なマルチモーダルAIモデルは、テキスト、画像、音声、動画など、さまざまな能力を持ち、クロスモーダルな関心を革新的に結集していますジェミニがGoogleのエコシステムに統合され、AIの新たな基準を設定していることを発見してください」

「大規模な言語モデルの公正な評価に向けて」

「こうした大胆な主張を聞くことがますます一般的になってきているのは、LLM（レイディコマス）周りの話題が大きいためです毎週新しいモデルが登場し、現在は誰もがGPT-4に競い合おうとしていますが、それは...」

「ChatGPTの新たなライバル：Googleのジェミニ」

グーグルは、ChatGPTを上回ると言われるリニューアルされたAIモデルを導入しました詳しく見てみましょう

language models

チャットGPT vs Gemini：AIアリーナでのタイタン同士の激突

はじめに人工知能の世界では、GoogleのGemini AIとOpenAIのChatGPTの2つの巨人の間で魅惑的な一戦が繰り広げられています。ChatGPTは注目を浴びていますが、Gemini AIは静かに強力な武器を作り上げ、攻撃の瞬間を待っていました。そして、その瞬間がやってきて、驚くべきベンチマークの連続がAIの世界の基盤を揺るがすことになりました。Googleは過去1年間、OpenAIのChatGPTが世界を席巻するのを静かに見守ってきました。しかし今、Googleの輝く番です。画期的なAIモデルであるGeminiの登場により、GoogleはAIの競技場に進出するだけでなく、それを再定義しようとしています。AIの世界でのタイタン同士の激突、ChatGPT対Geminiについて掘り下げてみましょう。 GoogleのCEOであるSundar Pichaiは、Geminiのリリースにより「新たなAIの時代」の到来を大胆に宣言しました。Geminiは最も高度な大規模言語モデル（LLM）であり、優れた「推論能力」を誇っており、複雑な問いにもより正確かつ深い理解で取り組むことができます。これにより、他のAIモデル（Google自身を含む）が抱える「幻覚」のリスクを最小限に抑えます。この飛躍的な進歩により、知的かつ微妙な思考プロセスが可能な新世代のAIが道を切り拓かれます。 Geminiの異なるバージョン Geminiはデータセンターからモバイルデバイスまで効率的に実行するように設計されています。これにより、開発者やあらゆる規模の企業が簡単に製品やサービスにAIを統合することができます。 Gemini Ultra Gemini Pro Gemini Nano Geminiの最も重要で強力なバージョンは、科学研究や薬物発見などの複雑なタスクに向けて設計されています。この最も強力なバージョンは現在一般公開されていません。Googleは2024年にリリースすることを発表しましたが、具体的な日付はまだ発表されていません。これはChatbotsやバーチャルアシスタント、コンテンツ生成など、さまざまなタスクに拡張可能なGeminiの最良のバージョンです。このモデルはBard（ぜひ試してみてください）の基盤となっており、2023年12月13日からGoogle Generative AI StudioまたはVertex AI in Google Cloudを介して開発者やエンタープライズのお客様が利用できるようになります。これはモバイル電話やスマートホームデバイスなどのデバイス上で実行するために設計された、最も効率的なGeminiのバージョンです。この軽量バージョンは現在、Pixel…

「Googleが最新のAIモデルGeminiを発表」

Google DeepMindのCEO兼共同創設者であるデミス・ハサビスとGoogleのCEOサンダー・ピチャイは、待望のAIモデル「ジェミニ」を紹介しましたこのテックジャイアントのAIモデルは、人工知能の領域を再定義すると言われています同社のブログ投稿によれば、ジェミニは最先端の機能を提供し、OpenAIをも凌駕する可能性があると約束されています...

ジェミニに会ってください：Googleの画期的なマルチモーダルAIモデルが人工知能の未来を再定義する

<img alt=”” src=”https://ai.miximages.com/www.marktechpost.com/wp-content/uploads/2023/12/Screenshot-2023-12-06-at-11.41.53-PM-1024×550.png”/><img alt=”” src=”https://ai.miximages.com/www.marktechpost.com/wp-content/uploads/2023/12/Screenshot-2023-12-06-at-11.41.53-PM-150×150.png”/>Googleの最新の人工知能「ジェミニ」は、AI技術の大きな飛躍を表しています。驚くべき能力を持つAIモデルとして発表されたジェミニは、GoogleのAIファースト戦略に対する持続的な取り組みを証明しています。この開発は、Googleだけでなく、AIの広い領域において新たな可能性と改善をもたらします。それは、開発者、企業、そして世界中のエンドユーザーにとってのものです。Google DeepMindとGoogle Researchの共同開発であるジェミニは、本来的にマルチモーダルな設計とされています。これは、テキスト、コード、音声、画像、動画など、さまざまな情報タイプを理解し、処理し、統合することができることを意味します。そのモデルのアーキテクチャは、データセンターからモバイルデバイスまで、さまざまなデバイスで効率的に動作することができ、その柔軟性と適応性を示しています。ジェミニの最初のバージョンであるジェミニ1.0には、Gemini Ultra、Gemini Pro、Gemini Nanoの3つのバリアントがあります。それぞれのバリアントは、特定のユースケースに最適化されています：<ol><li>Gemini Ultra：高度に複雑なタスクに最適化された最も包括的なモデルです。さまざまな学術ベンチマークで優れたパフォーマンスを発揮し、32のベンチマーク中30のベンチマークで現在の最先端の結果を上回っています。特に、複数のドメインでの知識と問題解決をテストするMassive Multitask Language Understanding (MMLU)では、人間の専門家を超える最初のモデルです。</li><li>Gemini Pro：幅広いタスクにスケーリングするための最適なモデルとされており、能力と汎用性のバランスを提供します。</li><li>Gemini Nano：オンデバイスのタスクに最適化された、最も効率的でモバイルデバイスや類似のプラットフォームに適したバージョンです。</li></ol><figure></figure>ジェミニの重要な強みの一つは、洗練された推論能力です。このモデルは、複雑な文章や視覚情報を分析し解釈することができるため、広範なデータセットに隠された知識を解き放つのに特に優れています。この能力は、科学や金融などさまざまな分野でのブレークスルーを促進することが期待されています。コーディングの観点では、ジェミニ・ウルトラは驚異的な能力を発揮します。複数のプログラミング言語で高品質のコードを理解し説明、生成することができるため、コーディングのためのリーディングなファウンデーションモデルの一つとなっています。<figure><img alt=”” src=”https://ai.miximages.com/www.marktechpost.com/wp-content/uploads/2023/12/Screenshot-2023-12-06-at-11.44.02-PM-1024×891.png”/><figcaption>https://storage.googleapis.com/deepmind-media/gemini/gemini_1_report.pdf</figcaption></figure>ただし、ジェミニは単一のモデルではなく、異なるニーズと計算環境に対応するために設計されたモデルのファミリーです。これは、通常、異なるモーダリティのために別々のコンポーネントをトレーニングしてからそれらを結合するという従来のマルチモーダルモデルの方法からの脱却を示しています。代わりに、ジェミニは最初からネイティブでマルチモーダルなので、さまざまな情報のよりシームレスで効果的な統合が可能です。まとめると、Googleのジェミニは、AIの領域における重要な進歩を表しています。そのマルチモーダルの能力、柔軟性、最先端のパフォーマンスは、幅広いアプリケーションにおいて強力なツールとなります。このモデルはGoogleの野心と責任あるAI開発への取り組みを反映し、ますます高度なAIシステムの社会的および倫理的な影響を考慮しながら、可能性の限界を広げています。

ジェミニと共に、バードはこれまで最大のアップグレードを実現しました

「私たちは、Geminiの先進機能をBardに導入し始めています」

Learn more about Search Results MMLU