Search Results 18

このAIペーパーは、さまざまなタスクでChatGPTに追いついたり超えたりすると主張するオープンソースの大規模言語モデルの詳細なレビューを公開しています

昨年のChatGPTのリリースは、人工知能コミュニティを驚かせました。最新の大規模言語モデルであるGPTのトランスフォーマーアーキテクチャに基づいて開発されたChatGPTは、学術および商業アプリケーションの両方に大きな影響を与えています。このチャットボットは、リインフォースメントラーニングフロムヒューマンフィードバック（RLHF）の能力を利用し、監視付きのファインチューニングを通じて指示を調整することで、簡単に人間に応答し、コンテンツを生成し、クエリに答え、さまざまなタスクを実行することができます。最近の研究では、シンガポール国立大学（NTU）、SalesForce AI、I2Rの研究者チームが、オープンソースの大規模言語モデル（LLM）の最新研究をまとめ、さまざまなコンテキストでChatGPTと同等またはそれ以上のパフォーマンスを発揮するモデルの完全な概要を提供するために広範な調査を行いました。ChatGPTのリリースと成功により、学界と産業界の両方で、この分野に専念したスタートアップから生まれた新しいLLMが豊富に見られるなど、LLM関連の追求が盛んになりました。 AnthropicのClaudeのようなクローズドソースのLLMは一般的にオープンソースの対抗モデルよりも優れているものの、OpenAIのGPTなどのモデルはより速く進化してきました。特定のタスクで同等またはそれ以上のパフォーマンスを達成するという主張が増えており、これによりクローズドソースモデルの歴史的な優位性が危うくなっています。研究の観点から、新しいオープンソースのLLMの連続的なリリースとそれらの成功が、これらのモデルの強みと弱点を再評価することを余儀なくさせています。オープンソースの言語モデリングソフトウェアの進展は、言語モデルを組織の運営に取り入れたい企業にとって、ビジネスに関連する課題を提供しています。独自の代替品と同等またはそれ以上のパフォーマンスを得る可能性のおかげで、企業は独自の要件に最適なモデルを選択するためにより多くの選択肢を持つようになりました。チームは、調査の貢献を特徴づけるために使用できる3つの主要なカテゴリを共有しました。評価のまとめ：調査では、オープンソースのLLMがChatGPTとどのように異なるかについて客観的かつ包括的な視点を提供するために、さまざまな評価をまとめました。この総合は、オープンソースのLLMの利点と欠点を読者に包括的に理解させます。モデルのシステマティックなレビュー：ChatGPTと同等またはそれ以上のパフォーマンスを発揮するオープンソースのLLMが、さまざまなタスクで調査されました。さらに、チームはリアルタイムで更新されるウェブページを共有しました。これにより、読者は最新の変更を確認できます。これは、オープンソースのLLMの開発のダイナミックな性質を反映しています。助言と洞察：レビューや評価に加えて、調査はオープンソースのLLMの進化に影響を与えるパターンについての洞察力のある情報を提供しています。また、これらのモデルの潜在的な問題を探求し、オープンソースのLLMを教育するためのベストプラクティスについても議論しています。これらの結果は、企業セクターと学術コミュニティの両方に対して、既存のコンテキストと将来の可能性について詳細な視点を提供しました。

「データ駆動方程式発見について」という文章です

「実験を通じて検証された分析的な表現を用いて自然を説明することは、特に物理学の基礎的な引力の法則から始まる科学の成功の象徴です...」

「マルチコードダイアグラムの紹介：複雑なセットの関係を視覚化する」

データの可視化の風景において、複雑な集合の関係を表現する進化は、単純かつ効果的なベン図の作成という重要な節目を経ています...

LangChainの発見：ドキュメントとのチャット、チャットボット翻訳、ウィキペディアとのチャット、合成データ生成

「ジェネラティブAIの世界の成長は、重要なPythonライブラリであるLangChainのおかげで可能になっています興味も最近の数ヶ月間で増しており、次のチャートで示されています」

ブログ執筆のための20の最高のChatGPTプロンプト

デジタル時代において、コンテンツこそ王であり、高品質で魅力的なブログ記事を一貫して作成できる能力は、どの作家、マーケター、ビジネスオーナーにとっても重要なスキルです新鮮で関連性のあるコンテンツの需要がますます高まる中で、アイデアを生み出し、記事の構成を固め、それぞれの作品がターゲットユーザーに共鳴するようにすることがよくある課題です...

「PyTorchでのSoft Nearest Neighbor Lossの実装方法」

表現学習は、深層ニューラルネットワークによって与えられたデータセット内の最も顕著な特徴を学習するタスクです通常は教師あり学習の範囲で暗黙的に行われる課題であり、それは...

元アップル社員が生成型AIをデスクトップにもたらす方法

常に進化するテックのランドスケープの中で、元Appleの従業員であるコンラッド・クレイマー、キム・ベベレット、アリ・ウェインスタインの3人は、デスクトップにおける生産性を再定義する使命に取り組んでいます。彼らのスタートアップ、ソフトウェアアプリケーションズ社は、生成的AIの力を利用して、ワークフローのショートカットを作り出し、世界中のユーザーのタスクを効率化することを約束しています。ビジョナリースタートアップの誕生ソフトウェアアプリケーションズ社は、単なる他のテックスタートアップではありません。それは、デスクトップコンピューティングの未来を見て、それを実現しようと決意した元Appleの三人のビジョナリーの作品です。彼らの目標はシンプルでありながら野心的です：生成的AIを日常的なデスクトップアプリケーションに統合し、エンドユーザーにとって複雑なタスクを簡単にすることです。この三人はすでにOpenAIのAltman、FigmaのCEOであるディラン・フィールド、シリコンバレーの他の著名な人々から650万ドルの資金を調達しています。新たなフロンティア生成的AIはこのスタートアップの革新の基盤です。具体的なプログラミングが行われていない場合にも、生成的AIはデータから学び、作られていないコンテンツを作り出すことができます。つまり、このような技術の潜在的な応用範囲は広範であり、平凡なタスクの自動化から簡単なコマンドで複雑なレポートを生成することまで可能です。詳細はこちらをご覧ください：生成的AIとは何か、そしてそれはどのように機能するのかワークフローショートカット：ゲームチェンジャーこのスタートアップの看板製品は、ワークフローショートカットに重点を置いています。これは通常のキーボードショートカットとは異なり、インテリジェントで文脈を理解し、適応するものです。ユーザーの利用習慣と好みを理解することで、これらのショートカットはニーズを予測し、単一のコマンドで複数のステップを実行することができます。これにより、貴重な時間を節約し、ユーザーの認知負荷を減らすことができます。私たちのコメントソフトウェアアプリケーションズ社によるこのイニシアチブは、生成的AIの変革的な力の証です。彼らはAppleの専門家の背景を活かして、デスクトップコンピューティングの将来において定番となる可能性のある製品を提供する準備が整っています。彼らが技術を開発し、磨き上げていくにつれ、私たちは生産性とワークフロー管理への影響を心待ちにしています。

開発者の生産性向上：DeloitteのAmazon SageMaker Canvasを用いたノーコード/ローコード機械学習の活用方法

今日のデータ駆動型の世界では、機械学習（ML）モデルを素早く構築し展開する能力がますます重要になっていますしかし、MLモデルの構築には時間と労力、特殊な専門知識が必要ですデータの収集やクリーニングから特徴エンジニアリング、モデルの構築、調整、展開まで、MLプロジェクトは開発者にとって数か月かかることがよくありますそして経験豊富なデータ[...]

オープンLLMリーダーボード：DROPディープダイブ

最近、新たに3つの新基準がOpen LLM Leaderboardに追加されました。Winogrande、GSM8k、そしてDROPです。これらはEleutherAI Harnessの再現実装を使用しています。DROPのスコアをざっと見てみると、f1スコアでほとんどのモデルが10点以下という奇妙な現象が起こっていることがわかりました。私たちはこの問題を深く掘り下げ、何が起こっているのかを理解するために調査を行いました。一緒に調査結果を見ていきましょう！初期の観察結果 DROP（段落に対する離散的な推論）は、モデルが英語の段落から関連する情報を抽出し、それらに対して離散的な推論手法（例えば、ソートやアイテムの数え上げなどを行い、正解にたどり着く）を実行する必要がある評価です（例は下の表を参照してください）。使用される評価指標はカスタムのf1スコアと完全一致スコアです。 DROPをOpen LLM Leaderboardに3週間前に追加しましたが、事前学習モデルのf1スコアは予想外の傾向を示しました。DROPのスコアをARC、HellaSwag、TruthfulQA、MMLUのリーダーボードの元々の平均（モデル全体のパフォーマンスの合理的な代理）と比較したとき、優れたモデルほどDROPのスコアも良い関連性があると予想していました。しかし、それは一部のモデルにしか当てはまらず、他のすべてのモデルのDROPのf1スコアは10点未満でした。正規化の問い合わせこの驚くべき振る舞いに対する最初の深い調査中に、正規化ステップが意図した通りに機能していない可能性があることがわかりました。いくつかのケースでは、正規化が正しい数値の回答を無視してしまっていました。具体的には、数値の回答の後に空白文字（スペース以外の改行など）が続いていた場合に正規化が無視されていました。以下に例を示します。生成結果が10\n\nPassage: The 2011 census recorded a population of 1,001,360で、正解が10である場合を見てみましょう。正規化は生成結果と正解の両方に対して複数のステップで行われます：区切り文字での分割 |、-、または. を使って分割します。生成結果の先頭のシーケンス 10\n\nPassage:…

サークルブームのレビュー：最高のAIパワードソーシャルメディアツール？

「サークルブームの参考文献として、サークルブームの力を発見してみてくださいそれは最高のAIパワードソーシャルメディアツールですか？」

circleboom

Learn more about Search Results 18 - Page 13