Search Results FIRST

ウェアラブルフィットネストラッカー：早期疾患の検出の可能性を開く

消費者向けと医療用のウェアラブルが融合のばしょにあるかもしれませんか？ウェアラブルが融合して、より価値のあるものになるかもしれません

「2023年、オープンLLMの年」

2023年には、大型言語モデル（Large Language Models、LLMs）への公衆の関心が急増しました。これにより、多くの人々がLLMsの定義と可能性を理解し始めたため、オープンソースとクローズドソースの議論も広範な聴衆に届くようになりました。Hugging Faceでは、オープンモデルに大いに興味を持っており、オープンモデルは研究の再現性を可能にし、コミュニティがAIモデルの開発に参加できるようにし、モデルのバイアスや制約をより簡単に評価できるようにし、チェックポイントの再利用によってフィールド全体の炭素排出量を低減するなど、多くの利点があります（その他の利点もあります）。では、オープンLLMsの今年を振り返ってみましょう！文章が長くなりすぎないようにするために、コードモデルには触れません。 Pretrained Large Language Modelの作り方まず、大型言語モデルはどのようにして作られるのでしょうか？（もし既に知っている場合は、このセクションをスキップしてもかまいません）モデルのアーキテクチャ（コード）は、特定の実装と数学的な形状を示しています。モデルのすべてのパラメータと、それらが入力とどのように相互作用するかがリストとして表されます。現時点では、大部分の高性能なLLMsは「デコーダーのみ」トランスフォーマーアーキテクチャのバリエーションです（詳細は元のトランスフォーマーペーパーをご覧ください）。訓練データセットには、モデルが訓練された（つまり、パラメータが学習された）すべての例と文書が含まれています。したがって、具体的には学習されたパターンが含まれます。ほとんどの場合、これらの文書にはテキストが含まれており、自然言語（例：フランス語、英語、中国語）、プログラミング言語（例：Python、C）またはテキストとして表現できる構造化データ（例：MarkdownやLaTeXの表、方程式など）のいずれかです。トークナイザは、訓練データセットからテキストを数値に変換する方法を定義します（モデルは数学的な関数であり、したがって入力として数値が必要です）。トークン化は、テキストを「トークン」と呼ばれるサブユニットに変換することによって行われます（トークン化方法によっては単語、サブワード、または文字になる場合があります）。トークナイザの語彙サイズは、トークナイザが知っている異なるトークンの数を示しますが、一般的には32kから200kの間です。データセットのサイズは、これらの個々の「原子論的」単位のシーケンスに分割された後のトークンの数としてよく測定されます。最近のデータセットのサイズは、数千億から数兆のトークンに及ぶことがあります！訓練ハイパーパラメータは、モデルの訓練方法を定義します。新しい例ごとにパラメータをどれだけ変更すべきですか？モデルの更新速度はどのくらいですか？これらのパラメータが選択されたら、モデルを訓練するためには1）大量の計算パワーが必要であり、2）有能な（そして優しい）人々が訓練を実行し監視する必要があります。訓練自体は、アーキテクチャのインスタンス化（訓練用のハードウェア上での行列の作成）および上記のハイパーパラメータを使用して訓練データセット上の訓練アルゴリズムの実行からなります。その結果、モデルの重みが得られます。これらは学習後のモデルパラメータであり、オープンな事前学習モデルへのアクセスに関して多くの人々が話す内容です。これらの重みは、推論（つまり、新しい入力の予測やテキストの生成など）に使用することができます。事前学習済みLLMsは、重みが公開されると特定のタスクに特化または適応することもあります。それらは、「ファインチューニング」と呼ばれるプロセスを介して、ユースケースやアプリケーションの出発点として使用されます。ファインチューニングでは、異なる（通常はより専門化された小規模な）データセット上でモデルに追加の訓練ステップを適用して、特定のアプリケーションに最適化します。このステップには、計算パワーのコストがかかりますが、モデルをゼロから訓練するよりも財政的および環境的にはるかにコストがかかりません。これは、高品質のオープンソースの事前学習モデルが非常に興味深い理由の一つです。コミュニティが限られたコンピューティング予算しか利用できない場合でも、自由に使用し、拡張することができます。 2022年 – サイズの競争からデータの競争へ 2023年以前、コミュニティで利用可能だったオープンモデルはありましたか？ 2022年初頭まで、機械学習のトレンドは、モデルが大きければ（つまり、パラメータが多ければ）、性能が良くなるというものでした。特に、特定のサイズの閾値を超えるモデルは能力が向上するという考えがあり、これらの概念はemergent abilitiesとscaling lawsと呼ばれました。2022年に公開されたオープンソースの事前学習モデルは、主にこのパラダイムに従っていました。 BLOOM（BigScience Large Open-science…

AIアドバイザーと計画ツール：金融、物流、それ以上を変革する

「AIアドバイザーやプランニングツールが金融、物流、医療、教育の根本的な変革を遂げる方法を探索してくださいこれらのAIシステムがどのようにデータ駆動の洞察を提供し、複雑なプロセスを最適化し、未来を形作っているのか学んでください」

Tech

「コンピュータビジョン101」

コンピュータビジョンの進歩により、未来には莫大な可能性がありますその変革的な影響は、さまざまな産業にまたがっています

「初めてのデータサイエンスプロジェクトに打ち勝つための6つの初心者向けの素晴らしいヒント」

「経験がない状態で初めてのデータサイエンスプロジェクトを始める方法を知ることは難しいかもしれませんここでインサイトを得て、データサイエンスのデビューを成功させましょう！」

「FinTech API管理におけるAIの力を解き放つ：製品マネージャーのための包括的なガイド」

この包括的なガイドでは、AIが金融技術のAPI管理に果たす変革的な役割を探求し、各セクションごとに実世界の例を提供していますAIによる洞察力や異常検知からAIによる設計、テスト、セキュリティ、そして個人化されたユーザーエクスペリエンスまで、金融技術のプロダクトマネージャーはAIの力を活用してオペレーションを最適化し、セキュリティを強化し、提供を行わなければなりません

マイクロソフトAIチームがPhi-2を紹介：2.7Bパラメーターの小型言語モデルで、優れた推論能力と言語理解能力を示します

“`html 言語モデルの開発は、従来、モデルのサイズが大きいほど性能が優れているという前提のもとで行われてきました。しかし、この確立された信念から逸脱し、マイクロソフトリサーチの機械学習基礎チームの研究者たちは、パラメータ数27億の画期的な言語モデル「Phi-2」を導入しました。このモデルは、従来のスケーリング法則に反する特性を持ち、モデルのサイズだけが言語処理能力の決定因子とされる広く共有されている考え方に挑戦しています。この研究では、優れた性能が大きなモデルを必要とするという一般的な仮定について考察されています。研究者たちは、Phi-2を通常から逸脱したパラダイムシフトとして紹介しています。この記事では、Phi-2の特徴的な属性とその開発に取り組んだ革新的な手法について詳しく説明しています。Phi-2は、従来のアプローチとは異なり、厳選された高品質なトレーニングデータに依存し、より小さいモデルからの知識転移を活用しています。これにより、言語モデルのスケーリングにおける確立された慣行に立ち向かう力強い挑戦を示しています。 Phi-2の方法論の基盤は、2つの重要な洞察にあります。まず、研究者たちは、トレーニングデータの品質の重要性を強調し、モデルに推論、知識、常識を注入するために「教科書品質」と設計されたデータを使用しています。また、革新的な技術が駆使され、1.3億のパラメータPhi-1.5から始まるモデルの洞察力の効率的なスケーリングを実現しています。この記事では、Phi-2のアーキテクチャについて詳しく掘り下げており、合成データとWebデータセットでトレーニングされた次の単語予測を目的とするTransformerベースのモデルを特徴としています。Phi-2はその控えめなサイズにもかかわらず、さまざまなベンチマークでより大きなモデルを凌駕し、その効率性と優れた能力を示しています。結論として、マイクロソフトリサーチの研究者は、Phi-2を言語モデルの開発における革新的な力として提案しています。このモデルは、モデルの能力が本質的にサイズに結び付いているという業界の長年の信念に挑戦するだけでなく、成功裏に反証しています。このパラダイムシフトは、従来のスケーリング法則に厳密に従うことなく達成できる効率性を強調し、新たな研究の視点や可能性を重視しています。Phi-2の特徴的な高品質なトレーニングデータと革新的なスケーリング技術は、自然言語処理分野における大きな進歩を示し、将来の新しい可能性と安全な言語モデルを約束しています。 The post Microsoft AI Team Introduces Phi-2: A 2.7B Parameter Small Language Model that Demonstrates Outstanding Reasoning and Language…

Learn more about Search Results FIRST

ウェアラブルフィットネストラッカー：早期疾患の検出の可能性を開く

「2023年、オープンLLMの年」

AIアドバイザーと計画ツール：金融、物流、それ以上を変革する

「コンピュータビジョン101」

「初めてのデータサイエンスプロジェクトに打ち勝つための6つの初心者向けの素晴らしいヒント」

「FinTech API管理におけるAIの力を解き放つ：製品マネージャーのための包括的なガイド」

マイクロソフトAIチームがPhi-2を紹介：2.7Bパラメーターの小型言語モデルで、優れた推論能力と言語理解能力を示します

「最初のAIエージェントを開発する：Deep Q-Learning」

「MLX対MPS対CUDA：ベンチマーク」

『AWSプロトタイピングによるICL-GroupのAmazon SageMaker上でのコンピュータビジョンモデルの構築』

Find the right Blockchain Investment for you