Search Results 勾配降下法

「マイクロソフトと清華大学によるこのAI研究は、EvoPromptという新しいAIフレームワークを紹介しますこのフレームワークは、LLMと進化アルゴリズムを接続するための自動的な離散プロンプト最適化を実現します」

大規模言語モデル（LLM）はほとんどすべての自然言語処理（NLP）のタスクで優れた成績を収めています。しかし、従来のファインチューニング手法はLLMにとって高コストであり、LLMパラメータを変更せずに学習可能なプロンプト埋め込みを使用する連続プロンプトチューニング技術の開発が行われています。ただし、これらの手法はまだLLMパラメータへのアクセスを必要とし、GPT-3やGPT-4などのブラックボックスAPIでアクセスされるLLMには適していません。この論文では以下の貢献があります： EVOPROMPTの導入：著者は、離散プロンプトの最適化を自動化するための新しいフレームワークであるEVOPROMPTを紹介しています。このフレームワークは、大規模言語モデル（LLM）と進化的アルゴリズム（EA）を結びつけ、以下の利点を提供します： LLMパラメータや勾配へのアクセスは必要ありません。探索と利用のバランスを効果的に取ることで、結果の改善が図られます。人間により理解しやすいプロンプトを生成します。実証的な証拠：本論文では、9つの異なるデータセットで行われた実験により、EVOPROMPTの既存の手法との比較における効果を示す実証的な証拠を提供しています。感情分類、トピック分類、主観性分類、簡素化、要約などのタスクにおいて、最大14％の性能向上が示されました。最適なプロンプトの公開：著者は、EVOPROMPTを用いて得られた最適なプロンプトを共有することで貴重な貢献をしています。これらのプロンプトは、感情分析、トピック分類、主観性分類、簡素化、要約などのタスクにおいて、研究コミュニティや実践者に利用されることができます。 LLMの革新的な利用：この論文は、適切な指示が与えられた場合にLLMを用いて進化的アルゴリズムを実装する概念を先駆けています。この新しいアプローチにより、LLMと従来のアルゴリズムを組み合わせた潜在的な応用の可能性が広がります。 EVOPROMPTを実用化するためには、特定の進化的アルゴリズム（EA）と組み合わせることが重要です。さまざまな種類のEAが存在し、この論文では2つの広く認識されているアルゴリズム、遺伝的アルゴリズム（GA）と差分進化（DE）に焦点を当てています。上記の画像は、LLMによる離散プロンプト最適化のために実装されたGAプロセスを示しています。研究者は、LLMが従来のアルゴリズムを実装するための効果的で解釈可能なインターフェースを提供し、人間の理解とコミュニケーションとの良好な一致を確保すると考えています。この研究結果は、LLMが誤って予測されたサンプルを収集することで、離散空間で「勾配降下法」を実行する最近の傾向を裏付けています。大規模言語モデル（LLM）の能力を最大限に活用し、自然言語の指示を用いて人間との対話を通じて多様なアルゴリズムの実行を調査するためには、追加の研究の機会が存在します。LLMがシミュレーテッドアニーリングなどの微分フリーアルゴリズムにおいて潜在的な解を生成できるかどうかなど、探索のアイデアが含まれます。

「ニューラルネットワークの探索」

AIの力を解き放つ：ニューラルネットワークとその応用のガイド

Machine learning

「LLaMaをポケットに収めるトリック：LLMの効率とパフォーマンスを結ぶAIメソッド、OmniQuantに出会おう」

大型言語モデル（LLM）は、機械翻訳、テキスト要約、質問応答など、さまざまな自然言語処理タスクで印象的なパフォーマンスを発揮しています。彼らは私たちがコンピュータとコミュニケーションを取る方法やタスクを行う方法を変えてきました。 LLMは、自然言語の理解と生成の限界を押し広げる変革的な存在として現れています。その中でもChatGPTは、会話の文脈でユーザーと対話するために設計されたLLMのクラスを代表する注目すべき例です。これらのモデルは、非常に大きなテキストデータセットでの集中的なトレーニングの結果、人間のようなテキストを理解し生成する能力を持っています。しかし、これらのモデルは計算とメモリの消費量が多く、実用的な展開を制限しています。その名前が示すように、これらのモデルは大きいです。最新のオープンソースLLMであるMetaのLLaMa2は、約700億のパラメータを含んでいます。これらの要件を削減することは、より実用的にするための重要なステップです。量子化は、LLMの計算とメモリのオーバーヘッドを削減する有望な技術です。量子化には、トレーニング後の量子化（PTQ）と量子化に対応したトレーニング（QAT）の2つの主要な方法があります。QATは競争力のある精度を提供しますが、計算と時間の両方の面で非常に高価です。そのため、PTQは多くの量子化の試みで主要な方法となっています。重みのみの量子化や重み活性化の量子化など、既存のPTQ技術は、メモリ消費量と計算オーバーヘッドの大幅な削減を達成しています。ただし、効率的な展開には重要な低ビット量子化で苦労する傾向があります。低ビット量子化におけるこの性能の低下は、手作業での量子化パラメータに依存しているため、最適な結果が得られないことが主な原因です。それでは、OmniQuantに会いましょう。これはLLM用の画期的な量子化技術であり、特に低ビット設定でさまざまな量子化シナリオで最先端のパフォーマンスを実現し、PTQの時間とデータの効率性を保ちます。 OmniQuantのLLaMaファミリーにおける特徴。出典: https://arxiv.org/pdf/2308.13137.pdf OmniQuantは、元の完全精度の重みを凍結し、一部の学習可能な量子化パラメータを組み込むというユニークなアプローチを取ります。QATとは異なり、煩雑な重みの最適化を必要とせず、OmniQuantは個々のレイヤーに焦点を当てた順次量子化プロセスに焦点を当てています。これにより、単純なアルゴリズムを使用した効率的な最適化が可能になります。 OmniQuantは、学習可能な重みクリッピング（LWC）と学習可能な等価変換（LET）という2つの重要なコンポーネントで構成されています。LWCはクリッピング閾値を最適化し、極端な重み値を調整します。一方、LETはトランスフォーマーエンコーダ内で等価変換を学習することで、アクティベーションの外れ値に対処します。これらのコンポーネントにより、完全精度の重みとアクティベーションを量子化しやすくします。 OmniQuantの柔軟性は、重みのみの量子化や重み活性化の量子化の両方に対応しており、量子化されたモデルには追加の計算負荷やパラメータが必要ありません。なぜなら、量子化パラメータは量子化された重みに融合されるからです。 OmniQuantの概要。出典: https://arxiv.org/pdf/2308.13137.pdf LLM全体のすべてのパラメータを共同で最適化する代わりに、「OmniQuant」は次のレイヤーに移る前に1つのレイヤーのパラメータを順次量子化します。これにより、OmniQuantは単純な確率的勾配降下法（SGD）アルゴリズムを使用して効率的に最適化することができます。これは実用的なモデルであり、単一のGPU上でも簡単に実装できます。自分自身のLLMを16時間で訓練することができるため、さまざまな実世界のアプリケーションで本当にアクセスしやすくなります。また、OmniQuantは以前のPTQベースの方法よりも優れたパフォーマンスを発揮するため、パフォーマンスを犠牲にすることはありません。ただし、これはまだ比較的新しい手法であり、パフォーマンスにはいくつかの制約があります。たとえば、フルプレシジョンモデルよりもわずかに悪い結果を生み出すことがある場合があります。しかし、これはOmniQuantの小さな不便さであり、LLMの効率的な展開のための有望な技術です。

「LLM Fine-Tuningの理解：大規模言語モデルを独自の要件に合わせる方法」

「Llama 2のような大規模言語モデル（LLM）の微調整技術の最新の進展を探索してくださいLow-Rank Adaptation（LoRA）やQuantized LoRA（QLoRA）などの技術が、新しい利用におけるモデルの適応を革新している方法を学びましょう最後に、人間のフィードバックからの強化学習による微調整が、LLMをより人間の価値観に近づける方法にどのように影響しているかを見てみましょう」

「神秘的なニューラルマジックの解明：アクティベーション関数の探求」

アクティベーション関数の解読：目的、選択、タイミングの謎を解く

Machine learning

「教師なし学習の解明」

「教師なし学習のパラダイムを探求してください主要な概念、技術、および人気のある教師なし学習アルゴリズムに慣れてください」

Machine learning

「トランスフォーマーとサポートベクターマシンの関係は何ですか？トランスフォーマーアーキテクチャにおける暗黙のバイアスと最適化ジオメトリを明らかにする」

自己注意機構により、自然言語処理（NLP）は革新を遂げました。自己注意機構は、入力シーケンス内の複雑な関連を認識するためのトランスフォーマーデザインの主要な要素であり、関連トークンの関連性を評価することで、入力シーケンスのさまざまな側面に優先度を与えます。この他の技術は、強化学習、コンピュータビジョン、およびNLPアプリケーションにとって重要な長距離の関係を捉えるのに非常に優れていることが示されています。自己注意機構とトランスフォーマーは、GPT4、Bard、LLaMA、ChatGPTなどの複雑な言語モデルの作成を可能にし、驚異的な成功を収めています。トランスフォーマーと最適化の風景におけるトランスフォーマーの暗黙のバイアスを説明できますか？勾配降下法で訓練された場合、注意層はどのトークンを選択し、組み合わせますか？ペンシルベニア大学、カリフォルニア大学、ブリティッシュコロンビア大学、ミシガン大学の研究者たちは、注意層の最適化ジオメトリを（Att-SVM）ハードマックスマージンSVM問題と結びつけることで、これらの問題に答えています。この問題では、各入力シーケンスから最良のトークンを分離して選択します。実験結果は、この形式が以前の研究に基づいて構築され、実際的に重要であり、自己注意のニュアンスを明らかにすることを示しています。定理 1 以下では、入力シーケンスX、Z ∈ RT×d（長さT、埋め込み次元d）を使用して、基本的なクロスアテンションと自己注意モデルを調査しています。ここで、訓練可能なキー、クエリ、バリューマトリックスは、K、Q ∈ Rd×m、およびV ∈ Rd×vです。S( . )は、行ごとに適用されるソフトマックス非線形性を示しています。XQK⊤X⊤に対して適用されます。Z ← Xと設定することで、自己注意（1b）はクロスアテンション（1a）の特別なケースであることがわかります。メジャーな発見を明らかにするために、予測のためにZの初期トークンを使用することを検討します。ここで、zで表されます。具体的には、次のように表される減少する損失関数l(): R Rによる経験的リスク最小化を扱っています。ラベルYi ∈ {−1, 1}および入力Xi ∈ RT×d、zi ∈…

「オープンソースLLMの完全ガイド」

この包括的なガイドを使って、オープンソースの大規模言語モデル（LLM）の世界を開放し、プロジェクトで共同AIの力を活用してください

「3Dガウシアンスプラッティング入門」

3Dガウススプラッティングは、小さな画像サンプルから学習したフォトリアルなシーンをリアルタイムでレンダリングするための技術であり、3Dガウススプラッティングによるリアルタイム放射輝度フィールドレンダリングに記載されています。この記事では、その動作原理とグラフィックスの未来について解説します。ガウススプラッティングのシーンの例については、こちらのリモートガウスビューアーをご覧ください。 3Dガウススプラッティングとは何ですか？ 3Dガウススプラッティングは、本質的にはラスタライゼーション技術です。つまり：シーンを説明するデータを持つ。データを画面に描画する。これは、コンピュータグラフィックスの三角形ラスタライゼーションに類似しており、画面上に多くの三角形を描画するために使用されます。ただし、三角形ではなくガウス分布を使用します。以下は、境界を明確にするために描画された単一のガウス分布のラスタライズ例です。ガウス分布は、次のパラメータで説明されます：位置：どこにあるか（XYZ）共分散：どのように伸縮されるか（3×3行列）色：何色か（RGB）アルファ：どれくらい透明か（α）実際には、複数のガウス分布が一度に描画されます。これが三つのガウス分布です。では、700万個のガウス分布はどうでしょうか？以下は、それぞれのガウス分布を完全に不透明にラスタライズしたものです。これが3Dガウススプラッティングの概要です。次に、論文で説明されている手順を詳しく見ていきましょう。動作原理 1. Structure from Motion 最初のステップは、Structure from…

NumPyを使用したゼロからの線形回帰

「線形回帰の基礎と勾配降下法および損失最小化の基本をマスターする」

Machine learning

Learn more about Search Results 勾配降下法 - Page 5