Search Results 17

「NYUとGoogle AIの研究者が、機械学習の先進的な演繹的推論のフロンティアを探る」

多くの割引ルールの使用とサブプルーフの構築により、証明の複雑さは医療診断や定理の証明などの多くの論理推論の課題において無限に発展することができます。巨大な証明領域のため、すべてのサイズの保証をカバーするためのデータを見つけることは実際的ではありません。したがって、基本的な証明から始めて、一般的な推論モデルはより複雑な証明へと拡張することができるはずです。 NYUとGoogle AIの研究者のチームは、インコンテキストの学習（ICL）と思考連鎖（CoT）のプロンプトを使用してトレーニングされた場合、LLMsが論理的な推論を行うことができることを実証しました。過去の研究では、モーダスポネンスなどの一部の割引ルールが主な焦点でした。評価もデモンストレーション中であり、テストケースはインコンテキストのデモンストレーションと同じ分布から抽出されたものです。 LLMsがデモンストレーションよりも洗練された証明を一般化できる能力は、ニューヨーク大学、Google、ボストン大学の研究者による新しい研究のテーマです。学者は証明を以下の3つの次元で分類します：デモンストレーションの各ステージで使用される前提の数。証明を構成する一連の手順の長さ。使用される割引ルール。証明の総サイズはこれらの3つの次元の関数です。このグループは、LLMsの一般的な論理的推論能力を評価するために、以前の研究を2つの重要な点で拡張しています。モーダスポネンス以外の割引ルールもマスターしているかどうかをテストします。彼らの推論能力は次の2つの方法でテストされます：深度と幅の一般化では、インコンテキストの例よりも長い証明に対する推論が行われます。構成的一般化では、1つの証明で多くの割引ルールを使用します。彼らの研究によると、基本的な例を提示することで、論理的な推論タスクはインコンテキストの学習から最も利益を得ることができます。モデルが適合しすぎないようにするためには、インコンテキストの例に、証明において未知の割引の原則（例：ケースによる証明や反証による証明など）が含まれる必要があります。さらに、これらの例には迷彩要素も含まれている必要があります。研究結果によると、CoTはLLMsにおける組成的証明へのOOB推論を引き起こすことができます。これらのLLMsには、スケールとトレーニング目標が異なるGPT-3.5 175B、PaLM 540B、LLaMA 65B、FLAN-T511Bが含まれています。この発見は驚くべきものであり、LLMsには組成的一般性がないとする文献の豊富さを考えると意外です。ICLは、インコンテキストのサンプルに対する監督学習とは異なる方法で一般化します。テスト例と同じ分布からのインコンテキストの例を与えることは明らかに悪影響です。たとえば、インコンテキストの例に特定の割引ルールが組み込まれている場合、研究者は時折、組成的証拠へのより高度な一般化が見られました。事前学習では、モデルに仮説的なサブプルーフを作成させることはありません。具体的な例がないと、LLMsは特定の割引ルール（例：ケースによる証明や反証による証明など）を一般化することはできません。モデルのサイズとパフォーマンスの関係は弱いです。指導の調整とより長い事前学習により、より小さなモデル（最小ではなく比較可能なもの）がより大きなモデルと競合することができます。 ICLとCoTのトリガリングプロセスをさらに理解するために、研究者は今後の調査において重要な領域に注目しています。彼らは、最良のインコンテキストの例が、テスト例自体とは異なる分布から得られることを発見しました。ベイズ推論と勾配降下はこれを考慮していません。彼らは、テストケースがやや洗練されているにもかかわらず、よりシンプルな例がより良く機能するかどうかを調査することに興味を持っています。具体的なインスタンスからの外挿をさらに特徴づけるためには、追加の研究が必要です。

「Amazon ComprehendのためのPDFの事前ラベル付けを自動化する」

「Amazon Comprehend」はテキストデータから洞察を得るための事前トレーニング済みおよびカスタムAPIを提供する自然言語処理（NLP）サービスですAmazon Comprehendのお客様は、位置、人名、日付など、ビジネスに特有の興味のあるエンティティを抽出するためのカスタムなる名前エンティティ認識（NER）モデルをトレーニングすることができますカスタムモデルをトレーニングするには、[...]

「23andMeにおける複数の個人情報漏洩」

「盗まれた遺伝子データがテスト会社に対する集団訴訟につながる」

「Forza Horizon」がGeForce NOWにレースを展開」

このGFN Thursdayは、Microsoft Studiosの最新のForza Horizonゲームでタイヤを焼き尽くします。PC Game Passでチェックしてみてください。さらに、最新のメンバーシップバンドルでクラウドゲーミングのギフトを贈りましょう。このバンドルには、6ヶ月のGeForce NOW Ultimateメンバーシップの購入で無料の3ヶ月のPC Game Passサブスクリプションが含まれています。これは13の新しいゲームがGeForce NOWのライブラリに参加するエキサイティングな週の一部です。ズームズームプレイグラウンドゲームズとMicrosoft StudiosのForza Horizon 4およびForza Horizon 5にドライバーシートに飛び乗ってください。評価の高いオープンワールドレーシングゲームで、ダイナミックな天候と季節が最も経験豊富なドライバーですら大成功または大失敗にすることができます。フォルツァクラウド。美しい歴史あるイギリスを舞台にForza Horizon 4でレースを繰り広げましょう。単独で乗り出すか、オンラインで世界中のプレイヤーと共有のオープンワールドでチームを組めます。Horizonカーロスターの450台以上の車を収集、改造、運転し、レースやスタント、創造、探索をしてHorizonのスーパースターになりましょう。…