Search Results AI

「ジェネレーティブAI 2024年とその先：未来の一瞥」

「ジェネレーティブAIファブリックの台頭から倫理が新しいNFRとなるまで、ジェネレーティブAI技術が2024年にもたらすものを探ってみましょう」

『Google AI Researchが効率的な連成振動子のシミュレーションに革新的な量子アルゴリズムを導入』

古典力学は、物体の運動、それに作用する力、およびその活動に関連付けられたエネルギーについて扱います。量子力学は、物質とエネルギーの振る舞いを原子スケールと亜原子レベルで記述する物理学の基本理論です。量子コンピュータは、古典コンピュータよりも指数関数的に速く問題を解決することを約束しています。しかし、ショアの因数分解アルゴリズムや量子シミュレーションなどの、これほどの劇的なスピードアップを示す例はほんの一握りです。古典力学の問題は、特に結合した調和振動子のシミュレーションにおいて計算上の障壁を持っています。質量がばねで結ばれた系は、この振動子の一つの群の変位が系全体で連続的な振動を引き起こす一般的な例です。質量の数が増えるにつれて、これらの相互に関連する運動をシミュレートする複雑さも増します。複雑さの課題は、長い間古典力学のシミュレーションを妨げ続けてきました。そのため、研究者たちは、すべての質量とばねの位置と速度を量子ビット系の量子波動関数に符号化するマッピング技術を考案しました。量子ビット系のパラメータの指数関数的な増加を利用して、研究者たちは、質量の情報を効率的に符号化するにはおおよそ log(N) 個の量子ビットが必要であることを見つけました。これは、量子ビット系の量子波動関数を記述するパラメータの数が、量子ビットの数に指数関数的に増加するためです。このパラメータの指数関数的な成長の利用により、量子ビット系の波動関数の進化によって後でボールとばねの座標が決定されるため、このようなシステムをシミュレートするために必要なリソースは、単純な古典的なアプローチに比べてはるかに少なくて済みます。研究者たちは、量子アルゴリズムで効率的に解決可能な任意の問題を、結合した振動子ネットワークを含む状況に変換できることを示しました。この発見により、量子コンピュータの使用方法に新たな可能性が生まれました。また、古典的なシステムについて考えることにより、量子アルゴリズムの新しい開発方法も提案されました。研究者たちは、古典力学と量子力学の動力学が等価であることを証明するだけでなく、この研究は指数的なスピードアップを提供するさらなる量子アルゴリズムの開発への道を切り開いています。この革新的な量子アルゴリズムにより、計算上要求の厳しい問題を解決する能力が革命的に向上しました。彼らは、古典的な波が量子環境でどのように伝播するかを理解することにより、科学者が難解な問題を効果的に解決するための新たな可能性を開くことができると述べています。まとめると、この研究は古典力学と量子コンピューティングを組み合わせる重要な一歩となります。発見された量子アルゴリズムは、効率的なシミュレーションによる結合した古典的調和振動子を行う強力なツールを提供します。この革新的な発見の可能性が広がるにつれて、量子コンピューティングの範囲も拡大しています。

一緒にAIを学ぶ – Towards AI コミュニティニュースレター第4号

おはようございます、AI愛好者の皆さん！今号では、Activeloopと共同で取り組んでいる大規模な言語モデル（LLM）のパフォーマンス向上に関する新しいビデオを共有しますこのビデオではさまざまな…

グラフ、分析、そして生成AI グラフニュースレターの年

グラフ、分析、および生成AIグラフとAIが結びつくさまざまな方法と、業界と研究のニュースについての説明

DatategyとMath＆AI Instituteの研究者、大規模言語モデルのマルチモダリティの未来に関する展望を提供

フランスのDatategy SASとトルコのMath＆AI研究所の研究者は、最近注目されているマルチモーダルアーキテクチャに対する1つの可能な方向性を提案しています。彼らの研究の中心的なアイデアは、よく研究された固有表現認識（NER）の定式化が、マルチモーダルな大規模言語モデル（LLM）の枠組みに組み込まれる可能性があるということです。最近、LLaVA、Kosmos、またはAnyMALなどのマルチモーダルアーキテクチャが注目を集め、実践でその能力を示してきました。これらのモデルは、テキスト以外のモダリティ（画像など）からデータをトークナイズし、外部のモダリティ固有のエンコーダを使用してそれらを共通の言語空間に埋め込むことができます。これにより、アーキテクチャはテキストと交互に混在したマルチモーダルデータを調整する手段を提供できます。この論文の著者は、この一般的なアーキテクチャの選好が将来的にはさらに野心的な設定に拡張される可能性があると提案しています。彼らはこれを「オムニモーダル時代」と呼んでいます。NERの概念に何らかの形で関連する「エンティティ」は、このようなアーキテクチャのモダリティとして想像することができます。たとえば、現在のLLMは完全な代数的推論を導き出すことが難しいとされています。特定の数学に優しいモデルや外部ツールの使用に関する研究が進められているとはいえ、この問題への一つの展望は、量的な値をこのフレームワークのモダリティとして定義することかもしれません。また、暗黙的および明示的な日付と時間のエンティティは、特定の時間認知モダリティエンコーダによって処理できます。 LLMは地理空間の理解にも非常に苦労しており、「地理的に意識した」とは言えません。また、数値的なグローバル座標を適切に処理する必要があり、近接性と隣接性の概念は言語の埋め込み空間に正確に反映されるべきです。そのため、場所を特別な地理空間のモダリティとして組み込むことで、特別に設計されたエンコーダと共同トレーニングによってこの問題を解決することもできます。これらの例に加えて、最初に取り組むべき可能なエンティティは人、機関などです。著者たちは、この種のアプローチはパラメータ/非パラメトリックな知識のスケーリングとコンテキストの長さ制限の解決策を提供すると主張しています。複雑さと情報は数多くのモダリティエンコーダに分散されることができます。これにより、モダリティを介して更新された情報を注入する問題も解決するかもしれません。研究者たちは、このような潜在的なフレームワークの枠組みを提供し、エンティティ駆動の言語モデルの開発の約束と課題について議論しています。

少ないデータ注釈 + より多くのAI = 深いアクティブラーニング

人工知能（AI）モデルのトレーニングには、通常、大量のラベル付きデータが必要です。特に画像認識や自然言語処理などの複雑なタスクの場合、非常に高価で時間がかかることがあります。データの注釈付けは、砂浜で特定の一粒の砂を見つけるようなものです。時間と労力がかかります。従来の解決策には、人間の注釈者を雇ったり、クラウドソーシングプラットフォームを使用したりする方法があります。これらのオプションは高価で遅いことがあります。深層能動学習（DAL）は、能動学習と深層学習を組み合わせた技術です。能動学習はラベリングのための最も価値のあるデータポイントを選択するのに役立ち、深層学習はそのデータから複雑なパターンを学ぶのに役立ちます。未ラベルのデータの山から、写真や動画、テキスト文書などを選び出します。DALは、例えば画像の中のぼやけたオブジェクトや文書の中の普通でない文など、混乱したり興味深いものを選び出します。これらがモデルに最も学びをもたらすものです。 DALは、貴重なデータを見つけるためにユニークな戦略を使用します。例えば、モデルが自信を持てないデータや、全体のデータセットの異なる部分を表現するデータを探すかもしれません。 DALは、AIモデルのトレーニングに必要なデータを50%以上も削減することができます。これにより時間とコスト、労力を節約することができます。さらに、DALはAIモデルをより堅牢で適応性のあるものにすることができます。最も価値のあるデータに焦点を当てることで、モデルはより豊かで微妙なパターンを学び、未知のデータでより良いパフォーマンスを発揮し、予期せぬ状況に対処することができます。 DALはまだ進化中であり、克服しなければならない課題があります。特定のタスクとモデルに対してDALを微調整する必要があります。また、データの品質を評価し、データの選択と注釈の効率的な相互作用を確保するために改善された手段が必要です。しかし、DALの未来は明るいです。それはAIの開発を革新し、より速く、安価でアクセスしやすくする可能性があります。継続的な研究と開発により、DALは少ないデータを使用しながらAIのフルポテンシャルを発揮する鍵となるかもしれません。結論として、DALはAIの開発においてゲームチェンジャーです。少ないデータで強力なAIモデルをトレーニングする能力は、研究者、開発者、企業にとって貴重なツールです。DALが進化し続けるにつれ、自動運転車から医療診断まで、さまざまなアプリケーションで使用されることが予想されます。

「みんなのためのLLM：ランニングLangChainとMistralAI 7BモデルをGoogle Colabで」

『誰もが大規模言語モデルは、定義通り大規模であることを知っていますそして、それもつい最近までは高性能なハードウェアの所有者または少なくともクラウドアクセスのために支払った人々にのみ利用可能でした...』

このQualcomm AI ResearchのAIペーパーは、EDGIを公開しました：先進的なモデルベースの強化学習と効率的な計画のための画期的な不変拡散器

あらゆるところに対称性があります。物理学の普遍的な原則は、空間と時間の両方において成り立ちます。空間座標が変換、回転、時間的にシフトされると、対称性が現れます。さらに、システムは、いくつかの似ているまたは同等のアイテムが番号でラベル付けされた場合、そのラベルの置換に関して対称です。具現化エージェントはこの構造に直面し、多くの日常的なロボット活動が時間的、空間的、または置換シンメトリーを示しています。四足歩行の動作は、運動の方向に依存しません。同様に、ロボットグリッパーはラベルに関係なく、複数の同一のアイテムと接触するかもしれません。ただし、この豊かな構造は、ほとんどの計画および強化学習（RL）アルゴリズムに考慮される必要があります。十分なトレーニングを受けた後、明確に定義された問題に対して印象的な結果を示しているにもかかわらず、これらのアルゴリズムは頻繁にサンプリングの非効率性や環境変化への耐性の欠如を示します。研究チームは、RLアルゴリズムが対称性を理解していることでサンプル効率と耐性を向上させることが重要であると考えています。これらのアルゴリズムは、2つの重要な要件を満たす必要があります。まず、世界とポリシーモデルは関連する対称性グループについて同変である必要があります。これは、離散時間シフトZの部分群、空間対称性グループSE(3)の積集合グループ、および具現化エージェントの1つ以上の対象置換群Snです。第二に、実際の問題の解決のために、対称性グループの(一部の)緩やかな崩壊が可能であるべきです。ロボットグリッパーの目標は、空間の指定された位置にオブジェクトを移動することであり、これにより対称性グループSE(3)が崩壊します。同変RLの初期の試みは、この技術の潜在的な利点を明らかにしました。ただし、これらの作品は通常、Cnなどの小規模な有限対称群のみを考慮し、テスト中の仕事に応じてソフトな対称性の崩壊を許可することはありません。この研究では、Qualcommの研究チームが、Equivariant Diffuser for Generating Interactions (EDGI) と呼ばれるモデルベースの強化学習および計画のための同変方法を提案しています。EDGIの基礎要素は、研究チームが具現化された文脈で遭遇することを予想している、SE(3) × Z × Snという完全な積集合群に関して同変です。さらに、EDGIはテスト時に柔軟なソフト対称性の崩壊を許可します。彼らの方法論は、以前に研究者から提案されたDiffuserメソッドに基づいており、ダイナミクスモデルの学習とその内部での計画の課題に対処しています。Diffuserの主な概念は、状態-行動の軌跡のオフラインデータセットで拡散モデルをトレーニングすることです。このモデルからの1つのサンプルは、現在の状態に条件付けられて計画されます。彼らの主な貢献は、多様な表現データを許容し、空間的、時間的、および置換対称性の積集合群SE(3) × Z × Snについて同変な拡散モデルを可能にすることです。研究チームは、個々の対称性に作用する革新的な時間、オブジェクト、および置換レイヤー、および複数の入力表現を単一の内部表現に埋め込む革新的な方法を提案しています。クラス分類の案内と条件付けと組み合わせることで、計画アルゴリズムに含まれるテスト時のタスク要件によって対称性グループを柔軟に崩壊させることができます。研究チームは、ロボットのアイテムハンドリングと3Dナビゲーションの設定を使用して、EDGIの客観的な検証を示しています。研究チームは、訓練データが桁違いに少ない状況で、EDGIが低データドメインでの性能を著しく向上させ、最良の非同変ベースラインと同等のパフォーマンスを発揮することを発見しました。さらに、EDGIは以前に発見されていない配置にも効果的に適応し、環境の対称性変化に対して明らかに耐性があります。

自分のドキュメントで春のAIとOpenAI GPTが有用になるようにRAGを作成する

「RAGを使用して、Spring AIとOpenAI GPTを活用してドキュメント検索のエクスペリエンスを向上させる方法を発見しましょう自分自身のドキュメントをより役立つものにする方法を学びましょう」

AWS ジェネラティブ AI イノベーションセンターのアンソロポジック・クロード向けのカスタムモデルプログラムをご紹介します

2023年6月のローンチ以来、AWSジェネレーティブAIイノベーションセンターのストラテジスト、データサイエンティスト、機械学習エンジニア、ソリューションアーキテクトのチームは、世界中の何百もの顧客と協力し、彼らがジェネレーティブAIのパワーを活用したヘルプメイクしたソリューションを着想し、優先させ、構築するのを支援してきました顧客は私たちと密接に協力して、ユースケースを重視しました[...]

Learn more about Search Results AI - Page 2