OpenAIのLLMの支配を覆すことを目指す挑戦者：XLSTM

OpenAIのLLMを覆す挑戦者：XLSTM

人工知能は、ヨーゼフ・”セップ”・ホヒライター教授が言語モデルの競争に新たな挑戦者を発表する中、激しい戦いを目撃しています。LSTMは、ヨーゼフ・ホヒライター博士とユルゲン・シュミットフーバーの発明により、ニューラルネットワークを革新し、精度の向上につながりました。しかし、ホヒライター教授は、LSTMの後継者である「XLSTM」という隠された存在を明かし、OpenAIの言語モデルの支配を崩すことを目指しています。XLSTMの画期的な機能により、自己回帰型言語モデリングの支配をめぐる争いは激化しています。

この挑戦者がどのように人工知能の景観を再定義し、OpenAIを退位させるかを探ってみましょう。

LSTM：言語モデルのゲームチェンジャー

長短期記憶（LSTM）は、言語モデルの性能を大幅に向上させる画期的なニューラルネットワークモデルとして登場しました。ヨーゼフ・ホヒライター博士とユルゲン・シュミットフーバーによって90年代後半に開発され、シーケンス解析と時系列予測において大きな進歩をもたらしました。

詳細はこちら：LSTMとは？長短期記憶の紹介

• 「AIと産業のデジタル化の時代に、開かれたUSDに開発者が注目」 Note OpenUSD refers to an open-source software library called USD (Universal Scene Description), which is commonly used in computer graphics and animation.
• 「AIがクリーンエネルギーの未来を支える方法」
• 「REPLUG」をご紹介しますこれは、凍結された言語モデルと凍結/調整可能なリトリーバを組み合わせた、検索増強型言語モデリング（LM）フレームワークですこれにより、GPT-3（175B）の言語モデリングの性能が6.3%向上します

XLSTMの紹介：隠された後継者

機械学習界からの最新ニュースによれば、ヨーゼフ・ホヒライター教授の新作、XLSTMが明らかになりました。まだ一般には公開されていませんが、XLSTMはLSTMの遺産を引き継ぎ、自己回帰型言語モデリングの景観を革新することになるでしょう。

OpenAIを王座から追い落とす探求

ホヒライター教授のチームは、LSTMと結合した小規模データセットを使用して、あらゆるトランスフォーマーに学習させるために献身的に取り組んでいます。究極の目標は、OpenAIの人気言語モデルであるGPTの成果を超え、自己回帰型言語モデリングにおけるトップの座を獲得することです。

また、こちらもご覧ください：GPT-3から将来の言語モデルへ

ChatGPTでのOpenAIの名声の上昇

サム・アルトマンによって設立されたOpenAIは、そのチャットボットChatGPTで世界中のユーザーを魅了し、2024年までに1億ドル以上の収益を上げることが報告されています。これにより、AI市場での地位を確固たるものにしています。

LSTMの言語モデル以外での多様性

LSTMの成功は、言語モデルにとどまらず、DeepmindのStarcraft 2やOpenAIのDota 2などの強化学習の応用においても効果を発揮しました。タンパク質の配列解析や自然災害の予測など、さまざまな分野でその多様性が輝きました。

次のフロンティアとしての言語

ホヒライター教授は、人間が創造した言葉が現実世界の対象物の抽象化を提供するため、言語に焦点を当てることが重要だと考えています。AIが独自の概念と説明を発明する能力には、大きな潜在能力があり、AIの開発に新たな地平を切り拓く可能性を秘めています。

モデルの戦い：LSTM vs. Transformers

トランスフォーマーは非常に人気がありますが、ホヒライター教授は、LSTMがエンジニアリングタスクにおいて重要な役割を果たすと主張しています。従来のアーキテクチャとのユニークな相互作用は、革新のための興味深い機会を提供します。

トレーニングデータの複雑さを乗り越える

大規模言語モデルのトレーニングデータに関する秘密主義は、議論の的となっています。ホヒライター教授は、不適切なコンテンツのないデータセットを作成することの難しさを強調し、LAIONイニシアティブなどの規制ガイドラインが予想される中、AI生成コンテンツに関するルールの必要性を指摘しています。

積み上がる非難

MidjourneyやChatGPTなどの生成的AIツールが懸念を引き起こす中、コメディアンのサラ・シルバーマンなどの批評家も言語モデルとその出力の影響に疑問を投げかけています。

詳細はこちら：2023年にジェネレーティブAIを学ぶための最善のロードマップ

法的な曖昧さの中のAI

世界中の規制当局がAI言語モデルの法的な複雑さに取り組む中、ホヒライター教授は、責任ある倫理的な使用を確保するために、AI生成コンテンツの規則が必要であると強調しています。

また読む：EUのAI法によってAI規制のグローバル標準が設定される

私たちの意見

XLSTMの導入により、ヨーゼフ・ホッヒライター教授は自己回帰言語モデリングの領域での壮大な戦いの舞台を設けました。したがって、AI技術の進歩に伴い、OpenAIのような企業は将来を再定義しようとする困難な課題に直面します。責任ある革新的なAIの利用に向けた探求は、産業がAIの課題や論争を乗り越える中で続きます。それにより、エキサイティングで変革的な未来を約束します。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!