変形者への鎮魂曲?

変態美に舞い降りる癒しの調べ

|パースペクティブズ| AI| 大規模言語モデル|

トランスフォーマーは、我々を人工汎用知能に導くモデルとなるのか、それとも置き換えられるのか?

写真:Stefany Andrade氏撮影、Unsplashより

トランスフォーマーは、人工知能の世界で6年間にわたり支配的な存在となり、人工知能のすべてのサブドメインで最先端の成果を収めてきました。自然言語処理(NLP)からコンピュータビジョン、音声、グラフまで、優れた性能を持つ専用のトランスフォーマーが存在します。

  • この分野はいつまで続くのでしょうか?
  • 本当にトランスフォーマーは最良のアーキテクチャなのでしょうか?
  • それは近い将来に置き換えられるのでしょうか?
  • その支配に対する脅威は何でしょうか?

この記事では、これらの疑問に答えを試みます。トランスフォーマーがなぜ成功し、どの要素が異なる領域での確固たる地位を築くことを可能にしたのかから始め、今でも無敵の支配力を持つのか、どの要素がその優位を脅かしているのか、そして潜在的な競合相手が存在するのかを分析します。

帝国の簡潔な歴史

写真:Markus Spiske氏撮影、Unsplashより

「すべての帝国は傲慢になる。それは彼らの本質である。」- エドワード・ラザフォード

帝国は必ず滅び、その際には歴史が遺した遺産によって判断される。- ノア・フェルドマン

「アテンションは全て必要です」は、今日の人工知能の基礎です。生成的AIの根底にあるのは、トランスフォーマーという一つの種子です。

トランスフォーマーは、元々RNNの並列化の欠如を解決し、シーケンス内の単語間の長距離関係をモデル化することを可能にすることを目的に設計されました。このアイデアは、モデルにシーケンスのどの部分が最も重要であるか(注意を払うべき箇所)を識別させるためのシステムを提供することで、機械翻訳の改善を図るためです。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more