『TiDE:トランスフォーマーよりも打ちのめす「恥ずかしく」シンプルなMLP』

『TiDE:恥じることなくシンプルな魅力があるMLP』

TiDEの深い探求、Dartsを使用した実装、DeepAR(Transformerアーキテクチャ)との実際のユースケースの比較

産業が進化し続ける中で、正確な予測の重要性は、電子商取引、医療、小売り、農業など、どの業界でも議論の余地のない資産となっています。次に何が起こるかを予見し、将来の課題に対応するために適切に計画を立てることの重要性は、競争相手よりも先を行き、利益率がきつく、顧客がこれまで以上に要求的な経済状況で繁栄することができます。

Transformerアーキテクチャは、過去数年間、人工知能の中で注目されてきた話題であり、特に自然言語処理(NLP)での成功があり、普通のAI愛好家であろうとなかろうと、誰の関心を引いたかに関係なく、ChatGPTなど、最も成功したユースケースの一つです。しかし、NLPだけでなく、コンピュータビジョンでも、Stable Diffusionとその派生物と共に、Transformerが最新のソリューションを上回ることが示されています。

しかし、Transformersは時系列の最新モデルを上回ることができるのでしょうか?時系列予測のためにTransformerを開発するための多くの試みが行われてきましたが、長期の予測においては、シンプルな線形モデルがいくつかのTransformerベースのアプローチを上回ることがあります。

この記事では、TiDEというシンプルなディープラーニングモデルを探求し、長期予測でTransformerアーキテクチャを超えることができることを説明します。また、DartsというPythonの予測ライブラリを使用して、Walmartのデータセットを使用して週次の売上を予測するためのTiDEのステップバイステップの実装を提供します。最後に、私の会社の実際のユースケースでTiDEとDeepARのパフォーマンスを比較します。

図1:Transformerを上回る恥ずかしく単純なMLPとしての新しい予測モデルTiDE(出典)

いつも通り、コードはGithubで利用可能です。

時系列密なエンコーダーモデル(TiDE)

TiDEは、長期予測において最新のTransformerモデルを上回ることを示した革新的な時系列エンコーダーデコーダーモデルです[1]。これは、静的共変量(例:製品のブランド)および動的共変量(例:製品の価格)を使用できる多変量時系列モデルです…

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more