ChatGPTのクエリごとのエネルギー使用量

ChatGPTのエネルギー使用量

ChatGPTが1つの質問に答えるためにどれくらいの電力を使用するのか?

Photo by Andrey Metelev on Unsplash

この記事では、ChatGPTのクエリごとの電力消費の範囲を示し、他の2つの大規模言語モデル(LLM)のエネルギー消費と比較します。

これには2つの理由があります:

まず第一に、組織がChatGPTが1つの質問に答えるためにどれくらいの電力を必要とするかを知っていれば、ChatGPTやOpenAIのLLM APIなどの類似サービスの使用に関連する炭素足跡をおおよそ推定することができます。

これは、50,000を超えるヨーロッパの企業にとって非常に重要になる可能性があります。なぜなら、今後の企業の社会的責任指令(CSRD)により、経営報告書でスコープ3の排出量を開示することが求められるからです[1]。クラウドコンピューティングはスコープ3と見なされるため、ChatGPTなどのサービスの使用はスコープ3に該当すると予想されます[2]。この記事がChatGPTや類似サービスからの組織のスコープ3排出量を推定する方法についてのヒントを提供できることを願っています。

また、ChatGPTのクエリごとのエネルギー使用量を調べることが興味深いもう一つの理由は、個人がChatGPTの総電力消費量や炭素足跡の推定値を算出することができるようになるからです。そのため、このブログ投稿が他の人々が同様の研究を公開することに影響を与えることを願っています。

この記事の残りの部分では、「クエリ」と「リクエスト」という用語が同じ意味で使用されます。

VoAGIのメンバーとして、あなたの会費の一部があなたが読む作家に寄付され、すべてのストーリーに完全アクセスできます…

kaspergroesludvigsen.medium.com

ChatGPTのクエリごとの電力消費を推定するための方法論

このセクションでは、ChatGPTのクエリごとの電力消費を推定するために使用された方法論を紹介します。推定は2つの異なる方法に基づいています:

  1. ChatGPTがおそらく実行されているハードウェアの総エネルギー消費量を推定し、1日のクエリ数で割る方法
  2. 報告された値を使用する方法…

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

人工知能

キャルレールの最高製品責任者、ライアン・ジョンソンへのインタビューシリーズ

ライアンは、初期のスタートアップからフォーチュン100の組織まで、多様なテクノロジーと製品開発のリーダーシップ経験を15年...

データサイエンス

2023年にAmazonのデータサイエンティストになる方法は?

ほとんどのビジネスは現在、膨大な量のデータを生成し、編集し、管理しています。しかし、ほとんどのビジネスは、収集したデ...

人工知能

「LeanTaaSの創設者兼CEO、モハン・ギリダラダスによるインタビューシリーズ」

モーハン・ギリダラダスは、AIを活用したSaaSベースのキャパシティ管理、スタッフ配置、患者フローのソフトウェアを提供する...

機械学習

3つの質問:大規模言語モデルについて、Jacob Andreasに聞く

CSAILの科学者は、最新の機械学習モデルを通じた自然言語処理の研究と、言語が他の種類の人工知能をどのように高めるかの調査...

データサイエンス

「2023年にデータサイエンスFAANGの仕事をゲットする方法は?」

データサイエンスは非常に求められる分野となり、FAANG(Facebook、Amazon、Apple、Netflix、Google)企業での就職は大きな成...

人工知能

ファイデムのチーフ・プロダクト・オフィサー、アルパー・テキン-インタビューシリーズ

アルパー・テキンは、FindemというAI人材の獲得と管理プラットフォームの最高製品責任者(CPO)ですFindemのTalent Data Clou...