ChatGPTのクエリごとのエネルギー使用量

ChatGPTのエネルギー使用量

ChatGPTが1つの質問に答えるためにどれくらいの電力を使用するのか?

Photo by Andrey Metelev on Unsplash

この記事では、ChatGPTのクエリごとの電力消費の範囲を示し、他の2つの大規模言語モデル(LLM)のエネルギー消費と比較します。

これには2つの理由があります:

まず第一に、組織がChatGPTが1つの質問に答えるためにどれくらいの電力を必要とするかを知っていれば、ChatGPTやOpenAIのLLM APIなどの類似サービスの使用に関連する炭素足跡をおおよそ推定することができます。

これは、50,000を超えるヨーロッパの企業にとって非常に重要になる可能性があります。なぜなら、今後の企業の社会的責任指令(CSRD)により、経営報告書でスコープ3の排出量を開示することが求められるからです[1]。クラウドコンピューティングはスコープ3と見なされるため、ChatGPTなどのサービスの使用はスコープ3に該当すると予想されます[2]。この記事がChatGPTや類似サービスからの組織のスコープ3排出量を推定する方法についてのヒントを提供できることを願っています。

また、ChatGPTのクエリごとのエネルギー使用量を調べることが興味深いもう一つの理由は、個人がChatGPTの総電力消費量や炭素足跡の推定値を算出することができるようになるからです。そのため、このブログ投稿が他の人々が同様の研究を公開することに影響を与えることを願っています。

この記事の残りの部分では、「クエリ」と「リクエスト」という用語が同じ意味で使用されます。

VoAGIのメンバーとして、あなたの会費の一部があなたが読む作家に寄付され、すべてのストーリーに完全アクセスできます…

kaspergroesludvigsen.medium.com

ChatGPTのクエリごとの電力消費を推定するための方法論

このセクションでは、ChatGPTのクエリごとの電力消費を推定するために使用された方法論を紹介します。推定は2つの異なる方法に基づいています:

  1. ChatGPTがおそらく実行されているハードウェアの総エネルギー消費量を推定し、1日のクエリ数で割る方法
  2. 報告された値を使用する方法…

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

人工知能

キャルレールの最高製品責任者、ライアン・ジョンソンへのインタビューシリーズ

ライアンは、初期のスタートアップからフォーチュン100の組織まで、多様なテクノロジーと製品開発のリーダーシップ経験を15年...

人工知能

ムーバブルインクのCEO兼共同創設者であるヴィヴェク・シャルマ氏についてのインタビュー・シリーズ

ビヴェクは2010年にムーバブルインクを共同設立し、急速な成長を遂げながら、600人以上の従業員を擁し、世界有数の革新的なブ...

データサイエンス

「David Smith、TheVentureCityの最高データオフィサー- インタビューシリーズ」

デビッド・スミス(別名「デビッド・データ」)は、TheVentureCityのチーフデータオフィサーであり、ソフトウェア駆動型のス...

人工知能

「コマンドバーの創設者兼CEO、ジェームズ・エバンスによるインタビューシリーズ」

ジェームズ・エバンズは、CommandBarの創設者兼CEOであり、製品、マーケティング、顧客チームを支援するために設計されたAIパ...

人工知能

「Zenの共同創設者兼CTO、イオン・アレクサンドル・セカラ氏によるインタビューシリーズ」

創業者兼CTOであるIon-Alexandru Secaraは、Zen(PostureHealth Inc.)の開発を牽引しており、画期的な姿勢矯正ソフトウェア...

人工知能

「マーシャンの共同創設者であるイータン・ギンスバーグについてのインタビューシリーズ」

エタン・ギンズバーグは、マーシャンの共同創業者であり、すべてのプロンプトを最適なLLMに動的にルーティングするプラットフ...