イノベーションと持続可能性のバランス:ジェネラティブAIの環境への影響を解明する

イノベーションと持続可能性の調和:ジェネラティブAIが環境に与える影響を明らかにする

言語モデルと持続可能なソリューションの炭素フットプリントを詳しく見てみましょう。

Credits Kohji Asakawa from Pixabay

フランスの団体Data for Goodは、生成的AIに関連する社会的および環境問題を探求した白書を公開しました。私は特に、倫理的な側面よりも少なく語られている言語モデルの環境への影響に興味がありました。以下に私の主な学びを紹介します。

要約

  • 文脈: 世界のリーダーたちは 2050年までに温暖化を1.5°C以内に抑えるために、2050年までに排出量を2020年から2030年までに43%削減することを公約しました。しかし、デジタル空間では、年間2%から7%に増加していることがわかっています。
  • GPT-3のトレーニングは、CO2換算で2200トンのCO2を排出しました — パリからニューヨークへの往復航空便と同等です。
  • 1300万人のユーザーがいる場合、ChatGPTの月間利用量は10,000トンのCO2に相当します。もしそれが今日誰もが使用した場合、フランス/英国の個人の年間炭素フットプリントの0.1%に寄与し、2050年の目標炭素フットプリントの0.5%になります。
  • GPT-4に依存したChatGPT+の影響は10倍から100倍になる可能性があります,現在の年間炭素フットプリントに10%を追加するか、2050年の目標フットプリントの50%になる可能性があります。
  • このようなモデルの使用の影響を軽減する方法はたくさんあります: 理性的に使用し、環境性能が証明されたクラウドサービスを選択することです。
イギリス市民の年間炭素フットプリント

背景

あらゆるものの環境への影響を評価するために、その炭素フットプリントを見積もることができます。炭素フットプリントは、個人、組織、または製品によって直接および間接的に引き起こされる温室効果ガスの総排出量を、二酸化炭素(CO2e)のトン単位で表します。具体的には、平均的な年間炭素フットプリントは、英国ランの1人当たり約8〜13トン、アメリカでは21トン、世界全体では6トンです。現在のフットプリントを10トンと見なします。

いくつかの例(出典付き):

地球の気温上昇を2度以下に抑えるためには、2050年までに一人当たりのグローバルな炭素排出量を2トンに減らすことを目指す必要があります。80%から90%の排出削減はまだまだ多くの作業が必要ですし、効率改善を上回るデジタルサービスの需要増加もお手伝いしていません。では、生成AIはこの方程式にどのように適合し、デジタルの進歩と環境目標を一致させるためにどのような対策をとることができるのでしょうか?

訓練の影響:

Credits Victor Freitas from Unsplash

訓練フェーズでは、言語モデルに選別されたデータを与え、それを学習させて私たちの要求に答える能力を持たせます。

この研究では、2つの大型言語モデルを分析しました:1. オープンソースのBloom、2. OpenAIの専用GPT-3

主な結果:- Bloomの炭素フットプリントは、初めに30トンと推定されていましたが、包括的な分析の結果、120トンに修正されました。- GPT-3の炭素フットプリントは、推測で2200トンであり、パリからニューヨークへの往復便1600便に相当します。

多くのユーザーに広く使用されるため、これらのモデルの訓練コストが高くなるのは問題ないという意見が一般的です。

予測の影響:

Credits Fitsum Admasu from Unsplash

予測は機械学習において、訓練済みモデルをライブデータに対して予測を行う場合のことを指します。ここではChatGPTの実行の影響について見ていきます。

Chatgptが1300万人のアクティブユーザーが平均して15のリクエストを行っていると仮定すると、月間の二酸化炭素排出量は1万トンになります。そして、重要な学びは、これが訓練の影響よりもはるかに大きいということです。

1人当たりの追加年間炭素排出量は、12か月×1万トン÷1300万ユーザー=1年あたり1人当たり9キロの二酸化炭素に相当し、現在の年間平均炭素排出量の0.1%または目標の炭素排出量の0.5%になります。

しかし、もしもその人がChatGPTにGPT-4を追加で使用した場合はどうなるでしょうか? GPT-4の炭素フットプリントはGPT-3の10倍から100倍大きくなります。このフットプリントは、フランス市民の炭素フットプリントの10%(減少目標に取り組んでいる場合は2倍)に相当し、2050年の目標炭素フットプリントを考慮すると50%になります。それは困ったことですね。

そしてもし、いつかあなたの生活のあらゆるアプリケーションとのすべてのインタラクションが言語モデルに対するリクエストになったらどうなるのでしょうか? 恐ろしい考えです。

良いニュースは、gpt4 APIの使用は非常に高額なため、ユーザーが1日に15回のリクエストを行うことはできません。ユーザーが1か月100ドル以上の定期購読料金を支払う覚悟がない限り、私が開発中の製品(瞑想のためのパーソナルアシスタント)のターゲット市場も支払いを拒否します。そして、小規模ビジネスだけでなく、GoogleやMicrosoftもGPT4と同じサイズのモデルで検索エンジンを置き換えることはできません。それはクエリのコストを100倍に増やすためです。

おすすめ

以下はおすすめです:

  • 冷静さを保つ:ChatGPT-4でITプロジェクト全体を置き換えることは誘惑されるかもしれませんが、代わりにプロジェクトの有用性、言語モデルを使用する真の必要性、それを実際に必要とする特定のケースに制限して使用することを考えるべきです。できるだけGPT-4よりもはるかに小さなモデルを使用してください。ChatGPT+を使用する前に2度考えましょう。
  • トレーニングと使用の最適化:この点では、テクニックは多岐にわたり、常に進化しています。データサイエンティストは…コストを削減するためにそれらを既に使用するべきです。主に、インフラの使用を減らすことによって、電力消費量、つまり炭素排出量を減らします。要するに、必要な場合にのみモデルをトレーニングし、トレーニングする場合はリソースの浪費を避けるために計画し、必要な満足のいく最小のモデルを使用します。
  • サーバーをホストするトップの国を選択する:その国のエネルギーの炭素排出量に基づいて。ここでフランスの誇りが登場します:我々の主に原子力の炭素排出量はアメリカのそれと比べて7倍少ないです。ただし、皆さんが皆ここに言語モデルをホストし始めると、私たちはおそらく親しい隣人から石炭エネルギーを輸入するでしょう 🔥。
  • トップのクラウドサービスを選択する:その環境性能に基づいて(これらのデータは場合によっては公開されており、それ以外にも https://mlco2.github.io/impact/ のような測定/推定ツールがあります)。サーバーを長期間使用するクラウドサービスを優先し(ただしハイパースケーラーは通常、ハードウェアを4年以上保持しません)、共有レベルの高いデータセンターを使用します

自分の影響を減らすことに興味ありますか?

個人または企業である場合、持続可能な道へのガイドをするためのリソースと専門家が利用可能です。

個人レベルでの対策:- 炭素排出量を評価したい場合、オンラインには多くのツールがあります。個人的には、私の炭素排出量を計測することは目を覚まさせ、ポジティブな影響を与える方法を探求するきっかけになりました。UK在住の場合は、https://footprint.wwf.org.uk/ をチェックしてください。- 気候変動の基本科学について3時間のクイックコースを取得するには:https://climatefresk.org/行動可能な対策とそれがどれだけ炭素排出量を減らすかを調べるための別の3時間のワークショップ:https://en.2tonnes.org/

企業レベルでの対策:多くの企業がこれらの課題を探求しています。以下は彼らができることです:

  • 従業員の教育(上記で提案されているワークショップを使用)
  • オーディットを実施し、自社の炭素排出量を測定
  • ESG(環境、社会、企業統治)スコアを改善する戦略を構築

私は最近出会った素晴らしい人々、Marine LoiselさんBenoit Durandさんから、ToovaluWavestoneのすばらしい研究について聞きました。彼らの取り組みをチェックしてください!

もし私の見積もりに誤りがあった場合や、考えを追加したい場合はコメントしてください。興味深いと思った場合は、意見を共有してください。

🙌 この記事を読んでいただき、ありがとうございます。有益な情報になれば幸いです!Thibaut、Léo、Benoit、Dianeには、この記事に対する貴重なフィードバックと追加のために感謝します 🙏。

もしもあなたがジェネラティブAIや責任ある機械学習について最新情報を知りたい場合は、Linkedinで私をフォローしてください👋。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more