最近の調査によると、AIモデルの機能を正確に行おうとすると、炭素排出量が大きくなります。

AnthropicのClaude、OpenaiのO3、DeepseekのR1などの推論モデルは、追加の時間とコンピューティングリソースを割り當てて、以前のバージョンと比較してより正確な応答を提供する高度な大きな言語モデル（LLM）です。

しかし、印象的な結果を達成したにもかかわらず、これらのモデルは複雑な問題を解決することに関して深刻な制限を実証しています?，F(xiàn)在、研究者は別の欠點、つまり実質的な二酸化炭素排出量を明らかにしています。彼らの調査結果は、6月19日にコミュニケーションのフロンティア誌に掲載されました。

「訓練されたLLMSのクエリの環(huán)境への影響は、推論方法に大きく影響され、明示的な推論方法はエネルギー使用と炭素排出量を大幅に増加させます」と、ドイツのHochschuleMünchen大學応用科學大學の研究者であるMaximilian Daunerは述べています。 「推論ベースのモデルは、より短い回答のために最適化されたモデルよりも最大50倍高いCO?を放出することを観察しました?！?/p>

プロンプトに応答するとき、LLMSはそれをトークンに分割することで言語を処理します - 単語のセグメントは、ニューラルネットワークによって処理される前に數(shù)値シーケンスに変換されました。これらのネットワークは、特定のパターンが表示される可能性を決定するトレーニングデータを使用して洗練されています。これらの確率に基づいて、それらは応答を生成します。

精度を向上させるために、推論モデルは「考え方」として知られる方法を採用しています。これには、人間が同じ問題を解決する方法と同様に、複雑な問題をより小さく論理的なステップに分解することが含まれます。

関連： aiは頻繁に「幻覚」しますが、それを修正する方法があります

それにもかかわらず、これらのモデルは標準のLLMよりもはるかに多くのエネルギーを必要とし、それらを実裝しようとしている企業(yè)やユーザーに経済的課題を生み出す可能性があります。 AI使用の拡大による環(huán)境への影響に関するいくつかの既存の研究にもかかわらず、異なるモデル間の二酸化炭素排出量の直接的な比較は限られたままです。

推論のコスト

さまざまなモデルからの排出量を評価するために、この新しい研究の背後にある研究者は、複數(shù)のトピックにわたって14 LLMに1,000件の質問を提起しました。モデルのサイズは70億から720億パラメーターまでさまざまでした。

これらの計算は、NVIDIA A100 GPUでPerunフレームワーク（LLMのパフォーマンスと消費電力を評価する）を使用して実施されました。その後、チームはエネルギー消費をCO?排出に翻訳しました。各キロワット時が480グラムのCO?を生成すると仮定します。

彼らの調査結果は、簡潔なモデルの場合は37.7トークンのみと比較して、質問ごとに平均543.5トークンを生成した推論モデルが生成されたことを示しています。これらの余分なトークンは、計算ワークロードの増加を意味し、より正確な推論モデルのためのより高いCO?排出をもたらしました。

最も正確なモデルは720億パラメーターCogitoモデルで、ベンチマークの質問の84.9％に正しく答えました。ただし、Cogitoは、より短い回答を生成するように設計された同様のサイズのモデルの3倍のCO?を放出しました。

「現(xiàn)在、LLMテクノロジー內の精度と持続可能性の間の明確なトレードオフを観察しています」とDauner氏は述べています。 「500グラム未満の排出量を維持したモデルはいずれも、1,000の質問に正しく答える際に80％以上の精度に達することができなかった」

以上が高度なAIモデルは、最大50倍以上のCO＆＃8322を生成します。同じ質問に答えるときの一般的なLLMよりも排出量の詳細內容です。詳細については、PHP 中國語 Web サイトの他の関連記事を參照してください。