根據(jù)最近的一項(xiàng)研究，我們試圖使AI模型的功能越精確，其碳排放量就越大 - 某些提示產(chǎn)生的二氧化碳的碳含量比其他提示高出50倍。

諸如Anthropic的Claude，OpenAI的O3和DeepSeek的R1之類的推理模型是高級大語言模型（LLMS），與早期版本相比，分配了額外的時(shí)間和計(jì)算資源以提供更準(zhǔn)確的響應(yīng)。

但是，儘管取得了令人印象深刻的結(jié)果，但在解決複雜問題方面，這些模型也表現(xiàn)出嚴(yán)重的局限性?，F(xiàn)在，研究人員發(fā)現(xiàn)了另一個(gè)缺點(diǎn) - 他們的碳足跡。他們的發(fā)現(xiàn)於6月19日發(fā)表在《通訊期刊》雜誌上。

研究負(fù)責(zé)人Maximilian Dauner說：“查詢訓(xùn)練有素的LLM的環(huán)境影響受其推理方法的嚴(yán)重影響，其明確的推理方法可顯著增加能源使用和碳排放?！?“我們觀察到，基於推理的模型發(fā)出的co co級最多比為較短答案優(yōu)化的模型高出50倍?！?/p>

在響應(yīng)提示時(shí)，LLMS通過將其分為令牌來處理語言 - 單詞段 - 在由神經(jīng)網(wǎng)絡(luò)處理之前轉(zhuǎn)換為數(shù)值序列。這些網(wǎng)絡(luò)是使用確定出現(xiàn)特定模式可能性的訓(xùn)練數(shù)據(jù)來完善的。基於這些概率，它們會產(chǎn)生響應(yīng)。

為了提高準(zhǔn)確性，推理模型採用一種稱為“經(jīng)過思考鏈”的方法。這涉及將復(fù)雜的問題分解為較小的邏輯步驟，類似於人類如何解決同一問題。

相關(guān)： AI經(jīng)?！盎糜X”，但是有一種方法可以解決

註冊了《現(xiàn)場科學(xué)日報(bào)》，儘管如此，這些模型比標(biāo)準(zhǔn)LLM所需的精力要多得多，這可能會對希望實(shí)施它們的企業(yè)和用戶構(gòu)成經(jīng)濟(jì)挑戰(zhàn)。儘管現(xiàn)有關(guān)於擴(kuò)大AI使用的環(huán)境後果的研究，但不同模型之間碳足蹟?shù)闹苯颖容^仍然有限。

推理的成本

為了評估各種模型的批量排放，這項(xiàng)新研究背後的研究人員提出了1,000個(gè)問題，從多個(gè)主題到14個(gè)LLM。這些模型的規(guī)模從70億到720億個(gè)參數(shù)不等。

這些計(jì)算是使用NVIDIA A100 GPU上的Perun框架（評估LLM性能和功耗的評估）進(jìn)行的。然後，假設(shè)每個(gè)千瓦時(shí)產(chǎn)生480克CO? ，則團(tuán)隊(duì)將能耗轉(zhuǎn)化為Co?排放。

他們的發(fā)現(xiàn)表明，平均每個(gè)問題的推理模型平均產(chǎn)生了543.5個(gè)令牌，而簡潔模型僅37.7個(gè)令牌。這些額外的令牌意味著增加計(jì)算工作量，從而為更精確的推理模型帶來了更高的排放。

最準(zhǔn)確的模型是720億個(gè)參數(shù)Cogito模型，該模型正確回答了84.9％的基準(zhǔn)問題。但是，Cogito發(fā)射的CO?發(fā)出的CO?比旨在產(chǎn)生更短的答案的類似尺寸的模型高三倍。

Dauner說：“目前，我們觀察到LLM技術(shù)中準(zhǔn)確性和可持續(xù)性之間的獨(dú)特權(quán)衡?！?“沒有一個(gè)模型將排放量低於500克的同等含量（釋放的總溫室氣體）能夠正確回答1,000個(gè)問題的精度超過80％?！?/p>

以上是高級AI型號的CO＆＃8322;回答相同問題時(shí)的排放量比更常見的LLM的詳細(xì)內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！