有一個簡單的方法可以大幅降低人工智能功耗

僅今年一年，我們用於任務的人工智能模型就可以節省 31.9 太瓦時的能源，相當於五個核反應堆的輸出量。

蒂亞戈·達席爾瓦·巴羅斯 法國蔚藍海岸大學的 Dr. 和他的同事研究了使用生成式 AI 工具的 14 種不同任務，從文本生成到語音識別和圖像分類。

他們查看了公共排行榜，包括由機器學習中心 Hugging Face 主辦的排行榜，以了解不同模型的表現。模型在推理過程中的能源效率（當人工智能模型產生答案時）由名為 CarbonTracker 的工具測量，模型的總能源消耗是通過跟踪用戶下載來計算的。

“根據模型的大小，我們估算了能源消耗，並在此基礎上，我們可以嘗試做出預測，”達席爾瓦·巴羅斯說。

在所有 14 項任務中，研究人員發現，從每項任務的性能最佳模型切換到最節能模型，能源消耗減少了 65.8%，但輸出的有用性降低了 3.9%——他們認為這是人們可以接受的。

由於有些人已經在使用最經濟的型號，因此現實世界中的人們從高性能型號切換到最節能的型號可以使總體能源消耗減少 27.8%。一名團隊成員表示：“我們對可以節省的資金感到驚訝。” 弗雷德里克·吉羅爾 在法國國家科學研究中心。

然而，達席爾瓦·巴羅斯表示，這需要消費者和人工智能公司做出改變。 “即使我們失去了一些性能，我們也應該考慮運行更小的模型，”他說。 “而公司在開發模型時，共享一些有關模型的信息非常重要，這些信息可以讓用戶了解和預測模型是否消耗過多的能量。”

一些人工智能公司正在通過稱為模型蒸餾的過程來降低其產品的功耗，即使用較大的模型來訓練較小的模型。他說，這已經產生了重大影響 克里斯·普里斯特 在英國布里斯託大學。例如，谷歌最近提起訴訟 能效提升33倍 去年在雙子座。

然而，允許用戶選擇最有效的模型“不太可能限制數據中心電力的增長，至少在當前的人工智能泡沫中，正如作者所建議的那樣。” 神父說道。 “降低每次提示的功率可以讓更多的客戶通過更先進的推理選項更快地得到服務，”他說。

他說：“使用較小的模型可能會在短期內降低能耗，但在對未來做出任何有意義的預測時，還需要考慮許多其他因素。” 薩莎·盧恰尼 在擁抱的臉。她警告說，“必須考慮到使用量增加等反彈效應，以及對社會和經濟的更廣泛影響”。

盧西亞尼指出，個別公司缺乏透明度意味著該領域的任何研究都依賴於外部估計和分析。她說：“我們需要人工智能公司、數據中心運營商和政府提高透明度，才能進行這種更複雜的分析。” “這使得研究人員和政策制定者能夠做出明智的預測和決策。”