Home 科學技術 AI芯片的架子非常龐大

AI芯片的架子非常龐大

96
0
AI芯片的架子非常龐大

十五年來,從2010年到2024年底,美國數據中心的數量 四倍。這 這是全世界的趨勢:現在或很快就會有更多、更大的數據中心。 建設項目數 根據數據中心認證和研究機構Uptime Institute的數據,過去四年總共申報了377個100兆瓦以上的中心。

但在我們環保主義者允許大型科技公司向計算能力更強的領域瘋狂競賽之前,讓我們停下來考慮另一個選擇:利用我們擁有的資源。我們能否改造現有的數據中心以滿足最新的技術需求?也許這座建築並不歇斯底里;而是也許我們擁有我們需要的所有設施。這裡進行了一些升級,那裡有一些新的服務器,一種新的油漆液,瞧——一個用舊外殼構建的人工智能數據中心。

“很多時間意味著推平建築物並從頭開始。”

我把這個想法告訴了數據中心專家,他們用很多話告訴我,不,我們現有的數據中心不能立即改造成為人工智能超級房屋。這個問題與你所站立的地面一樣物理:傳統數據中心無法承受最新人工智能技術的重量。放置計算機芯片或人工智能芯片的機架對於地板來說太重,並且在重量下會破裂。

Uptime Institute 首席技術官 Chris Brown 總結了情況:“我們可以對舊設備進行一些改造,但達不到這些人工智能工廠需要的程度。”他說,例如,小型數據中心的小型部門可以容納一家財富 500 強公司的小型人工智能工作負載。 “但很多時候,這意味著推平建築物並從頭開始,”布朗說。

人工智能機架是金屬櫃,裡面裝有成堆的金屬盒子,這些金屬盒子被稱為服務器,裡面裝有進行計算機或生成人工智能處理的芯片,存在重量問題。三十年前,布朗在數據中心的職業生涯剛開始時,機架平均重 400 到 600 磅。想想家用冰箱和小型三角鋼琴的重量。現在,行李架的重量通常為 1,250 磅到 2,500 磅,相當於灰熊到豐田普銳斯的重量範圍。但專門用於人工智能設備的機架屬於高端甚至更高端——布朗表示,人工智能機架的里程碑重量估計為 5,000 磅。

布朗說,額外的重量是由於電子設備塞在金屬架中造成的。 GPU 之間的差距會減慢數據傳輸速度,從而減慢人工智能模型訓練速度,浪費寶貴的計算能力,最終浪費金錢。最新的高密度機架擠滿了內存芯片(導致全球 RAM 供應下降)和數百到數千個 GPU。十年前,傳統計算機芯片工作負載平均每個機架 10 千瓦,而現在人工智能工作負載已增加 35 倍,達到每個機架 350 千瓦。他說:“他們將盡可能多的東西裝入每個機架,並將機架盡可能靠近地放置在一起,以最大限度地提高容量。”

更多的功率會產生更多的熱量,這些熱量會在著火或熔化芯片之前消散。吹過芯片的空氣被充滿液體的冷卻板取代,通常是有毒冷卻劑的水混合物。水每加侖重 8 磅多一點。並且不要忘記電纜。通常,10 到 35 個機架在數據中心內部排列成一排。為了提供足夠的功率,需要增加電纜或稱為母線槽的電纜狀銅板的直徑。 (想像一下用廚房水槽水龍頭滅火;最好從寬直徑消防軟管噴水。) 布朗說,現代母線槽每英尺重 37 磅。

“這就是所有的事情——所有處理器、所有內存的重量,你必須能夠運行 IT 設備,你必須運行你需要的所有冷卻硬件,”他說。布朗表示,傳統數據中心的架構無法勝任這項任務。許多房間都有高架地板,最高每平方英尺重約 1,250 磅。 穩定的 負載,他指出。他說,動態載荷,例如岩石被推入地面,需要更多的重量。

數據中心建設公司 Critical Facilities Group 總裁克里斯·麥克萊恩 (Chris McLean) 表示,即使加固舊中心的地板,其他幾何問題仍然存在。 邊緣。他從事數據中心設計已近二十年,期間機架的高度已從 6 英尺增至 9 英尺,增加了 3 英尺。 (佔地面積僅從 2 x 2 英尺增加到 2 x 3 英尺。)新的高度比幾年前的工業門框還要高。即使是貨運電梯也無法承受重型貨架的重量、它們在移動時所依靠的設備的重量以及人類的重量:“突然之間,你會遇到一個漂亮的多層牛肉電梯,”麥克萊恩說。

“過去幾年出現巨大增長的原因是人工智能正在把一切搞亂。”

大型科技公司正在建設新的數據中心,以配合他們日益推動人工智能主導地位的努力。當 OpenAI、微軟或其他公司在自己的人工智能數據中心綜合體中耗盡空間時,他們會在 CoreWeave、Digital Realty 或 Compass 等公司擁有的主機託管設施中租用空間,這些公司構建了新的以人工智能為中心的數據中心。 “過去幾年出現巨大增長的原因是人工智能正在推動一切,”布朗告訴 Uptime。

儘管大肆宣傳,生成式人工智能並不是唯一的計算類型,我們不要忘記一般計算機工作負載仍然存在。布朗說,事實上,非人工智能數據工作負載實際上正在增​​長。因此,傳統數據中心比以往任何時候都更加重要。麥克萊恩說,大學、醫院、中型公司和市政當局都必須繼續存儲他們的非人工智能數據文件,就像你仍然把模糊的照片放在一些雲提供商的服務器上一樣。 “所有這些人仍然需要舊的數據中心環境,”他說。 “它永遠不會消失。”

關注主題和作者 從這篇文章中可以在您的個性化主頁源上看到更多類似內容並接收電子郵件更新。


來源連結