Ironwood是谷歌最新的張量處理單元
報導稱，英偉達作為人工智能芯片主要供應商的地位可能會受到谷歌推出的專用芯片的威脅 像元 和 人擇的 谷歌正計劃在張量處理單元上花費數十億美元。
什麼是TPU？
人工智能行業的成功很大程度上取決於圖形處理單元（GPU），這是一種計算機芯片，可以同時執行許多並行計算，而不是像為大多數計算機提供動力的計算機處理單元（CPU）那樣一個接一個地執行。
顧名思義，GPU 最初是為了幫助計算機圖形和遊戲而開發的。 “如果我在空間中有很多像素，並且我需要旋轉它來計算新的相機視圖，那麼這就是許多不同像素的並行操作，”他說。 弗朗西斯科·康蒂 在意大利博洛尼亞大學。
這種並行執行計算的能力對於訓練和運行人工智能模型非常有用，這些模型通常使用涉及同時執行的大量數字網格的計算，稱為矩陣乘法。 “GPU 是一種非常簡單的架構，但它們非常適合表現出高水平並行性的應用程序，”Conti 說。
然而，由於 GPU 最初設計時並未考慮到人工智能，因此 GPU 將其執行的計算轉換到芯片上的方式可能會效率低下。 Conti 表示，張量處理單元 (TPU) 最初由谷歌於 2016 年開發，只是圍繞矩陣乘法進行設計，矩陣乘法是訓練和運行大型人工智能模型所需的核心計算。
今年，谷歌發布了 第七代 TPU 稱為 Ironwood它為該公司的許多人工智能模型提供支持，例如 Gemini 和蛋白質建模 AlphaFold。
對於人工智能來說，TPU 比 GPU 更好嗎？
從技術上講，TPU 被認為是 GPU 的子集，而不是完全不同的芯片 西蒙·麥金托什-史密斯 在英國布里斯託大學。 “他們專注於 GPU 專門用於人工智能訓練和推理的部分，但實際上它們比你想像的更類似於 GPU。”但他表示，由於 TPU 在設計時考慮了特定的人工智能應用，因此它們對這些工作的效率更高，並且可以節省數千萬或數億美元。
然而，這種專業化也有其缺點，Conti 表示，如果 AI 模型在各代之間發生顯著變化，它可能會使 TPU 變得不靈活。 “如果你沒有（TPU）靈活性，你就必須在數據中心節點的 CPU 上進行（計算），這會成倍地減慢你的速度，”Conti 說。
Nvidia GPU 傳統上具有的優勢之一是可以使用通用軟件來幫助人工智能設計人員在 Nvidia 芯片上運行代碼。 Conti 表示，TPU 首次問世時，它的存在方式與 TPU 不同，但現在這些芯片的使用變得更加簡單。 “使用 TPU，你現在可以做同樣的事情（就像使用 GPU 一樣），”他說。 “現在您已經啟用了它，很明顯可用性成為一個主要因素。”
誰在製造 TPU？
儘管谷歌首先推出了 TPU，但許多大型人工智能公司（稱為超大規模企業）以及小型初創企業現在都在開發自己的專用 TPU，其中包括亞馬遜，該公司使用自己的 Trinium 芯片來訓練其人工智能模型。
“許多超大規模企業都有自己的內部程序，GPU 如此昂貴的原因是供不應求，而且設計和構建自己的程序可能會更便宜，”McIntosh-Smith 說。
TPU將如何影響AI行業？
十多年來，谷歌一直在開發 TPU，但主要將這些芯片用於自己的人工智能模型。現在情況似乎正在發生變化，Meta 和 Anthropic 等其他大公司從谷歌的 TPU 中大量購買計算能力。麥金托什-史密斯說：“我們還沒有聽說過大客戶轉移的消息，但現在這種情況已經開始發生。” “他們足夠成熟，而且數量也足夠多了。”
他說，除了為大公司創造更多選擇之外，多元化對它們來說也具有良好的經濟意義。 “這也可能意味著你將來會從英偉達獲得更好的交易，”他說。
專案:
