Tenstorrent 執行長 Jim Keller 批評 NVIDIA Blackwell GPU 的 100 億美元研發成本過高，認為通過改變互連方式可大幅降低成本，但 Blackwell 晶片的需求仍然極高。
Jim Keller 認為 NVIDIA Blackwell 研發成本太高
Tenstorrent 的 CEO Jim Keller 近期對 NVIDIA 的 Blackwell GPU 提出有趣建議，他聲稱該公司本應採用一種替代的、更具成本效益的互連方法。
Tenstorrent 的 CEO Jim Keller 以他對科技產品的一些有趣看法而聞名。Jim 近期批評了 NVIDIA 在 Blackwell GPU 上的研發預算，聲稱該公司只需改變互連方法就可以節省數十億美元。
— Jim Keller (@jimkxa) April 11, 2024
就 Blackwell 的互連而言，NVIDIA 採用其第五代 NVLINK 互連技術。儘管 NVLINK 在頻寬、延遲和可擴展性方面相較於其他方法有顯著優勢，但由於其專有性質，它無法滿足任何其他製造商的硬體需求，因而落後。
此外，在業界動態中，NVLINK 被認為是一種高成本設計，這也是 Jim Keller 批評它的原因，特別是因為他提倡市場的開源思想，而 NVLINK 在這裡算是恰恰相反的作法。
在這種情況下的替代方案是乙太網路互連，會是一個更具成本效益的選擇，同時也打破 NVLINK 的專有狀態，最終提供一個更好的生態系統。但就性能資訊而言，乙太網路勢必需要努力趕上 NVIDIA 的 NVLINK 與 InfiniBand 的結合，這可能也是沒有選擇乙太網路的原因。不過，隨著 UE (Ultra Ethernet) 的出現，情況可能會發生潛在變化，因為 UE 保證了有效 AI 和 HPC 性能。然而，它目前仍處於開發階段。
Jim Keller 認為，NVIDIA 在 Blackwell 上高達 100 億美元的研發成本太高了，該公司可通過簡單改變互連方式來顯著降低成本。Jim Keller 以多次調侃公司而聞名，尤其是 NVIDIA，但他的說法一定程度上聽起來是可行的，畢竟 Blackwell 的成本確實高得離譜，但至少當前技術還無法達到相同效能水平。
但不管是廠對 NVIDIA 的 Blackwell AI GPU 成本有何看法，毫無疑問，這些晶片的需求仍然非常高，甚至連 Intel 和 AMD 等公司都難以打破 NVIDIA 在該領域的主導地位，而 Blackwell 的發布更是加速了這一趨勢。
延伸閱讀
