AI 晶片新創公司 Tenstorrent 執行長 Jim Keller 近日表示，輝達產品目前仍有許多市場未被涵蓋，並且有許多小公司正在尋求更便宜的解決方案。對此，該公司目前正致力於設計比輝達更高效的晶片，以降低 AI 應用的成本，並希望能夠搶佔輝達的市場份額。
（前情提要：華爾街日報：美股過度依賴NVIDIA，輝達成最大不定時炸彈 ）
（背景補充：輝達麻煩了！法國監管擬提「反壟斷」調查，最重可罰NVIDIA全球年營業額10％ ）
在全球 AI 熱潮下，輝達（Nvidia）憑藉著生產訓練生成式 AI 的晶片，一度奪下美股市值最大公司。在 6 月底股東大會時，執行長黃仁勳更稱讚 Nvidia 3 月中推出的晶片架構 Blackwell 將是電腦史上最成功的產品。據報導，輝達的資料中心 GPU（A100、H100…）在 2023 年市占率更高達 98%，顯示出輝達在 AI 市場的主導地位。
晶片神人 Jim Keller：輝達產品還有許多市場尚未涵蓋
在此背景下，根據日經新聞報導，AI 晶片新創公司 Tenstorrent 執行長 Jim Keller 目前正致力於設計比輝達更高效的晶片，以降低 AI 應用的成本，並希望能夠搶佔這家 AI 晶片巨頭的市場份額。
Keller 表示，目前輝達的產品仍有許多市場未被涵蓋，並且隨著 AI 應用發展，許多公司正在尋找比輝達產品更便宜的解決方案：
有很多小公司不想花 2 萬美元購買被視為市場上最佳選擇的 Nvidia 高端圖形處理單元（GPU）。
Jim Keller 是誰？
在晶片設計圈中，Jim Keller 以主導 AMD Zen 系列的設計而聞名，許多人認為這支持了 AMD 在 2010 年代末期追趕上 Intel 的過程。他也是開發 Tesla 自動駕駛軟件 Autopilot 的關鍵人物之一。
日本 AI 新創公司 Preferred Networks 的晶片設計主管牧野淳一郎表示：
他絕對是傳奇人物。
計畫推出第二代多用途晶片，某些領域比輝達效率更高
成立於 2016 年的 Tenstorrent 計劃在今年年底推出其第二代多用途 AI 晶片。該公司表示，在某些領域，其晶片在能效和處理效率方面優於輝達的 AI GPU，並且 Tenstorrent 的 Galaxy 系統比輝達的 AI 伺服器 DGX 效率高三倍，成本低 33%。
Keller 補充解釋道，之所以能夠達到如此效率，是因為 Tenstorrent 並未使用高頻寬記憶體（HBM）。HBM 是生成式 AI 晶片的重要元件，HBM 在輝達產品中扮演重要角色，不過 HBM 也是 AI 晶片耗能高、價格高的罪魁禍首之一。
捨棄高頻寬記憶體（HBM）
在典型的 AI 晶片組中，GPU 每次執行任務都會將數據傳送至記憶體，這需要 HBM 的高速數據傳輸能力。然而，Tenstorrent 晶片可以大幅減少傳輸次數。Tenstorrent 晶片的特性在於其數百個核心中，每個核心都有一個小型 CPU，可以自判斷優先處理哪些數據，進而提高整體效率。
Keller 表示，通過這種全新方法，Tenstorrent 晶片可以在部分 AI 研發領域取代 GPU 和 HBM。不過想要顛覆龐大的 HBM 產業，Keller 坦言仍需花費數年時間。他還預測，未來不會有任何公司取代輝達，而是會有更多 AI 新創公司出現，填補現有公司未能服務的部分。
📍相關報導📍
比特幣失守5.7萬》美國六月CPI大降溫，但美股七巨頭齊跳水：輝達跌超5.5%、特斯拉狂瀉8%..
