低價挑戰 NVIDIA！晶片大神 Jim Keller 曝設計關鍵是「捨棄 HBM」 https://tinyurl.com/23cvjvhj 傳奇晶片設計師 Jim Keller 打算設計比 NVIDIA 更高效的晶片，以降低 AI 應用價格並 搶占市占率。 Jim Keller 目前任 AI 晶片新創 Tenstorrent 執行長，認為很多市場 NVIDIA 都沒服務 到，隨著 AI 應用擴展到智慧手機、電動車和雲端服務，越來越多公司尋求更便宜的解決 方案，很多小公司不願為 NVIDIA 高階 GPU 支付 2 萬美元。 Jim Keller 在晶片設計界享有盛譽，也是 AMD Zen 系列的首席設計師，許多人認為他幫 助 AMD 東山再起、奮力追上英特爾。他也是開發特斯拉自駕軟體 Autopilot 晶片組的重 要人物。 日本人工智慧獨角獸公司 Preferred Networks 運算架構部門副總裁兼技術長 Junichiro Makino 形容「Jim Keller 簡直就是傳奇」。 設計 AI 晶片時，選擇捨棄關鍵的 HBM Tenstorrent 成立於 2016 年，準備年底推出第二代多用途 AI 晶片，稱某些領域比 NVIDIA AI GPU 更高能效和處理效率。Galaxy 系統比 NVIDIA DGX 效率高三倍，價格更 便宜 33%。 Keller 之所以能做到這點，是因 Tenstorrent 沒用高頻寬記憶體（HBM）。「即使有用 HBM 的人，也為成本及構建 HBM 所需設計時間掙扎，決定不用此技術。」 HBM 是生成式 AI 晶片的重要零件，對 NVIDIA 產品成功有重要作用，然也是 AI 晶片能 耗巨大、價格高昂的罪魁禍首之一。 典型人工智慧晶片組，GPU 每次執行進程時向記憶體發送數據，需 HBM 高速數據傳輸能 力。Tenstorrent 設計自己的晶片，大幅減少傳輸。Keller 指有了新方法， Tenstorrent 晶片可在 AI 開發某些領域取代 GPU 和 HBM。 Tenstorrent 也設計產品以盡可能實現成本效益，許多公司也在追求更適合的記憶體解決 方案，但 Keller 也坦承，要顛覆龐大 HBM 產業，還需數年時間。他預期與其一間公司 取代 NVIDIA，不如出現更多新公司，填補美國公司未涉足的各種人工智慧市場。 Tentorrent 晶片特點是百餘個核心，每核心都有小型 CPU，即「大腦中的微型大腦」。 通常情況單晶片核心只有一個小型電腦和記憶體，只負責解決一個任務，但 Tenstorrent 核心能獨立「思考」，決定先處理哪些數據，或放棄不重要任務，提高整 體效率。 Tentorrent 指每個核心都相對獨立，可將更多或更少核心堆疊起來，應用更廣泛。智慧 手機或穿戴設備只需少量晶片，AI 資料中心可將 100 個晶片組合，用途更靈活。 Keller 說還無法預測 AI 最佳應用是什麼，因此公司策略是打造出適合各種產品的技術 。 U.S. chip designer aims to bring down AI prices pushed up by Nvidia -- 推 pb220918:不爽可以當禽獸 五樓是禽獸!! 10/04 22:12 → pb220918:蓋 10/04 22:12 → pb220918:蓋 10/04 22:12 → pb220918:蓋 10/04 22:12 → Davisss:我是禽獸 我真爽 我在騎1樓 10/04 22:13 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.177.0.241 (臺灣) ※ 文章網址: https://webptt.cc/bbs/Tech_Job/M.1721132748.A.CC5.html