大躍進！蘋果宣布MLX框架將支援NVIDIA CUDA平台
2025-07-16 17:07:35
記者孟圓琦／編譯
https://www.technice.com.tw/issues/ai/182711/
蘋果專為Apple Silicon設計的機器學習框架MLX，目前正積極導入NVIDIA CUDA 平台支援
，此舉對於機器學習領域而言，無疑是一項重大進展。
MLX 是一個專為在 Apple 晶片上進行高效、靈活的機器學習研究而設計的陣列框架。如
今宣告將導入NVIDIA CUDA 平台支援。
經外媒《AppleInsider》報導指出，這項工作的推動者是 GitHub 上的開發者@zcbenz，
他早在數月前便開始著手 CUDA 支援的原型開發。隨後，他將專案拆分成多個較小部分，
並逐步將其整合至 Apple MLX 的主分支中。儘管 CUDA 後端目前仍在開發階段，但多項
核心運算操作已獲得支援並通過測試，包括矩陣乘法、Softmax、歸約、排序和索引等。
CUDA (Compute Unified Device Architecture)，本質上是 NVIDIA 硬體的「Metal」：
一個專為自家 GPU 設計的運算平台，旨在最大化其在高效率平行運算任務中的效能。對
於許多人而言，CUDA 是在 NVIDIA GPU 上執行機器學習工作負載的標準方式，並廣泛應
用於整個機器學習生態系統，從學術研究到商業部署。諸如PyTorch和TensorFlow等深度
學習框架，都依賴 CUDA 來利用 GPU 加速運算。
那麼，為何 Apple 的 MLX 框架要開始支援 CUDA 呢？MLX 最初是為 Apple Silicon 和
Metal 進行優化，但增加 CUDA 後端改變了這一局面。現在，研究人員和工程師可以在
Mac 上利用 MLX 本地開發 CUDA 模型，然後將其部署到大型 NVIDIA GPU 叢集上，這些
叢集目前在機器學習訓練工作負載方面仍佔據主導地位。
儘管如此，目前仍存在一些限制，其中大部分仍在積極開發中。例如，並非所有 MLX 運
算子都已實作完成，且對 AMD GPU 的支援仍在更遠的計畫中。
即便如此，能夠在無需重寫程式碼的情況下，將 MLX 程式碼引入 NVIDIA GPU，為更快的
測試、實驗和研究用例開啟了大門，這幾乎是所有 AI 開發人員都樂於聽到的消息。
心得/評論：
這則新聞出來有一個星期了，但我沒看到版上有人貼。
所以我貼出來，想趁機討論一下。
我剛去查証了一下，這消息似乎是小道消息，蘋果似乎沒有正式的發怖這個消息。
若蘋果打算將他們內部的AI架構port到cuda上。
這是不是暗示，蘋果以後也可能擁抱nvidia生態系。
以前就有聽說，蘋果很排斥nvidia，因為以前有過節。
難道不久的未來，我們會看到大合解?
nvidia和蘋果的股價一起up up?
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 211.21.176.170 (臺灣)
※ 文章網址: https://webptt.cc/bbs/Stock/M.1753247498.A.510.html
※ 編輯: dnol (211.21.176.170 臺灣), 07/23/2025 13:12:18
※ 編輯: dnol (211.21.176.170 臺灣), 07/23/2025 13:14:19
推文 (84)
推
dragonjj
很難說 可能全部都支援 ASIC CUDA AMD M4 晶片一起
07/23 13:13
推
ChristopherW
最近蘋果漲這個？
07/23 13:16
推
NexusPrime
以後可能Mac Pro裝GB300下一代
07/23 13:16
推
exojin
自家晶片無法跑AI？
07/23 13:18
推
CAFEHu
AAPL大戶：讓我們拉高出貨臭了嗎？
07/23 13:20
推
josephpu
老黃在中國才講我們歡迎任何人來兼容CUDA 哈
07/23 13:21
→
piece1
人人笑阿婆，阿婆還是越來越貴
07/23 13:22
推
ohya111326
不用cuda 還能用啥
07/23 13:27
推
maniaque
類似編譯成CUDA語言,然後發包給CUDA執行吧
07/23 13:32
→
maniaque
這樣不管底層是用啥硬體(Apple晶片,NV晶片),都可跑
07/23 13:33
→
maniaque
那,學MLX就不用學CUDA,一樣可以用到NV GPU來工作
07/23 13:33
→
aixiiae2005
OK NV繼續噴
07/23 13:34
→
NexusPrime
類似proton轉譯吧，讓Linux可以玩win平台3A大作
07/23 13:40
→
ggirls
未來相容華為
07/23 13:49
推
waitrop
應該是軟體編譯轉譯,底層硬體Apple晶片不支援cuda
07/23 13:53
→
waitrop
因為Apple晶片支援cuda會有智慧財產權的問題
07/23 13:53
→
Snake5566
https://github.com/ml-explore/mlx/pull/1983
07/23 13:54
推
timTan
是framework 支援。不是硬體支援。要不然在Mac 上
07/23 13:55
→
timTan
無法認真開發 LLM
07/23 13:55
推
a1234567289
這就是單純framework支援CUDA backend而已
07/23 13:58
推
KINGWAP
AI coding 能力若真那麼強
07/23 13:59
→
KINGWAP
這種改寫的程式應該是沒什麼難度
07/23 13:59
→
ActionII
在mac 上連要推論都只有那幾個選項啦..但存粹拿llm
07/23 14:00
→
ActionII
來開發ai agent 好像也不需要這些啊
07/23 14:00
推
aaaaaaaa9
應該說弄一條快速道路共享速度的資源，至於到哪個
07/23 14:00
→
aaaaaaaa9
城市發展做什麼事情，交流道怎麼開發，就是廠商自己
07/23 14:00
→
aaaaaaaa9
的事情了
07/23 14:00
→
soem
Apple Silicone做不出自己要的AI晶片吧，低頭轉向NV
07/23 14:01
→
soem
的硬體了
07/23 14:01
推
mdkn35
確定不是文化大革命或土法煉鋼？
07/23 14:02
→
ActionII
他這篇的新聞到底要實現啥功能==
07/23 14:02
→
ActionII
如果是在蘋果晶片上面模擬cuda 的話，其實也沒啥不
07/23 14:02
→
ActionII
好
07/23 14:02
推
soem
新聞不是說用MLX框架開發的程式，未來可以丟到大型
07/23 14:04
→
soem
NV GPU叢集嗎？
07/23 14:04
推
pponywong
沒有用 apple晶片拿來做endpoint inference就好了
07/23 14:06
→
pponywong
他又不是拿來做train model的
07/23 14:06
→
pponywong
這篇只是講他內部有工程師把Apple晶片porting 到
07/23 14:07
→
pponywong
cuda layer上而已 實際沒屁用
07/23 14:07
→
kivan00
AMD有贊助過轉譯的專案 已經終止了 變數太大很難長
07/23 14:08
→
soem
把硬體port到CUDA上？你是不是看反了？
07/23 14:08
→
kivan00
期有效的使用 搞生產力的也沒閒時間一直debug
07/23 14:08
推
strlen
晚了我們也不要啦
07/23 14:09
→
Riyar
8051也宣布支援CUDA平台
07/23 14:10
推
tpegioe
M5+RTX50X0成為官配，蛋雕自家顯示單元？
07/23 14:10
→
tpegioe
MacBook 和iMac 重新擁抱輝達行動顯示晶片？
07/23 14:10
→
ActionII
呃，可是現在這種框架跨平台的這麼多，這樣跨的意
07/23 14:12
→
ActionII
義是？
07/23 14:12
→
soem
意義就是Apple AI可以不用跑在Apple Silicone 晶片
07/23 14:14
→
soem
上了，以後可以拿NV GPU跑Apple AI
07/23 14:14
→
kivan00
沒有意義啊 就一個玩家向的開源計畫 直接去搞一台
07/23 14:14
推
TameFoxx
樓上說對了 根本毫無意義
07/23 14:15
→
TameFoxx
訓練完的模型原地轉mlx給Apple的裝置推論就好
07/23 14:15
→
kivan00
RTX 6000 Ada的工作站就直接上工了 Mac Pro直接蛋雕
07/23 14:16
推
tpegioe
下一代果粉人均一張輝達顯卡，輝達更有底氣把顯卡
07/23 14:16
→
tpegioe
售價提升，下一世代90系定價有機會突破12萬囉
07/23 14:16
→
soem
那也要Apple Silicone的運算能力跟得上呀，如果真的
07/23 14:17
→
soem
好棒棒，為什麼突然主動支援NV
07/23 14:17
推
lusifa2007
噴爆 我還以為蘋果要擺脫NV自己弄
07/23 14:19
→
ActionII
現在老牌框架也支援mac gpu 啊，幹嘛蛋雕==
07/23 14:19
推
truelove356
未來相容華為 華為取得技術後 寫中國專利 再趕走NV
07/23 14:19
→
ActionII
看s大說的，是想讓自家的學習框架也能跨平台而已
07/23 14:20
推
yuen1029
你都說一個星期 看k棒不就知道了 低調就好
07/23 14:22
→
ActionII
如果是這樣，那沒啥反應也很正常，太小眾了
07/23 14:22
→
ChikanDesu
終究還是要歸隊
07/23 14:22
噓
s90154aa
不用蘋果 難道你要用大陸機？
07/23 14:22
→
soem
我是比較悲觀的覺得Apple因為算力因素不得不相容NV
07/23 14:25
→
soem
啦；但你說的沒錯，也可能是開發資源足夠，來試看看
07/23 14:25
→
soem
相容其他平台，增加一點相容性。
07/23 14:25
推
by19
All in NVDA
07/23 14:25
→
kivan00
我的看法這就像支援directx讓你打電動一樣來增加附
07/23 14:28
→
kivan00
加價值 但識貨的就不會在mac上折騰那些
07/23 14:29
→
ActionII
我是認為弄機器學習小專案，mac 是很不錯的平台啦
07/23 14:32
→
ActionII
你肯啟動一萬初就有16g能玩，掛小模型玩玩agent挺
07/23 14:33
→
ActionII
不錯的，還省電
07/23 14:33
推
khoybgio
99AMD，還有人在意他嗎
07/23 14:37
推
kducky
天下苦黃久矣
07/23 15:00
推
zonppp
終究還是要用nvda
07/23 15:03
推
jamesho8743
這只是讓你能在MAC上開發CUDA相關的程式吧
07/23 15:19
推
film12
消息無誤！
07/23 15:43
推
jerry20151
NV的護城河又加深啦
07/23 15:48
推
jen1121
打不過就加入，蘋果時代已過
07/23 16:16
→
dreamnook2
NVDA 噴
07/23 18:15
推
Lipraxde
所以市長承認自己的做不贏？沒人要用？
07/23 18:21