[請益] CXL和NVLink

作者peterlin0224 (無)

標題[請益] CXL和NVLink

時間Sun Apr 14 19:25:36 2024

https://reurl.cc/Aj1eWj 偶然看到這篇報導， Intel/AMD陣營要用CXL和Nvidia的NVLink分庭抗禮，頻寬印象應該是 Nvlink > cxl 感覺nvlink算私規， cxl算公規，目前在AI應用上感覺Nvidia似乎走得比較前面，但我在這方面算門外漢，不知道有沒有人可以分析一下這兩個spec.的產業發展潛力和前景？謝謝 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.48.139 (臺灣) ※ 文章網址: https://webptt.cc/bbs/Tech_Job/M.1713093938.A.EFE.html

推文 (105)

→ stanley31823 有量就有護城河就是那麼簡單！ 04/14 19:48

推 brightest Spec不重要就是六大派圍攻輝達頂 04/14 19:53

→ peterlin0224 但目前兩種switch 不知道客戶買單程度是不是nvidia 04/14 19:58

→ peterlin0224 贏？但看Broadcom 股價也因為cxl switch而高漲….. 04/14 19:58

推 wayne0530 壓縮方式相同, 帶寬差距主要是pin number以及頻率. 04/14 20:00

→ wayne0530 NV有專利護城河，且只有自家在使用. 其它人想要hig 04/14 20:00

→ wayne0530 h speed+coherence目前傾向走CXL. 做得好我認為也 04/14 20:00

→ wayne0530 不會輸NVLink. 04/14 20:00

推 chaulove 1. CXL是PCIe，速度明顯輸以太，更不用提NV 2. AVG 04/14 20:16

→ chaulove O股價跟CXL沒有任何一點關係 04/14 20:16

推 wayne0530 樓上，輸以太？怎麼比的 04/14 20:30

推 chaulove pcie 6.0 vs 112G serdes 04/14 21:35

推 wayne0530 PCIe 6.0: up to 256 GB/s via x16. Ethernet要看下 04/14 21:55

→ wayne0530 速率是大B小b 04/14 21:55

推 chaulove 我是參考Dylan Patel 近期關於CXL的文章免費的部分 04/14 22:08

→ chaulove 再請樓上大大指教 04/14 22:08

推 rockrock1127 pcie6.0不是單lane 64GT/s嗎 x16是128GB吧？ 04/14 22:12

推 wayne0530 Bi-direction應該乘2？ 04/14 22:21

推 kyuudonut 勿忘 HSA 04/14 23:23

→ crc2121 話說公規是誰定義？ 04/14 23:23

→ rockrock1127 沒有在算雙向的...兩個方向目的就不一樣..有聽過SS 04/14 23:38

→ rockrock1127 D spec讀4000MB/s寫1000MB/s的在說自己是5000MB/s 04/14 23:38

→ rockrock1127 嗎 04/14 23:38

推 rockrock1127 這樣我PCIe gen5幹嘛還講32GT/s 說64GT/s不是聽起 04/14 23:39

→ rockrock1127 來兩倍厲害？ x1哪次接Tx不接Rx了？ 04/14 23:39

→ peterlin0224 嗯嗯，類似DDR在同一個方向(TX或RX）DQS rising和fa 04/14 23:51

→ peterlin0224 lling edge都有做事才能算x2 04/14 23:51

→ visionaryou pcie6.0是PAM... 04/15 01:01

→ labbat HSA已經死到不能再死了 04/15 03:35

噓 a000000000 這多少年前亂寫的東西拜託一下 04/15 04:06

→ a000000000 cxl主要應用場域在server加memory 04/15 04:07

→ a000000000 nvlink跟這八竿子打不著 04/15 04:07

推 mmonkeyboyy 一個是cc cg一個是 cm/cs要混在一起談是那招XD 04/15 06:54

→ mmonkeyboyy 你拿 ucie還差不多 04/15 06:54

→ peterlin0224 那這篇今年的文章也是亂寫的囉？我是門外漢沒錯， 04/15 08:08

→ peterlin0224 請樓上兩位專家解說….XD 04/15 08:08

→ peterlin0224 https://reurl.cc/ez5YqL 04/15 08:08

推 ghgn 我記得NVLink主要是用在GPU跟GPU之間吧? CXL好像是 04/15 10:23

→ ghgn CPU跟其他外設兩者使用沒啥關係吧？ 04/15 10:23

→ peterlin0224 我看完文章理解是AI應用上兩種都可以使用，但如果以 04/15 10:47

→ peterlin0224 計算時data傳輸需求頻寬來看，會選擇可以提供較大頻 04/15 10:47

→ peterlin0224 寬的NVLink平台 04/15 10:47

→ peterlin0224 所以會導致cxl 的量起不來….還是說其實cxl有自己 04/15 10:49

→ peterlin0224 的其他應用端可以使得上力，而且價格成本和頻寬需求 04/15 10:49

→ peterlin0224 也更符合那些應用，所以兩者不會有衝突？ 04/15 10:49

→ peterlin0224 不知道有沒有這方面有研究的板友可以說說看？謝謝 04/15 10:50

→ WYchuang 現在就高速乙太網路力拼下一代可到800Gbps 04/15 10:53

→ WYchuang 是說台灣的幾家網路晶片不研發看看嗎　都沒看到消息 04/15 10:55

推 b0117 AI server這塊，NV根本不用認真鳥CXL，他靠nvlink 04/15 13:08

→ b0117 和nv switch ，把cpu gpu各種擴充，已經蒿吐露絲了 04/15 13:08

→ b0117 。 04/15 13:08

→ b0117 CXL 擴充的需求，我反而覺得在未來edge 端 04/15 13:09

推 homer00 越南印度好像都有公司在弄CXL 04/15 13:15

推 IamAlways150 你要不要先搞清楚CXL三種type的應用再來發問？這兩 04/15 15:24

→ IamAlways150 個根本是懶覺比雞腿 04/15 15:24

推 franktku NVDA的NVLink目的是為了讓GPU彼此之間互相溝通，過 04/15 17:24

→ franktku 去兩顆GPU要溝通需透過PCIe連到CPU，CPU再連到另一 04/15 17:24

→ franktku 顆GPU，會有延遲及頻寬不夠的問題，所以NVDA弄了N 04/15 17:24

→ franktku Vlink，讓2顆甚至8顆GPU直接互連，頻寬也拉到900G 04/15 17:24

→ franktku B/s，更猛的是，在下一代的GB200裡面，NVlink有了 04/15 17:24

→ franktku CPU to CPU互連以及memory pooling的功能，讓GPU除 04/15 17:24

→ franktku 了用自身的HBM以外可以使用CPU的記憶體。而memory 04/15 17:24

→ franktku pooling也是CXL的目的，只是目前受限x86 CPU支援 04/15 17:24

→ franktku 度以及PCIe發展緩慢（CXL是走PCIe），CXL 1.0只能 04/15 17:24

→ franktku 用擴充的方式，CXL 2.0以後才能支援類似NVlink CP 04/15 17:24

→ franktku U 之間memory pooling的功能，推出時程遙遙無期。 04/15 17:24

→ franktku AVGO強的是Ethernet switch跟PCIe switch，最近漲 04/15 17:24

→ franktku 是因為800Gb的TH5晶片還有幫Google開ASIC，跟CXL無 04/15 17:24

→ franktku 關。 04/15 17:24

→ peterlin0224 感謝樓上板友說明 04/15 17:32

推 b0117 簡單來說，CXL想讓cpu能擴充memory 的好處，NV lin 04/15 21:10

→ b0117 k都在gpu對gpu 互連做到了，nv link 也能將cpu和gp 04/15 21:10

→ b0117 u 互連，根本就不靠pcie。如上面網友所說，pcie to 04/15 21:10

→ b0117 tal bw 先打贏112g c2c再來講 04/15 21:10

推 Daiblo2 讚看推文長知識 04/15 22:32

推 egg665 NVLink要能連CPU大概只有NV 自己推arm cpu能用吧， 04/15 23:44

→ egg665 x86 platform CPU不太可能會去支援nvlink 04/15 23:44

推 b0117 自信點，把太拿掉。nv 當然是自己做的cpu才擺nvlin 04/15 23:54

→ b0117 k呀。grace cpu 是arm 架構沒錯 04/15 23:54

→ peterlin0224 那會不會最後interl x86被NV打趴？還是說x86還是有 04/16 00:21

→ peterlin0224 自己的應用市場？ 04/16 00:21

推 mmonkeyboyy 大哥你要做報告自己找資料不然請付錢 04/16 04:26

→ mmonkeyboyy 我也不想隨便餵你假資料但你這麼伸手實在是... 04/16 04:26

→ mmonkeyboyy AVGO強的是老板再說一次你不信去 SV問問人 04/16 04:27

推 mmonkeyboyy 那幾個底層都差不多只是一堆protocol 有差別 04/16 04:29

→ mmonkeyboyy CXL都在看3.0以上了看舊的是要盧哦 04/16 04:30

推 leviliang 純軟路過幾乎看不懂但看完還是挺爽的這些技術真 04/16 06:52

→ leviliang 是酷 04/16 06:52

→ peterlin0224 我沒有要做報告喔，純粹聊一下，我是做不同領域的de 04/16 09:00

→ peterlin0224 sign 04/16 09:00

推 PttDreaming 56樓有料 04/16 10:05

推 b0117 Intel X86不會被打趴啦，NV 做cpu是給自己用，不是 04/16 12:29

→ b0117 要去搶cpu的市場 04/16 12:29

推 mmonkeyboyy 樓上 ..... 你不是這個圈子的XD 04/16 13:10

→ peterlin0224 回b大，我是覺得NV的野心沒那麼小……XD 04/16 15:55

噓 beariscut 這兩個根本不是同一個東西 04/16 23:16

噓 btpeter 你錯惹還有UCIE…. CXL 最少有五六年前惹可悲仔… 04/21 23:09

→ btpeter . 04/21 23:09

→ btpeter CXL 1.0 toCXL 2.0到現在CxL3.0 不知道就不要在這 04/21 23:11

→ btpeter 邊畫虎爛…. 04/21 23:11

→ btpeter 而且你真的了解CXL嗎？看樣子不是很懂….. 04/21 23:11

噓 btpeter UPI比較像NVLink 不是加速CPU host 與accelerator 04/24 17:25

→ btpeter 速度的CLX ….. 04/24 17:25

→ btpeter CXL就是補足DIMM memory 數量有限無法加速CPU 與acc 04/24 17:30

→ btpeter elerator之間的throughput .. 04/24 17:30