原文標題:英偉達宣布創造滿血 DeepSeek-R1 模型 AI 推理性能的世界紀錄
原文連結:https://finance.eastmoney.com/a/202503193349461511.html
發布時間:2025年03月19日 08:36
記者署名:
原文內容:
3 月 19 日消息,英偉達在今日舉行的 NVIDIA GTC 2025 上宣布其 NVIDIA Blackwell DGX 系統創下 DeepSeek-R1 大模型推理性能的世界紀錄。
據介紹,在搭載了八塊 Blackwell GPU 的單個 DGX 系統上運行 6710 億參數的滿血 DeepSeek-R1 模型可實現每用戶每秒超 250 token 的響應速度,系統最高吞吐量突破每秒 3 萬 token。
英偉達表示,隨著 NVIDIA 平臺繼續在最新的 Blackwell Ultra GPU 和 Blackwell GPU 上突破推理極限,其性能將會繼續不斷提高。
英偉達表示,通過硬件和軟件的結合,他們自 2025 年 1 月以來成功將 DeepSeek-R1 671B 模型的吞吐量提高了約 36 倍。
與 Hopper 架構相比,Blackwell 架構與 TensorRT 軟件相結合可實現顯著的推理性能提升。
英偉達表示,包括 DeepSeek-R1、Llama 3.1 405B 和 Llama 3.3 70B,運行 TensorRT 軟件並使用 FP4 精度的 DGX B200 平臺與 DGX H200 平臺相比已經提供了 3 倍以上的推理吞吐量提升。
精度 MMLU GSM8K AIME 2024 GPQA Diamond MATH-500
DeepSeek R1-FP8 90.8% 96.3% 80.0% 69.7% 95.4%
DeepSeek R1-FP4 90.7% 96.1% 80.0% 69.2% 94.2%
英偉達表示,在對模型進行量化以利用低精度計算優勢時,確保精度損失最小化是生產部署的關鍵。IT之家註意到,在 DeepSeek-R1 模型上,相較於 FP8 基準精度,TensorRT Model Optimizer 的 FP4 訓練後量化(PTQ)技術在不同數據集上僅產生微乎其微的精度損失。
心得/評論:
NVDIA的GTC開兩天,暴跌兩天。真慘啊
昨天是china ai日,deepseek今天又成爲了舞臺中央的角色
世界AI人才半數是華人,嗯哼。
輝達會在GTC第幾天終止跌幅呢
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.52.231.181 (中國)
※ 文章網址: https://webptt.cc/bbs/Stock/M.1742345108.A.615.html
※ 編輯: icrose (123.52.231.181 中國), 03/19/2025 08:47:20
推文 (123)
→
lpmybig
OGC
03/19 08:46
→
mini178
嘻嘻 吹支者 吹起來
03/19 08:46
推
mopa
講太多技術細節,華爾街聽不懂啦
03/19 08:47
推
b2060027830
AI是華人的世代
03/19 08:48
推
jenchieh5
????
03/19 08:49
推
NKUHT
已反映
03/19 08:52
噓
cityhunter04
所以在講什麼?
03/19 08:53
推
PoLyGyNy
自信點 ai就是我們中國人的世代 鹿港又要一路噴了
03/19 08:54
→
cliche
中吹又來了,可以限制中吹發文嗎?
03/19 08:55
噓
aweara
itrose 不貼去政黑板 貼在這邊幹嘛
03/19 08:58
→
tedliu1024
一早起床就被塞嘴中國大便的感覺真差…誰跟你我們
03/19 08:58
→
tedliu1024
中國人
03/19 08:58
→
pttstock
同路人?
03/19 08:58
→
pttstock
政府說那個DS有資安風險!
03/19 08:59
噓
losehope
中國贏三次!咦?蘇媽、老黃來自?陳立武?
03/19 09:00
推
cyora
聽說中國還在搞存算一體,成功的話高階晶片需求可能
03/19 09:05
→
cyora
會下降
03/19 09:05
推
dch44dyw
看成滿手血
03/19 09:05
推
Iperfection
百萬NV吹站出來!
03/19 09:05
推
love80
一早就有人崩潰好可悲
03/19 09:06
推
dreamelf
向下正常 原本吹高階GB現在剩下B
03/19 09:07
推
fbiciamib123
中國牛逼
03/19 09:08
推
chinaeatshit
雖然我恐支 但DS不敏感問題的精準度比OPEN高太多了
03/19 09:08
推
lc85301
還是要靠 DS
03/19 09:08
推
shuoyuan
Deepseek是真貨
03/19 09:08
噓
angeltear15
?
03/19 09:10
推
wind123
認清點 你台灣做的出deepseek在說 人家很強的
03/19 09:10
→
rooo2012
對比grok ds ,open比較像是撈錢
03/19 09:11
→
wind123
整天自吹自擂 認清點 沒這麼困難 吹到自己世界ㄧ
03/19 09:11
→
wind123
看了很想吐 自我認識跟吹噓是兩回事
03/19 09:12
推
dreamelf
但一台B只要兩台H的2/3價
03/19 09:12
推
reall860523
鹿港噴
03/19 09:12
→
Lowpapa
反觀
03/19 09:13
→
wind123
你強 人家也強 為了意識行態 整天矇眼 不會進步啦
03/19 09:13
推
Retangle
鬼島政府:啊啊啊 禁止禁止(玻璃破碎
03/19 09:13
→
Retangle
跟滿清政府鎖國禁西方事物一個樣
03/19 09:14
推
deann
滿血版的 打得贏ChatGPT嗎?
03/19 09:14
推
downtoearth
不管你發明了多省力的方式 最終你還是得買鏟子..
03/19 09:15
推
s56565566123
看成英業達
03/19 09:15
推
wind123
硬體軟體互相加分 破除硬體獨大的夢 吹不起來了
03/19 09:16
噓
catboost
Design in USA, made by Taiwan
03/19 09:16
→
loveadu
笑死,蒸餾中國模型
03/19 09:17
推
dongdong0405
說真的美國AI領域很多也是華人面孔了
03/19 09:21
→
mnb1234
完了 他還能進來台灣嗎
03/19 09:22
→
vukia
LLVM真的被玩爛了..繼續玩數字效能遊戲 遲早再次泡
03/19 09:24
→
vukia
沫化
03/19 09:24
推
xeins
青鳥哭暈了
03/19 09:24
→
kimula01
就說了DS只會讓大家繼續軍備競賽
03/19 09:26
→
noirskakashi
現在跌大多是關稅的不確定性
03/19 09:27
推
newyorker54
敢用deepseek難怪砍殺股價,看白人沒有嗎?
03/19 09:27
推
Lhmstu
玻璃碎了
03/19 09:28
→
idernest
開始在刷分了 Android既視感
03/19 09:28
推
newyorker54
猶太人不喜歡這篇文章
03/19 09:31
→
YLTYY
別再吹啦
03/19 09:31
推
HaHaPoint
我蒸餾你的蒸餾
03/19 09:31
→
newyorker54
之後AI世界會分裂成cuda和tensor兩大陣營
03/19 09:32
→
redbeanbread
慢慢擠牙膏吧你
03/19 09:32
推
peacesb
美國也很敵視中國,但他們也沒排斥他們的科技
03/19 09:40
→
peacesb
一直排斥或獵巫 怎麼讓自己進步= =
03/19 09:41
推
squeakywheel
還不是在蹭DS 反中磚家摳憐
03/19 09:41
推
j5a5m0e4s
也沒人阻止歐美蒸餾 就你台灣人看最透
03/19 09:41
噓
goodjop
人家在打你臉 你認為在吹屌
03/19 09:43
推
j5a5m0e4s
支那只要不是世界第一就酸 殊不知科技島連起跑線都
03/19 09:43
→
j5a5m0e4s
還沒站上
03/19 09:43
→
CYL009
台灣人對這篇新聞會不高興 嘻嘻
03/19 09:43
→
CYL009
不選其他AI偏偏選DS 懂得都懂
03/19 09:44
→
CYL009
連NV疑似都替DS打造了 DS可沒付錢叫NV做呢
03/19 09:45
推
skizard
無庸置疑中國的確很強阿,但多數產業一樣慘,被自
03/19 09:46
→
skizard
己卷死...沒啥利潤沒錢請更多人,失業或是薪水被壓
03/19 09:46
→
skizard
低的沒錢消費
03/19 09:46
推
gbman
DS還有誰沒抄作業CC
03/19 09:47
推
GooglePixel
AI的大艦巨砲主義短時間不會停下
03/19 09:48
推
birdskingla
滿血卡..真香...拿不到也只能繼續捲
03/19 09:49
推
wind123
他們卷 你才有便宜的東西可以用 美國研發 中國平民
03/19 10:04
→
wind123
化 ㄧ直是這樣運行的
03/19 10:04
→
wind123
他卷他家的事 你不住中國 但不要逢中就蒙眼 怪
03/19 10:04
推
aoc7175
歐歐印
03/19 10:05
→
wind123
苦的是他們的人民 爽到全球不好嗎 只是破除ㄧ方股
03/19 10:05
→
wind123
票霸權你不開心而已
03/19 10:05
推
newyorker54
很多事爛在肚子裡都不能說出來,安靜看世局變化,de
03/19 10:08
→
newyorker54
epseek這件事沒有這麼簡單
03/19 10:08
推
square
抵制NV啦 危害民主
03/19 10:08
推
wind123
這件事本來就不簡單 背後牽扯的是民主共產政營角力
03/19 10:10
→
wind123
拉扯
03/19 10:10
→
wind123
但你只是散戶要賺錢 看懂在幹嘛就好
03/19 10:10
→
wind123
ㄧ昧的用自己的錢去投意識概念 是要賺錢而不是投票
03/19 10:12
推
newyorker54
不只是民主共產角力還有種族
03/19 10:13
噓
z7956234
id正確
03/19 10:13
推
wind123
也有喔 但那是大人的事 我只是小散戶要賺錢沒這麼
03/19 10:14
→
wind123
偉大
03/19 10:14
推
kuosos520
2025了,還有人相信中國真的QQ,過幾年Ds RD全部變
03/19 10:15
→
kuosos520
成美國人惹啦
03/19 10:15
推
Smile365Day
就是有中國做出便宜好用的,造福全球
03/19 10:15
推
slimak
我開源你的開源
03/19 10:16
推
newyorker54
不要強加意識形態看懂就好,跟著趨勢賺錢沒錯
03/19 10:16
→
loveadu
CUDA可以下去
03/19 10:16
推
wind123
對的!
03/19 10:17
推
tinoooii
冷菜熱炒,火要開大一點~~
03/19 10:22
噓
stanleyplus
中國贏麻
03/19 10:28
→
appledick
美國軟體就都外包阿三 早就爛掉了
03/19 10:43
推
kkithh
NVDA變中吹,反中的崩潰囉
03/19 10:50
噓
DrGun
https://i.imgur.com/GJpLooz.jpeg
03/19 11:05
推
Rucca
老黃以後無法皮衣逛夜市了?
03/19 11:06
推
tom77588
英業達噴噴
03/19 11:07
推
sid3
為什麼不用台灣的模型
03/19 11:10
→
battlewind
要禁止NVIDIA這中吹了吧
03/19 11:15
噓
smilesi
依照你的邏輯黃仁勳算華人還非華人?阿你又喊輝達慘
03/19 11:20
→
smilesi
前後矛盾好錯亂啊
03/19 11:20
推
s213092921
CloseAI已經被DS打到崩潰要求美國及盟友各國禁止DS
03/19 11:22
→
s213092921
了
03/19 11:22
噓
oldEn15
看成滿手血
03/19 11:23
→
s213092921
然後CloseZI的付費訂閱續約狂跌9成,終於凍未條了
03/19 11:24
推
jei01
美國盟友要禁DS然後用貴森森的Close AI?別鬧了
03/19 11:29
推
jei01
DS可是開放讓大家魔改的
03/19 11:30
→
duson
經得起前某艾踢大臣64題目測驗嗎
03/19 11:36
推
Brioni
DS真的強啊,學起來幹回去
03/19 12:08
推
slwoowls
講這些話的是不是不懂AI
03/19 12:22
推
takeda3234
沒人理chatgpt了..
03/19 12:47
推
seventhmoon
DS勝在open啊,擔心資料外流可以自己架設
03/19 12:53
→
jimhall
中國ai要到海外才有發展機會 之後就是ai人才移民潮
03/19 12:54
→
jimhall
現在監理才開始 當人才碰到天花板後 就會另謀發展
03/19 12:56
→
pippen2002
121-->115哪算暴跌?? 又不是套 特斯拉?
03/19 15:10
噓
a8785007
還不是靠 Deepseek
03/19 15:49