先說 我完全不懂DS的算法 也不懂open ai的算法
但既然DS開源 那大家都能使用的情況下 未來AI迭代肯定加速
有人說我用1/50的算法就可以做到一樣的功能...是啊大家都可以用這套算法的情況下 那
還是得拼硬體
我用更強大的硬體可以推出更好的產品、服務 除非今天硬體本身的上限到了 沒辦法再有
更好的硬體來加速運算
不然這些大公司要怎麼贏過有同樣效率、算法的對手?我硬體先用到頂規 再來用軟體拼
贏 還是有人覺得這些大公司挖金礦敢用次級鏟子?
就是那些小公司現在也「可能」有本錢下來市場玩 他們可能可以用次一等的鏟子來挖 推
出沒那麼好但便宜的產品 這會讓整個硬體的市場擴大 以前只能是最頂規的硬體跟AI有關
現在不是
而且也就是「可能」而已
-----
Sent from MeowPtt on my iPhone
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.216.41.178 (臺灣)
※ 文章網址: https://webptt.cc/bbs/Stock/M.1737980125.A.C31.html
你確定用GB下來算這套算法會一樣嗎?你沒看懂我的文 話說台積電也還真沒差 因為2-5
奈米晶片都制霸 H100你敢用七奈米嗎
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:20:46
你要先確定現在的硬體上限已經無法推升效率了 就是我說的 硬體本身的上限才會是天花
板
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:22:41
推 edward0811 : ex打坦克,大量肩扛武器比f35有用吧 01/27 20:22
以美軍的角度來說 還是陸空一體打擊比不對稱有效率 因為硬體的效率上限還是無上限
烏克蘭要不是沒更多軍援也不用在那邊讓人肩射消耗
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:25:03
事實上現在AI的開發很大一部分就是成本被限制住 如果有更有效率的軟體搭配硬體 潛在
市場的開發量是難以預估的 你想想現在AI受眾多小就知道了
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:28:00
現在的AI根本連消費市場都沒辦法滿足 不是說消費者很滿意現在的AI服務 而是大家都還
在靠腰AI怎麼這麼廢 有更有效率的軟體+硬體才是真正讓需求被滿足的首要條件
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:29:47
其實就我文中那一句話 除非證明硬體的上限已到 不然就是繼續拼硬體 有人用F-35當舉
例論證效率結果打到自己臉 人家現在拼命搞六代機了 就是硬體上限還他媽看不到邊勒
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:32:18
那大廠必須有絕對的把握 硬體已經無法有效率的提升運算了 不然同一套算法下 好的硬
體能比別人做更多 那誰敢不用
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:33:33
講難聽的啦 現在別說理組 連跟AI最沾不到邊的文組公司 都會問AI怎麼這麼廢 就最普通
的老百姓都對AI的功能有更多的夢想 消費者對AI只會要求的更多
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:37:57
現在連砍單的新聞都沒有 我更傾向是市場恐慌 也不是沒示範過 NV前幾個月還有破百價
我還爽買喔
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:39:23
不重要 因為更強的硬體用這套算肯定只會更強...除非硬體上限到了
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:41:13
我也講了 現在連最廢的文組消費者都覺得AI有夠爛跟笨 網路YTR還在排跟自己的AI對話
的蠢影片嘲諷 會覺得「可以接受」那真的太容易被滿足了
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:42:31
能達到什麼?現在的程度嗎?sry人類只想追求更屌的AI 用更好的硬體下來算這套只會有
更多人買單
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:43:37
剩下的49/50就是要他媽打爆對手的份而已 因為大家都會你這套算法了
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:44:56
就是因為不是只有他們 這套算法好用大家一起開發 接下來就一樣拼硬體 不是1/50可以
有一樣的結果就會停下來 49/50就是要去打敗其他用套一套算法的對手
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:46:35
就我的觀察 是連最廢的文組公司都在買gpt 但還覺得他不夠好用 4o
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:47:42
推文 (367)
推
freeclouds
確實這樣 賣鏟子的還是大贏家 大家都下來挖
01/27 20:16
噓
kensmile
DS就用H100而已,你覺得會有什麼擴大需求
01/27 20:17
→
kensmile
需求增加的低階,不是高階
01/27 20:18
→
kensmile
這才是可怕
01/27 20:18
推
jason0925
鐵鏟子金鏟子 挖出來東西一樣很盤呢?
01/27 20:18
→
jason0925
買鐵鏟子的爽死 買金鏟子的死去
01/27 20:18
推
andy810306
大膽,傻多表示萬一金鏟子有隱藏裝備附加技能呢
01/27 20:18
→
kensmile
H100就能用,誰要用GB300
01/27 20:19
→
kensmile
DS帶來的是這個衝擊
01/27 20:19
推
fbiciamib123
https://i.imgur.com/ZrjivY5.jpeg 為什麼還要投資
01/27 20:19
→
kensmile
完全搞不清楚原因
01/27 20:20
→
fashsboy
成本差異這麼大,投資方不會問為什麼別人用H100做的
01/27 20:20
→
sa87a16
金鏟子跟木鏟子 能挖出一樣東西,誰要買金鏟子
01/27 20:20
→
fashsboy
起來你不行?你說美國那些AI公司要怎麼回答這問題?
01/27 20:20
→
saisai34
用GB300能耗比比較划算啊 @n@a
01/27 20:20
推
freeclouds
現在難道三星 英代爾 聯電可以生出鐵鏟子?
01/27 20:20
推
andy810306
傻多表示:你們要做夢啊,說不定金鏟子有隱藏加成
01/27 20:20
推
naligono
市場是往效率方向走 不是比速度
01/27 20:21
推
q541700
以單為證沒單就是瞎猜
01/27 20:23
推
jaricho
照著邏輯 所以幹嘛買i16 買個i8就爽爽用了啊
01/27 20:23
噓
f12sd2e2aa
什麼都不懂還能出來發文 厲害
01/27 20:23
推
zxcjimyou
壯膽文 別怕 下週再現期指跌停
01/27 20:24
推
amig0123
買華為就好了 幹嘛買蘋果 對吧
01/27 20:25
推
jiansu
如果是1/50的成本 硬體也是需要1/50 你量要變成50
01/27 20:25
→
jiansu
倍 短期間量不一定有50倍 然後硬體1/50有更多硬體
01/27 20:25
→
jiansu
廠商可以 說不定7nm也有機會了 短期就估值要調整
01/27 20:25
推
Rbian
呃 DS離AGI還很遠,怎麼會覺得H100就能滿足需求了
01/27 20:26
→
Rbian
。。。
01/27 20:26
推
edward0811
買iPhone13,不需要買到16,拿8比喻幹嘛
01/27 20:26
推
bonfferoni
100分的產品 有人用50元作出80分產品 有人用500元做
01/27 20:26
噓
F93935
這樣也一篇 傳產腦的下來評論ai
01/27 20:26
→
bonfferoni
95分的產品實際上80的產品就夠用了
01/27 20:26
推
strlen
如果今天的確大家只講效率性價比 那的確就這樣了
01/27 20:26
→
kougousei
現在的產品離agi都還超遠 等已經飽和達到agi再來吵
01/27 20:27
→
kensmile
只要提升算法,中小型Ai公司,根本不需要用到高階
01/27 20:27
→
kougousei
什麼買兩代前硬體就夠好不好
01/27 20:27
→
strlen
但感覺大家的目標還是AGI 就連DS自己也說目標是AGI
01/27 20:27
→
kinki5566
蘋果出個i16minus 性能只有i8 價格1000台幣 一定賣
01/27 20:27
→
kinki5566
到爆好不好
01/27 20:27
→
strlen
既然目標是AGI 總不會連國中數學題都解不出來吧
01/27 20:27
→
kensmile
什麼i8,i16鬼打牆的舉例
01/27 20:27
→
strlen
是不是先用新硬體加新算法 幫幫忙解一下國中數學?
01/27 20:28
→
kensmile
終端消費電子是消費者偏好
01/27 20:28
→
strlen
連國中數學都解不開 這算是 夠用 嗎?
01/27 20:28
→
kensmile
不是生產者成本
01/27 20:28
推
edward0811
例如5070不需買到5090差距才對吧
01/27 20:28
→
strlen
還是覺得 AI只要能拿來問問附近有什麼好吃的 就好
01/27 20:28
→
strlen
那其實連GPT3都夠用了
01/27 20:29
推
tai890123
其實重點就是這套算法用高階的硬體去跑
01/27 20:29
→
tai890123
能不能有更高的效率 如果有
01/27 20:29
→
tai890123
那最後大家都採用這算法 還是有硬體需求啊
01/27 20:29
→
strlen
現在的LLM還遠遠不足吧?多模態算法也可以改進下嗎
01/27 20:30
→
tai890123
重點是因為他是開源大家都能學吧
01/27 20:30
推
a22530722
接下來大家模型都一樣強 還是得回歸到比硬體吧.....
01/27 20:30
→
strlen
DS好像也沒有語音AI 也沒有圖像AI 影片AI
01/27 20:30
→
strlen
通通都提升 然後結合在一起 或許才摸到AGI的邊吧?
01/27 20:30
噓
liliumeow
問題是目前大廠的最終需求很可能大砍 那預期未來要
01/27 20:32
→
liliumeow
砍之後 你現在的議價權整個就沒了
01/27 20:32
推
lolpklol0975
https://i.imgur.com/1eErjQL.gif
01/27 20:33
→
mongduo
商轉要加速了,請找好標的。
01/27 20:33
推
tai890123
除非證明這套算法用高階的硬體跑不會有效提升
01/27 20:33
→
tai890123
不然為啥需求會掉?
01/27 20:33
→
tai890123
難道大家不會繼續往上追求了嗎
01/27 20:33
→
tai890123
難道有人覺得 ai已經不能再提升了
01/27 20:34
→
tai890123
DS現在能做到已經是完美的嗎?
01/27 20:34
→
tai890123
前面就很多人列舉了他的缺點
01/27 20:34
→
tai890123
包括記憶不足的問題 這些都是好硬體能解決的捏
01/27 20:34
→
strlen
應該是說 大家對AI能力的上限要求到哪邊
01/27 20:35
→
strlen
如果覺得r1就是終點了 不用再提升了 我們這樣就好
01/27 20:35
→
strlen
那當然硬體就下去啦 但很明顯連DS自己都說希望提升
01/27 20:35
→
strlen
硬體 有機會的話 還可以弄出更好的AI
01/27 20:36
→
kougousei
如果有人覺得現在這些模型就是ai的重點 那真的
01/27 20:36
推
lusifa2007
找理由空而已 有核彈為什麼還要近一步研究氫彈 因
01/27 20:36
→
lusifa2007
為要比對手更近一步
01/27 20:36
→
kougousei
科技股賣一賣 如果ai這麼蠢大家就滿足的話
01/27 20:36
→
lusifa2007
怎麼會有人以為DS不想搞到gb200
01/27 20:36
→
lusifa2007
它是搞不到
01/27 20:37
推
naligono
長期還不明朗 但短期需求鐵定大幅下修啊 不然在跌
01/27 20:38
→
naligono
什麼?
01/27 20:38
→
strlen
短空是一定的 因為人很容易滿足 覺得這樣就好的人多
01/27 20:38
→
strlen
我自己用到現在的感覺 AI在生產力工具上 零件的提升
01/27 20:39
→
strlen
已經慢慢有在起來了 一年前那個根本是很掉漆
01/27 20:39
→
IBIZA
其實不是DS想不要搞GB200, 你要問的他用多少總算力
01/27 20:39
→
IBIZA
達到這個結果
01/27 20:39
推
PalmAngels
范紐曼瓶頸
01/27 20:39
→
strlen
現在是堪用 但理想是產出零件 自己組合成系統
01/27 20:39
→
strlen
我想如果你親自去問DS梁文峰算力夠嗎 他絕對跟你說
01/27 20:41
→
IBIZA
如果真的只要1/50算力 就能達到可以接受的結果
01/27 20:41
→
strlen
遠遠不夠的啦 XD
01/27 20:41
→
strlen
至少目前看到的所有業內 都不認為算力夠了 都是外圍
01/27 20:41
→
strlen
的在講
01/27 20:41
→
IBIZA
我不用問他 他的api定價是open ai的1/100
01/27 20:41
→
strlen
DS認為這是可接受的結果 但有想停在這裡嗎
01/27 20:42
推
stpada
更強的硬體 但更少的數量 不就有overbooking 疑慮
01/27 20:42
→
IBIZA
而且open ai是虧損50%, 他是盈利50%
01/27 20:42
→
IBIZA
沒人說他會停在這
01/27 20:42
→
xephon
後面要看模型有沒有碰到天花板,堆算力效果不一定好
01/27 20:42
→
IBIZA
問題就是 整個市場如果只需要1/50的算力就能達到
01/27 20:42
→
strlen
昨天有人貼訪談 他的目標 說AGI耶 r1是AGI嗎 XD
01/27 20:42
→
IBIZA
現在的需求 那剩下的49/50的算力是不是要大拍賣?
01/27 20:42
推
bagaalo
可以接受的結果?怎麼要算可以接受?目前都還是在軍
01/27 20:42
→
bagaalo
備競賽,比賽到一半而已,又有什麼結果?
01/27 20:42
推
lusifa2007
盈利50%?它有宣布盈利了嗎? 有這則新聞?
01/27 20:42
→
strlen
本身都發願了 所以市場覺得這樣夠了 他就退休了?
01/27 20:43
→
IBIZA
r1不是AGI 現在談的是市場 不是DS自己的發展
01/27 20:43
→
IBIZA
很簡單啊 現在open ai 1M tokens input是12美元
01/27 20:43
→
strlen
DS在LLM是站穩一點了 還有多模態等著你呢 加油啦
01/27 20:43
→
IBIZA
DS是0.12美元
01/27 20:43
→
strlen
怎不是談DS自己發展?AI不談發展談啥?
01/27 20:44
→
IBIZA
而且DS開源 等一堆中型企業架起他們的LLM伺服器
01/27 20:44
→
IBIZA
你看這市場怎麼走?
01/27 20:44
→
IBIZA
AI市場不是只有DS自己發展吧XD
01/27 20:44
→
strlen
更便宜效率更好 本來就是可預期的事 老黃去年演講也
01/27 20:45
→
strlen
自己早就預測算法一定會改進 AI成本會變更低
01/27 20:45
→
IBIZA
更便宜 效率更好 突然暴增50倍的算力 有50倍需求能
01/27 20:45
→
strlen
老黃自己早就心裡有底也說好幾次了.......
01/27 20:45
→
IBIZA
吃下來嗎
01/27 20:45
推
tai890123
問題是這個可接受的結果在哪
01/27 20:45
→
tai890123
以科技業來說 他們一定都是追頂這個沒疑問吧
01/27 20:45
→
tai890123
以日常來說 有gpt4跟3擺在你眼前
01/27 20:45
→
tai890123
你覺得兩者差距不大 那你的接受區間比較大
01/27 20:45
→
tai890123
那確實就不用往上追
01/27 20:45
→
tai890123
只是這種人多嗎
01/27 20:45
→
tai890123
至少我自己能用4絕對不會回頭用3
01/27 20:45
→
IBIZA
沒有的話 那堆積算力就要停下來了
01/27 20:45
→
strlen
暴增的50倍算力 是不是就可以拿來提升AI 讓它至少可
01/27 20:46
→
strlen
以解國中數學題 XD
01/27 20:46
→
IBIZA
.....
01/27 20:46
推
bonfferoni
可接受結果應該是商轉應用的方面 不是科技巨頭在爭
01/27 20:46
→
strlen
還是你覺得國中數學題不重要?我還以為AI說要用在教
01/27 20:46
→
strlen
育是說說而已
01/27 20:46
→
IBIZA
你先搞清楚整個AI市場是長怎樣好嗎
01/27 20:46
→
IBIZA
OpenAi一年大概80億的支出 這部分是OpenAi自己進化
01/27 20:47
→
IBIZA
的費用
01/27 20:47
→
strlen
https://i.imgur.com/NzENwNa.png 先用50倍算力解吧
01/27 20:47
推
tai890123
追根究底就是需求有沒有過剩
01/27 20:47
→
tai890123
如果真的過剩 還真的不一定需要這麼好的硬體
01/27 20:47
→
tai890123
就跟你買電腦
01/27 20:47
→
tai890123
如果只用1080p螢幕幹嘛買90顯卡一樣
01/27 20:47
→
IBIZA
微軟的800億美元投資 則是架構平台 提供API給市場
01/27 20:48
→
IBIZA
上所有需要AI的企業 去呼叫微軟佈設 以ChatGPT
01/27 20:48
→
strlen
那個國中數學就證明 AI多模態這邊 還有得玩勒
01/27 20:48
→
IBIZA
為底層的應運
01/27 20:48
→
IBIZA
應用
01/27 20:48
→
kobebrian
這樣回比較快 現在的市場連最文組的公司都覺得gpt
01/27 20:49
→
kobebrian
遠遠不及格 用1/50的算法有一樣的效果 應該要想的
01/27 20:49
→
kobebrian
是我要怎麼用49/50做得更好讓更多人買單
01/27 20:49
→
IBIZA
所有平台的成本 是OpenAi本身的幾十倍吧
01/27 20:49
→
IBIZA
kobebrian你搞錯了
01/27 20:49
推
tai890123
對 所以大前提就是 1/50真的能滿足市場需求嗎
01/27 20:49
→
strlen
CSP應該不會受影響 DS開源只會引來更多中小加入
01/27 20:49
→
kobebrian
如果open ai用這套算法配上頂規鏟子下去算能更滿足
01/27 20:49
→
kobebrian
客戶 我看不出為啥不做的道理 因為其他大公司肯定
01/27 20:49
→
kobebrian
也會這麼作
01/27 20:49
→
strlen
有錢就買GB200 沒錢就直接租 本來想玩的覺得太貴
01/27 20:50
→
tai890123
如果能滿足 確實硬體不用往上升了
01/27 20:50
→
tai890123
只是目前我覺得遠遠還沒滿足
01/27 20:50
→
IBIZA
openai要進步 是openai這一個非營利組織的任務
01/27 20:50
→
strlen
現在想玩的更多門檻更低 CSP照收租用的費用
01/27 20:50
→
IBIZA
微軟則拿openai的成果 做成平台給其他企業使用
01/27 20:50
→
kobebrian
你不說open ai也沒差 總之市場對gpt 4o的服務可是
01/27 20:50
→
kobebrian
遠遠沒打到「滿意」
01/27 20:50
→
kobebrian
也就是剩下的49/50 還有很大的開發空間 這就要有強
01/27 20:51
→
kobebrian
大的硬體配合這套算法支撐 更何況這套算法並沒有真
01/27 20:51
→
kobebrian
的這麼「新創」
01/27 20:51
→
IBIZA
現在 一家中型公司 只要佈設微軟1/50的算力
01/27 20:51
→
IBIZA
運作使用DS模型 就能提供跟微軟一樣的服務
01/27 20:52
→
IBIZA
這樣看得懂嗎
01/27 20:52
→
kobebrian
你還在想只要「這樣」的服務 可以省好多錢 但大公
01/27 20:52
→
kobebrian
司要的是吃更多的市佔率 而現在有了這套算法 就能
01/27 20:52
→
kobebrian
用更好的產品去搶市佔
01/27 20:52
→
strlen
這樣不是一堆本來因為成本不敢進場的公司通通跳進來
01/27 20:52
→
IBIZA
那就是看市場需要多少算力
01/27 20:52
→
strlen
那算力需求會變少嗎?嗯?
01/27 20:52
→
kobebrian
如果你覺得現在微軟的服務市場滿意的話 當我沒說
01/27 20:53
→
IBIZA
對 會有一堆中小公司跳進來
01/27 20:53
→
IBIZA
但之前已經投資的算力 回收期就更慢了
01/27 20:53
→
IBIZA
而且這些中小公司並不需要佈設跟微軟一樣高的算力
01/27 20:53
推
tai890123
對 但微軟就能拿著另外49/50做其他事
01/27 20:53
→
tai890123
(因為他們也能用這個模型)
01/27 20:53
→
tai890123
可是你那家中型公司因為硬體不足 只能做到1/50
01/27 20:53
→
tai890123
所以做不到這件事
01/27 20:53
→
tai890123
這樣不就被屌打了嗎
01/27 20:53
→
tai890123
除非這1/50已經滿足了所有需求
01/27 20:53
→
IBIZA
他可能採購比較差的GPU就能提供服務了
01/27 20:53
→
kobebrian
然後我還講到一點 就算是更小的算力也是H100 然後
01/27 20:54
→
kobebrian
還滿足不了市場需求 然而現在能拿出這等級晶片的公
01/27 20:54
→
kobebrian
司…也就一家
01/27 20:54
推
gladopo
砸ai錢的目的不是為了"只是這樣"的服務
01/27 20:54
→
IBIZA
微軟要拿49/50做甚麼?
01/27 20:54
推
as6633208
中國的語言模型的問題就是只能開源,因為中國要收錢
01/27 20:54
→
as6633208
根本沒有企業敢用,誰用就是把資料丟給中國政府利用
01/27 20:54
→
as6633208
,而這個困境監獄是中國自己蓋的,他們只能開源給別
01/27 20:54
→
as6633208
國改良,沒辦法發展自己的,因為沒有使用者
01/27 20:54
→
strlen
微軟CEO在講的傑文斯悖論 就是在講這件事
01/27 20:54
→
IBIZA
LLM的算力 基本上是需要的人 餵資料 得到結果
01/27 20:55
→
kobebrian
現在的服務遠遠達不到市場的需求 當年大家覺得能連
01/27 20:55
→
kobebrian
網的手機就好棒棒了 結果一個哀鳳讓消費者見識到什
01/27 20:55
→
kobebrian
麼是「符合需求」 更何況現在連最廢的文組都知道AI
01/27 20:55
→
kobebrian
服務超難用
01/27 20:55
→
IBIZA
微軟本身是提供平台 他不是餵資料的人
01/27 20:55
→
IBIZA
kobebrian, 算力變高 不會讓AI更聰明...
01/27 20:55
→
strlen
微軟那個平台怎麼可能沒存資料..............
01/27 20:56
→
IBIZA
AI的能力是看核心 ChatGPT 3.5 4.0 這個是質的進步
01/27 20:56
→
IBIZA
但同一個核心算力增加 就是服務更多人而已
01/27 20:56
→
strlen
要讓AI更聰明 是不是還是要算力.........
01/27 20:56
→
IBIZA
不會變聰明
01/27 20:56
→
IBIZA
不是
01/27 20:56
→
IBIZA
要讓AI更聰明是 OpenAI要開發出下一代模型
01/27 20:57
→
IBIZA
跟微軟提供多少算力沒關係
01/27 20:57
→
strlen
算力分兩種 就訓練用跟服務用 都需要阿怎麼不需要
01/27 20:57
→
IBIZA
微軟的算力又沒拿來訓練新模型
01/27 20:57
→
IBIZA
微軟的算力是提供客戶算自己的應用的
01/27 20:57
→
IBIZA
OpenAI的算力 才是訓練新LLM模型用的
01/27 20:58
→
IBIZA
這很難懂嗎
01/27 20:58
推
narotic
現在有什麼應用是一定要用金鏟子來挖的嗎...
01/27 20:58
→
IBIZA
微軟的算力 是給你我他訂閱Copilot的人用的
01/27 20:58
→
IBIZA
除非OpenAi的下一代參考DS 不然DS不會影響OpenAi的
01/27 21:00
→
IBIZA
下一代訓練要花的時間跟成本
01/27 21:00
→
IBIZA
但市場上 如果開始使用DS架設LLM伺服器
01/27 21:00
→
IBIZA
同樣的算力可以算出50倍的結果
01/27 21:00
→
IBIZA
市場有這麼多算力需求嗎
01/27 21:00
→
IBIZA
同樣的算力可以服務50倍的算力需求
01/27 21:01
→
IBIZA
DS這個價格 會讓算力需求暴增好幾倍
01/27 21:02
→
IBIZA
但同樣硬體的算力能力也暴增50倍
01/27 21:02
→
IBIZA
看得懂嗎
01/27 21:02
→
IBIZA
現在DS開出的 100萬個tokens input價格是openai的
01/27 21:03
→
IBIZA
1/100, 可以想像阿貓阿狗都能使用DS
01/27 21:03
→
IBIZA
應用會大爆發 最起碼成本會降很多
01/27 21:04
→
IBIZA
但對平台跟晶片來講 爆發的需求是否能抵銷硬體能力
01/27 21:04
→
IBIZA
暴增50倍?
01/27 21:05
推
g27834618
目標是agi 不會想用更好的硬體?
01/27 21:06
→
IBIZA
其他AI平台也是一樣 它們成本都跟openai差不多
01/27 21:06
→
IBIZA
這你要問 誰的目標是agi
01/27 21:06
→
IBIZA
其實對使用者來講 不會在乎用的是agi或MoE
01/27 21:07
→
IBIZA
使用者能解決問題就好 你會在意你問的對象是通用智
01/27 21:08
→
IBIZA
慧 還是為了特定目的開發的特地目的AI?
01/27 21:08
→
IBIZA
目標AGI, 指的是像是openai這種研發模型的公司的目
01/27 21:09
→
IBIZA
標 不是市場需要AGI
01/27 21:09
噓
csking811116
重點是ChatGPT要錢 DS開源免錢效能還比較好
01/27 21:10
→
IBIZA
先不說 目前的LLM到底是不是走在通往AGI的道路
01/27 21:10
→
csking811116
我就問免費的香不香
01/27 21:10
→
IBIZA
就算是好了 短期內 商業使用也沒有AGI甚麼事情
01/27 21:10
→
csking811116
便宜治百病 才不管甚麼效能只有80%
01/27 21:11
推
j0987
推
01/27 21:11
→
IBIZA
AGI其實比較像一個聖杯
01/27 21:12
→
MTKer5566
很多人沒當過資方,成本差50倍,不是1萬和50萬的差
01/27 21:14
→
MTKer5566
別,是1億和50億的差別,到時候是10億和500億差了4
01/27 21:14
→
MTKer5566
90億的成本,大股東絕對幹翻你們這些什麼狗屁首席
01/27 21:14
→
MTKer5566
科學家、架構師
01/27 21:14
→
IBIZA
以微軟來講是800億 美元啊
01/27 21:15
→
IBIZA
如果真的可以用大約20億美元硬體 提供跟微軟一樣的
01/27 21:16
→
IBIZA
算力...
01/27 21:16
→
MTKer5566
如果是10萬和500萬等級的產品差別,那這個東西沒有
01/27 21:16
→
MTKer5566
人行門檻,今天可以把要上百億門檻的產業變成只要1
01/27 21:16
→
MTKer5566
-2億,這門檻變超低的好嗎
01/27 21:16
→
MTKer5566
這會產生化學變化呀,以中國人的狼性,知道原來硬
01/27 21:18
→
MTKer5566
體需求那麼低,不卷翻歐美才怪
01/27 21:18
→
IBIZA
其實我就不知道 AI應用 盤前在殺什麼 不過好像有
01/27 21:18
→
IBIZA
回來一點了
01/27 21:18
噓
goodideals
AGI都還沒出來說高階沒用會不會太早了
01/27 21:19
推
goodideals
你對手砸錢往AGI邁進 你不跟砸嗎
01/27 21:23
→
goodideals
除非啦 你今天用DS 2000顆組成AGI 再來說算力泡沫
01/27 21:24
→
rebel
我覺得你先搞清楚再來評論 AI的模型就是有個滿足點
01/27 21:25
→
rebel
過了滿足點更多的算力也不見得結果會更好 甚至某
01/27 21:25
→
rebel
些情況還更差 現在就是做到這個滿足點的成本大降
01/27 21:25
→
rebel
不是無限堆算力就有用
01/27 21:25
→
IBIZA
AGI還沒出來 就不關市場的事啊
01/27 21:25
→
IBIZA
一家公司堆算力是能堆多少?
01/27 21:25
→
IBIZA
以openai一年的經費80億來看 只有微軟資本支出的
01/27 21:26
→
IBIZA
1/10, 而且他也不是全部堆資本
01/27 21:26
推
junior020486
其實為什麼大家都相信DS真的只用1/50的算力啊,他
01/27 21:26
→
junior020486
公布的數據是真實的嗎?
01/27 21:26
→
IBIZA
樓上 但他開出來的訂閱價格確實是openai的1/100左右
01/27 21:27
噓
goodideals
阿就還沒做出AGI你怎麼知道AGI需要多少算力才夠…
01/27 21:27
→
CYL009
問矽谷那群傢伙 他們有意無意也證實 不然幹嘛爆開來
01/27 21:27
→
junior020486
也不知道他是不是又吃到中國補助打價格戰
01/27 21:27
→
IBIZA
100萬個tokens的報價 openai是15美元, DS是0.12美元
01/27 21:27
→
IBIZA
@goodideals 你先搞清楚那些算力是在做LLM->AGI
01/27 21:28
→
IBIZA
那些算力是在做一般商業應用 好嗎?
01/27 21:28
→
rebel
很多人再說AGI 我不確定市場上已經普遍接受我們現
01/27 21:28
→
rebel
在就是要做出AGI 依我業內的看法 AGI是長遠目標 但
01/27 21:28
→
rebel
現在的演算法還做不到 你給他多少算力都一樣 要等
01/27 21:28
→
rebel
下一次的AI大爆發了
01/27 21:28
→
IBIZA
用在發展AI模型本身的算力大概是總算力的百分之幾
01/27 21:29
→
junior020486
如果吃補助打價格戰,感覺就是要反傾銷+更嚴格的晶
01/27 21:29
→
junior020486
片禁令
01/27 21:29
→
IBIZA
而已
01/27 21:29
→
IBIZA
@junior020486 DS是開源的 任何公司都可以拿程式碼
01/27 21:29
→
IBIZA
去訓練自己的AI模型
01/27 21:29
→
IBIZA
騙不了人
01/27 21:29
推
goodideals
阿對手砸錢往AGI前進 你要不要跟 不跟你就等著對手
01/27 21:30
→
goodideals
做出AGI然後通吃市場
01/27 21:30
→
IBIZA
唉
01/27 21:30
→
IBIZA
為什麼goodideals永遠聽不懂
01/27 21:30
推
junior020486
這樣子真的夠戲劇化,七巨頭一夜之間被中國打趴
01/27 21:31
→
junior020486
我封關買的TSM直接虧爛,好險我有7-8倍的美債凹回
01/27 21:31
→
junior020486
來
01/27 21:32
推
rebel
那做不出來呢 公司要砸所有資源去賭嗎 以為公司不
01/27 21:32
→
rebel
用評估預算可行性嗎
01/27 21:32
→
IBIZA
@goodisdeals 你要理解 市場上有些公司是做AI模型
01/27 21:33
推
AirLee
這代表資本額比較小的公司也能加入開發的行列了啊
01/27 21:33
→
AirLee
,鏟子還是有生意。
01/27 21:33
→
IBIZA
有些是做平台的
01/27 21:34
推
junior020486
不過台積先進製程最大客戶還是蘋果,大不了資本支
01/27 21:35
→
junior020486
出不要擴那麼快
01/27 21:35
→
IBIZA
做AI模型的公司 才有你所謂砸錢往AGI前進的問題 但
01/27 21:35
→
junior020486
不過算力成本降那麼多,真的一堆小公司也可以進來
01/27 21:35
→
junior020486
萬
01/27 21:35
→
IBIZA
這些公司的支出只有整個AI市場的零頭
01/27 21:35
推
rebel
我就問你 AI早就在199x年擊敗西洋棋冠軍 為什麼20
01/27 21:36
→
rebel
年後才擊敗圍棋 是這中間算力不夠嗎?不是 是演算
01/27 21:36
→
rebel
法不對 不對的演算法給多少算力都沒用 辦不到就是
01/27 21:36
→
rebel
辦不到
01/27 21:36
→
junior020486
這樣川普那個stargate不知道還搞不搞
01/27 21:36
→
IBIZA
AI市場目前絕大部分的資本投資 是佈設平台給一般人
01/27 21:36
→
IBIZA
做商業使用
01/27 21:37
→
rebel
如果AGI是現有的演算法做不到的 你堆多少算力也都
01/27 21:37
→
rebel
沒用
01/27 21:37
推
AirLee
以後的機器人無人機也還是需要晶片啊,TSM還是能撿
01/27 21:37
噓
kasimroll
支那網軍開始進攻嘍
01/27 21:37
→
junior020486
可以99TSM嗎
01/27 21:38
→
AirLee
過往程式語言的效率增加 硬體的需求還是越來越高
01/27 21:39
→
AirLee
硬體還是存在著前景
01/27 21:39
→
AirLee
還有子彈的 慢慢接接TSM就對了
01/27 21:39
→
IBIZA
過往因為硬體效能增加快 程式語言其實不太講究效率
01/27 21:40
→
IBIZA
但這一次是軟體效率突然增加50倍
01/27 21:40
推
rebel
軟體還是很講求效率啦...我們做code review不是做
01/27 21:45
→
rebel
假的
01/27 21:45
→
IBIZA
現在寫程式哪需要像以前要把512K 1M榨乾..
01/27 21:47
→
antigidu
中國用低廉的成本 卷爆歐美AI泡沫
01/27 22:07
→
Liberl
https://reurl.cc/EgyGVv Miula正在直播講deepseek
01/27 22:08
→
strlen
微軟哪來的沒有自己訓練AI.............
01/27 22:22
→
strlen
https://www.ithome.com.tw/news/162479
01/27 22:22
→
strlen
然後另一個問題是 現在這種等級的AI 到底有沒有解決
01/27 22:23
→
strlen
使用者問題 使用者不管哪種架構是沒錯 但你AI有沒有
01/27 22:23
→
strlen
真正解決使用者痛點 目前看起來 很早得很
01/27 22:23
→
strlen
就算我現在直接拿來當生產力工具 也只覺得堪用而已
01/27 22:24
→
strlen
更何況各行各業 看單單一個客服AI 現在的就沒辦法了
01/27 22:24
→
strlen
不然現在9成企業早就把客服通通換成AI 為何沒發生?
01/27 22:25
→
strlen
這樣的AI 真的夠了嗎?自己好好想想吧
01/27 22:25
→
kobebrian
你確定大公司不會或沒有在做自己的模型嗎?
01/27 22:51
推
ksjr
我是覺得硬體/其他研發的支出比例會改變拉
01/27 23:06
推
c41231717
DS這個算是AI的福特時刻啊 以前車子很貴 當變成家
01/27 23:50
→
c41231717
家都能負擔得起的時候 反而市場變更大了 車廠每個
01/27 23:50
→
c41231717
都賺錢 且出現更多車廠
01/27 23:50
推
ProTrader
我覺得外行人對AI有些誤解 我用無線電話類比
01/28 00:11
→
ProTrader
早年有巨無霸黑金剛無線電話在市場交易
01/28 00:12
→
ProTrader
有間廠商把巨無霸黑金剛的成本降成1/50會獨霸市場??
01/28 00:13
→
ProTrader
答案是被智障型手機霸主Nokia3310淘汰出局
01/28 00:14
→
ProTrader
有間廠商把智障型手機的成本降成1/500會獨霸市場??
01/28 00:15
→
ProTrader
答案是被蘋果的智慧型手機淘汰
01/28 00:16
→
ProTrader
回到AI DS的成本是現有產品1/50能獨霸市場??
01/28 00:17
→
ProTrader
答案是會被下一代的AI模型淘汰
01/28 00:17
→
ProTrader
我認為覺得未來還會有更好更完備的AI模型問世
01/28 00:19
→
ProTrader
現在的AI模型終究會被淘汰
01/28 00:19
→
ProTrader
DS作的事情稱為演算法優化 這是資工人的基本工作
01/28 00:20
→
ProTrader
不需要因為政治立場否認DS的成果
01/28 00:22
→
ProTrader
有某個好模型資工人本來就會努力去開發快速演算法
01/28 00:23
推
a10043305
天花板都還沒看到就在想cost down 台灣人終究只能是
01/28 00:23
→
a10043305
台灣人
01/28 00:23
→
ProTrader
但未來一但有更好的AI模型 現有演算法就會自動淘汰
01/28 00:24
→
Sinkirou
我寧願相信狗吃屎也不相信中共
01/28 00:31
→
redskyism
這是一個簡單數學問題,不用講這麼多。一台電腦就能
01/28 00:35
→
redskyism
跑幹嘛買十台,硬體供應商慘了!
01/28 00:35
→
cosplayH
很急哦
01/28 00:59
→
straggler7
不是所有人都追求0百加速
01/28 06:16