想請教
架設本地ai主機
同樣的硬體規格,用win和ubuntu
在跑「記憶體滿載」的模型時,能處理的規模
真的有「明顯」的差距嗎?
還是其實根本沒什麼差?
因為用linux架,真的有些麻煩
所以有點想乾脆之後用win就好了…
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.136.251.94 (臺灣)
※ 文章網址: https://webptt.cc/bbs/Gossiping/M.1776515903.A.627.html
推文 (35)
→
kissmickey
其實拿十年前電腦也可以跑啦
123.192.80.187 04/18 20:41
→
kissmickey
速度慢了點 你吃完泡麵才可能跑出結果
123.192.80.187 04/18 20:41
推
zeumax
差很微小,Win會多吃1Gb rax,但Linux對
39.10.72.92 04/18 20:42
→
zeumax
顯卡支援其實沒有Win好,一來一往沒差別
39.10.72.92 04/18 20:42
→
zeumax
會有差是你有特規去調,你自用簡單點
39.10.72.92 04/18 20:43
→
zeumax
輝達是不打算去支援Linux系調校的,除非你
39.10.72.92 04/18 20:45
→
zeumax
技術力夠,而且靠這吃飯,不然別浪費時間
39.10.72.92 04/18 20:45
→
kissmickey
一些延伸的東西win還是差了些
123.192.80.187 04/18 20:45
→
pennyleo
Zeu,所以是不是如果類似主板和顯卡記
114.136.251.94 04/18 20:45
→
pennyleo
憶體共用的那種主機,只要記憶體夠大,
114.136.251.94 04/18 20:45
→
pennyleo
Linux的優勢就消失了,是嗎
114.136.251.94 04/18 20:45
推
tetani
個人用戶只能選小一點的模型
61.227.193.121 04/18 20:46
→
froce
AI吃滿的是顯存吧?除非你用核顯。
61.224.167.247 04/18 20:47
→
froce
然後Linux可以用console模式部署,
61.224.167.247 04/18 20:47
→
froce
理論上是可以省GUI佔用的顯存
61.224.167.247 04/18 20:47
噓
freeunixer
搞那麼久結論是你不配搞 ai,玩沙去吧
60.250.90.238 04/18 20:50
→
freeunixer
錢砸下去,買台 128g ram,1t ssd 的MAC
60.250.90.238 04/18 20:51
噓
poqwiuer
乖乖用Mac Studio
42.72.245.208 04/18 20:53
推
zeumax
你是個人電腦改工作站,就WSL2最方便部署
39.10.72.92 04/18 20:54
→
zeumax
理論上夠大優勢消失有點不太準確,因為你
39.10.72.92 04/18 20:55
→
zeumax
夠大搞伺服器的話,業界Ai伺服器多是Linux
39.10.72.92 04/18 20:55
→
zeumax
:
39.10.72.92 04/18 20:55
→
johnhmj
怎麼問谷哥欸哎都是回答用Linux ?
49.216.93.140 04/18 20:55
推
tetani
128g的mac其實還是不夠 至少250g以上
61.227.193.121 04/18 20:56
推
kimi112136
linux對顯卡支援度沒有win好?認真?
111.250.210.231 04/18 21:15
→
freeunixer
linux 的 nv driver 跟垃圾一樣啊
60.250.90.238 04/18 21:43
→
reallurker
看你要跑甚麼領域 RAM先插滿 散熱要好
118.165.68.230 04/18 21:45
→
reallurker
實驗用數據還是要工作站
118.165.68.230 04/18 21:46
→
reallurker
單兵個人平台戰力很有限 不要想太美好
118.165.68.230 04/18 21:46
推
applejone
跑參數多的很慢,跑參數少的很笨,上
118.231.193.83 04/18 21:47
→
applejone
下文窗口超吃記憶體,沒有幾百萬不要
118.231.193.83 04/18 21:47
→
applejone
玩
118.231.193.83 04/18 21:47
推
kingstongyu
所以AI的程式碼哪來的?!
1.168.139.146 04/18 22:16
→
kingstongyu
直接以做成硬體的方式進行學習及算出
1.168.139.146 04/18 22:18
→
kingstongyu
回答的回應?!
1.168.139.146 04/18 22:18