📋 PTT 文章瀏覽
※ 引述《cycutom (cycutom真的不出門的那漳)》之銘言: : 我付費AI也玩了一陣子 : 訂閱了三個以上的AI吧。都20美金等級的 : (還每個都年繳,想說可以省一點) : 其中一個用一用很滿意,就那個升級到60美的 : 就專用那一個,用一用,就開始體驗到了 : 額度不夠用的問題,但再上一層就要到一個月200美,那我真的有點受不了 : 然後就開始研究本地架AI,想說這樣可以免費用到爽 : 但發現,你在本地架AI,架是架的起來,但你的顯卡如果普普,只能 : 跑「低B等級的模型版本」,就沒啥屁用 : 像我的顯卡2080,都這種感覺了。 : 你想要架一個「堪用等級的模型」,你至少要一張台幣5萬以上的顯卡 : 為了這5萬的顯卡,你還要再花3萬,組成一台電腦。 : 花8萬.........那你不如乾脆拿這8萬去年繳「月付100鎂的付費模式」 : 可以繳好幾年..... : 重點:付費AI的能力比你「本地架的開源AI」的能力強大太多了.... : 所以說到底................到底「在本土架AI的意義」在哪?= = 大家好我街K啦 其實大家都陷入了所有事情都要讓最強大的AI來做的迷思 我御三家都有訂閱,現在Claude也海放200鎂來寫程式 另外還買了台mac mini m4 pro 64G來跑本地AI 確實本地AI的能力有限、創作力不足,頂多只能拿來跑自動化跟資訊檢索 但是最強大的Claude Opus也有自己的盲點 我也是最近才瞭解原來單用Opus來寫程式 反而效果比用Sonnet跟Opus advisor組合寫程式還差 Agent Orchestra的綜合能力遠比單一高階AI還要強大、而且更省錢 另外本地AI也更新的很快,兩個月前只能打嘴炮的Qwen3.5到現在可以寫小程式的Qwen3.6 可以想像再過幾個月應該就會有媲美Haiku等的的本地AI模型出世 本來我一開始是用Opus計畫、Sonnet執行、Opus跟Codex驗收 沒想到Token用量反而比Opus單獨運作還高、因為驗收時Opus等於要重新讀Sonnet的作業 後來爬文才慢慢改進到現在的 Sonnet計畫執行、卡關時Opus建議、Haiku Qwen3.6跑情搜或是格式轉換、Codex驗收 原本200鎂的Cladue Max 20x可能跑3,4天就爆了 現在跑一個禮拜還有剩個20,30% 我甚至還可以每天跑大規模跑虛擬用戶除錯 在Best of N(MAGI三腦投票策略)的用戶偵錯步驟,本來都要用付費模型 現在是GPT5.4-nano + Grok4.1-no reasoning + 本地Qwen3.6:35B 不但又省了一小筆token費用,還可以增加投票的多樣性 本地AI主要還是看你的使用情境 之前我就看到有高手自己拿幾張5090架了私人Comfyui一條龍的暗黑生圖生動畫服務app 聽說買生圖點數的人絡繹不絕,應該不到半年就能回收成本 總之AI生成的方向已經確定是朝向大小多AI合作前進 本地AI模型的成長速度也是相當驚人、恐怕再過一兩年就可以達到Sonnet的程度 --   以筆為槍     藉嘴為砲 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 125.253.50.34 (澳大利亞) ※ 文章網址: https://webptt.cc/bbs/Gossiping/M.1777081351.A.0D6.html 不是歐,不是這樣。基本上讓Sonnet分配分工計畫、Haiku跟Qwen做些無關緊要的小動作 這樣錯誤率不會提昇太多、同時又能省更多Token 而且Sonnet好用的地方式他會乖乖用skill Opus因為太聰明常常自己開始中途寫小skill 放大運作時間後就開始出錯 而且context window也是影響品質的很大因素 所以sub agents可以間接節省context被 重複無義意的工作塞滿 最後再用codex或是opus跑一下偵錯就可以很完美了 ※ 編輯: jacksonli (125.253.50.34 澳大利亞), 04/25/2026 10:03:41

推文 (18)

cycutom 幹,光這個月,你有把訂閱費賺回來嗎?== 111.185.43.28 04/25 09:47
gunfighter 自己架當然是為了瑟瑟 連GROK都縮了 114.42.40.232 04/25 09:48
gunfighter 現在是大好時機 114.42.40.232 04/25 09:48
cycutom 我之前就被Haiku白白浪費一整天的時間 111.185.43.28 04/25 09:49
cycutom 對Haiku這等級的模型已經PTSD了 111.185.43.28 04/25 09:49
cycutom 還有你想到的「高階AI去指揮計劃,低階AI 111.185.43.28 04/25 09:51
cycutom 去做低階實作工作」,這我早就想到了。但 111.185.43.28 04/25 09:51
cycutom 有時你都已經寫到「全域規則」強制AI去這 111.185.43.28 04/25 09:52
cycutom 樣做事,但AI會一直說「我忘了你這樣叫我 111.185.43.28 04/25 09:52
cycutom 做事」。簡單來說AI背後的軟體公司「故意 111.185.43.28 04/25 09:53
cycutom 」不讓你這樣玩。故意讓你儘可能的直接用 111.185.43.28 04/25 09:53
cycutom 高階AI做任何事來加速燒token(你的錢) 111.185.43.28 04/25 09:53
cycutom 馬的,有點想乾脆自已來寫「AI路由」算了 111.185.43.28 04/25 09:54
error405 不是給AI寫嗎 114.36.252.228 04/25 09:56
cycutom 樓上,是也沒錯啦....= = 111.185.43.28 04/25 09:57
cycutom 反正就是自己寫個「聽話的AI路由」出來 111.185.43.28 04/25 09:57
gm3252 暗黑能用本地永遠都不會死 42.76.128.175 04/25 17:53
gm3252 那些寫程式功能大多數用戶不會在意 42.76.128.175 04/25 17:53
‹ 回 八卦板 列表