

→ Sam27: 這技術主要是讓大家很期待明年的開源 36.232.110.19 10/24 17:51
→ giancarlo82: 第一張顯卡沒太厚的話 ATX機殼不都可106.107.240.191 10/24 17:51
→ giancarlo82: 以裝雙顯卡嗎106.107.240.191 10/24 17:51
我用的是ainar breeze n3,他最下面有個硬碟架,就被那個卡到了
現在看有沒有比較大一點的機殼
→ Sam27: strata出來5090大概從18萬漲到25萬,1個月 36.232.110.19 10/24 17:52
※ 編輯: a1e (36.228.115.23 臺灣), 10/24/2026 17:54:40
→ Sam27: 5080從4~5萬初現在6~7萬,5070ti也是 36.232.110.19 10/24 17:53
推 Fixble3203: 這就是大家家裡養大肥魚嗎 111.71.104.31 10/24 18:20
推 crazyman7011: 再下一步的MoE可能養不起了 203.69.36.212 10/24 19:14
推 are2: 樓上不用擔心 因為120B甜蜜點對應RTX PRO60 42.79.63.210 10/24 19:17
→ are2: 00 42.79.63.210 10/24 19:17
→ are2: 只要超過這甜密點 就失去開源推廣意義 42.79.63.210 10/24 19:18
推 are2: GLM跟DeepSeek就示範過越界 玩家少很多 42.79.63.210 10/24 19:23
推 newyorker54: glm, deepseek 會用到NVME swarp 硬 42.78.20.252 10/24 19:49
→ newyorker54: 碟很快就掛了 42.78.20.252 10/24 19:49
推 YCL13: DS V4 flash被Qwen 3.8 flash Next超過,在 1.161.191.203 10/24 20:02
→ YCL13: V4.1 flash變大很多,然後就如are2大說的玩 1.161.191.203 10/24 20:02
→ YCL13: 家變少很多 1.161.191.203 10/24 20:02
→ YCL13: a1e大在文中把DS V4 flash誤認成V4.1了 1.161.191.203 10/24 20:03
→ YCL13: 還有5090本來就是32G,不需要魔改 1.161.191.203 10/24 20:04
→ a1e: 記錯了,魔改版是48gb,這技術今年出現,可能 36.228.115.23 10/24 20:13
→ a1e: 後面各家開源AI會開始針對strata進行調整,讓 36.228.115.23 10/24 20:14
→ a1e: 更多模型可以讓strata跑的起來 36.228.115.23 10/24 20:14
推 are2: 我用qwen3.8flash next NVFP4體驗是明顯超過118.150.170.141 10/24 20:17
→ are2: deepseek V4118.150.170.141 10/24 20:17
→ are2: 目前與其擔心未來MOE愈來愈大 不如煩腦為來118.150.170.141 10/24 20:18
→ are2: 開源還玩得下去嗎?118.150.170.141 10/24 20:18
→ are2: 美國OpenAI Google Meta開源兩下就不玩了118.150.170.141 10/24 20:19
→ are2: 如果不是阿里巴巴去偷蒸餾Anythropic 估記沒118.150.170.141 10/24 20:20
→ are2: 我們本地玩家什麼事118.150.170.141 10/24 20:20
推 crystal0504: poly是優化給8g的吧,12gb以上還是st220.135.218.130 10/24 20:34
→ crystal0504: rata220.135.218.130 10/24 20:34
→ Sam27: 落後太多才會開源,前幾名就不會開源了 36.232.110.19 10/24 20:51
→ Sam27: 中國的影音seedance就不會開源 36.232.110.19 10/24 20:51
推 gohst1234: 本部10小時前有更新支援大肥魚V4.1-122.117.236.216 10/24 20:59
→ gohst1234: Flash了IQ2_XXS (2.00 bits)下載257 GB122.117.236.216 10/24 20:59
→ gohst1234: ,10 tokens/s (RTX 3060), 5 (RTX 5070122.117.236.216 10/24 20:59
→ gohst1234: ), 48 (4x R9700)122.117.236.216 10/24 20:59
推 laeva75: 可以試試project maya,我目前用它跑GLM5 1.170.244.95 10/24 21:21
→ laeva75: .3 Flash有測試比較過比polyStrata快很多 1.170.244.95 10/24 21:21
推 are2: DS V4.1量化壓到2bit又慢 實在沒動力去搞118.150.170.141 10/24 21:29
→ are2: 同意落後才會開源 但其實現在開源也才落後兩118.150.170.141 10/24 21:31
→ are2: 三個月而已118.150.170.141 10/24 21:31
推 neo19: 魔改是4090 48g 還有4080 4080s 32g 50系 114.36.180.178 10/24 21:32
→ neo19: 我記得無法改 頂多改成渦輪卡方便伺服器機 114.36.180.178 10/24 21:32
→ neo19: 殼 114.36.180.178 10/24 21:32
→ are2: 去年開源的落後進程可是差閉源一年以上118.150.170.141 10/24 21:32
→ a1e: 就算落後一年,你在你家布署gpt4一般人都很夠 36.228.115.23 10/24 21:38
→ a1e: 用了,這種大模型以前都不認為可以在家裡玩的 36.228.115.23 10/24 21:38
推 fbifxxkma: 哇當年挖礦神板,不用轉接可以直上6卡 49.217.199.59 10/24 21:48
推 are2: 當年挖礦神機變垃圾價後 現在又變黃金118.150.170.141 10/24 21:51
推 fbifxxkma: 可是第二卡pcie速度掉很多吧 49.217.199.59 10/24 21:57
推 are2: 最好都是X16的 冷熱專家交換會有影響118.150.170.141 10/24 22:01
→ a1e: 就先試試2060+3060這樣跑有沒有加成,如果變 36.228.115.23 10/24 22:18
→ a1e: 差就退回單卡運作 36.228.115.23 10/24 22:18
→ a1e: 要雙pcie 3.0又要都x16的am4有主機版做的嗎? 36.228.115.23 10/24 22:19
推 are2: 你先試試 但建議別自己手動調 請agent去研究118.150.170.141 10/24 22:23
→ are2: 別人有沒類似狀況與調優方法118.150.170.141 10/24 22:23
推 are2: 不要再用chatgpt貼來貼去隔空抓藥118.150.170.141 10/24 22:25
推 laeva75: AM4沒有那麼多PCIe Lanes,AM4要雙卡都x1 1.170.244.95 10/24 22:31
→ laeva75: 6的話要加PCIe Switch,strata類的推理框 1.170.244.95 10/24 22:31
→ laeva75: 架用的是layer slit比較不會雙卡同時搶頻 1.170.244.95 10/24 22:31
→ laeva75: 寬,每張卡都可以有x16 upstream 1.170.244.95 10/24 22:31
推 are2: 3060 12G就有一定流暢度了 最進ampere解禁可118.150.170.141 10/24 22:46
→ are2: 以加速看看118.150.170.141 10/24 22:46
推 laeva75: 剛測過,那個解封對strata沒什麼效果 1.170.244.95 10/24 22:49
→ laeva75: ... 1.170.244.95 10/24 22:49


推 are2: 看來是針對comfyui有加速吧118.150.170.141 10/24 23:02
推 CGary: 現在黃片都是跑那個模型呢?我用h3 總覺得 49.239.76.51 10/25 10:27
→ CGary: 一致性有點不足 49.239.76.51 10/25 10:27
推 newyorker54: 我覺得板標要改成記憶體太貴 36.237.157.245 10/25 13:51
推 kira925: 不用幫Frontier擔心 開源模型特別中國的 61.231.75.12 10/25 14:09
→ kira925: 自己玩可以 但是要投入實戰 產出/token 61.231.75.12 10/25 14:09
→ kira925: 用量不太行 Kimi K3/3.1特別嚴重 61.231.75.12 10/25 14:10
→ a1e: 我也是跑h3,prompt叫ai幫你改會比較輕鬆一點 36.228.127.112 10/25 14:53
推 pifang: h3瑟瑟要用eros,dasiwa落後挺多的 114.140.128.4 10/26 09:37
推 andrew6355tw: 硬碟架用電鑽把鉚釘鑽兩下就下來了. 114.36.14.244 10/26 16:17
推 CGary: 原來是用 eros , 謝謝樓上 我去試試看 58.191.147.162 10/26 16:17
推 jychu1132: DS4.1參數量和Q38FN差太多,目前還是大 36.225.103.178 10/26 16:27
→ jychu1132: VRAM有優勢 36.225.103.178 10/26 16:27
→ jychu1132: -DS4-1-6000.png 36.225.103.178 10/26 16:28
