🔥 PTT.BEST 批踢踢爆文 💬 八卦 Gossiping 😊 希洽 C_Chat 💰 股票 Stock 🏠 房屋 home-sale 🏀 美國職籃 NBA ⚾ 棒球 Baseball 👛 省錢 Lifeismoney 🚗 汽車 car 😡 政黑 HatePolitics 💻 電蝦 PC_Shopping 🥰 韓星 KoreaStar ✨ 英雄聯盟 LoL 🍿 電影 movie 🪖 軍事 Military 📡 通訊 MobileComm 🏀 台籃 basketballTW 🍼 寶媽 BabyMother 🇯🇵 日旅 Japan_Travel 🏭 科技 Tech_Job 👉 男女 Boy-Girl 👉 真香 CheerGirlsTW 👧 女孩 WomenTalk 👻 媽佛 marvel 💳 卡版 creditcard 👉 NS NSwitch 👉 PS5 PlayStation 👉 大氣 TY_Research 👉 婚姻 marriage 👉 台南 Tainan 👉 台中 TaichungBun 👉 Steam Steam 👉 高雄 Kaohsiung 👉 羽球 Badminton 👉 超商 CVS 👉 米哈遊 miHoYo 👉 iOS 👉 兄弟 Elephants 👉 日劇 Japandrama 👉 玄幻 CFantasy 👉 ES e-shopping 👉 WOW 👉 遊戲交易 Gamesale 👉 4X BaseballXXXX 👉 Lakers 👉 韓劇 KoreaDrama 👉 汽車買賣 CarShop 👉 機車 biker 👉 新竹 Hsinchu 👉 美保 BeautySalon 👉 串流 OTT 👉 歐美影集 EAseries 👉 手機交易 mobilesales 👉 健身 MuscleBeach 👉 MacShop 👉 Lions 👉 FGO FATE_GO 👉 中劇 China-Drama 👉 數位貨幣 DigiCurrency 👉 暗黑 DIABLO 👉 實習教師 studyteacher 👉 航空 Aviation 👉 藝文票券轉售 Drama-Ticket 👉 韓綜 KR_Entertain 👉 美妝 MakeUp 👉 速食 fastfood 👉 手錶 watch 👉 體適能 FITNESS 👉 攝影 DSLR 👉 Headphone 👉 嘻哈 Hip-Hop 👉 轉珠 PuzzleDragon 👉 美食 Food 👉 蔚藍 BlueArchive 👉 數位相機交易 DC_SALE 👉 筆電蝦 nb-shopping 👉 軟工 Soft_Job 👉 汪踢 Wanted 👉 台綜 TW_Entertain 👉 坂道閒聊 SakaTalk 👉 貓咪 cat 👉 日GO BabyProducts 👉 TypeMoon 👉 MLB 👉 職場 Salary 👉 臺劇 TaiwanDrama 👉 海賊王 ONE_PIECE 👉 PMGO PokemonGO 👉 國營 Gov_owned 👉 碧航 AzurLane 👉 家電 E-appliance 👉 布蘭德 Brand 👉 DMMG DMM_GAMES 👉 贈送 give 👉 神魔 ToS 👉 銀行服務板 Bank_Service 👉 原創 YuanChuang 👉 期權 Option 👉 重機 SuperBike
最近也在玩strata,原版只專注在qwen這系列的模型 現在有分支poly strata https://github.com/VecSzn/PolyStrata 己經測試跑了下面這些模型 https://i.postimg.cc/vZvXZS9Q/model.png
最主要是有人搞來玩deepseek v4.1 flash,用一張魔改過的32gb 5090 雖然是q2版本,但這己經很驚人了 https://i.postimg.cc/L4zPSgLC/deepseek.png
這絕對是今年最重磅的技術發展,普通人買的起的硬體己經摸的到大模型的邊了 記憶體我猜需求又會增加,這吃一般DRAM 本地模型可以跑一堆把限制解除的模型 我現在是拿來跑黃文幫忙生黃片prompt,這個才是線上ai做不到的事 昨天在家拿一堆舊零件,買顯卡+2條32gb記憶體硬湊一台AI主機在家裡用 還有一張2060 12GB,想跑雙GPU,卡在機殼會卡到第二張顯卡,有沒有推薦的機殼可用 (主機板X470 gaming plus max) -- 政治的腐敗並不是指政治家收取賄賂之事,那是個人的 腐敗而已。政治家收取賄賂,卻沒有人能加以批判,這 就是政治腐敗。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.228.115.23 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1792833418.A.B27.html
→ Sam27: 這技術主要是讓大家很期待明年的開源 36.232.110.19 10/24 17:51
→ giancarlo82: 第一張顯卡沒太厚的話 ATX機殼不都可106.107.240.191 10/24 17:51
→ giancarlo82: 以裝雙顯卡嗎106.107.240.191 10/24 17:51
我用的是ainar breeze n3,他最下面有個硬碟架,就被那個卡到了 現在看有沒有比較大一點的機殼
→ Sam27: strata出來5090大概從18萬漲到25萬,1個月 36.232.110.19 10/24 17:52
※ 編輯: a1e (36.228.115.23 臺灣), 10/24/2026 17:54:40
→ Sam27: 5080從4~5萬初現在6~7萬,5070ti也是 36.232.110.19 10/24 17:53
推 Fixble3203: 這就是大家家裡養大肥魚嗎 111.71.104.31 10/24 18:20
推 crazyman7011: 再下一步的MoE可能養不起了 203.69.36.212 10/24 19:14
推 are2: 樓上不用擔心 因為120B甜蜜點對應RTX PRO60 42.79.63.210 10/24 19:17
→ are2: 00 42.79.63.210 10/24 19:17
→ are2: 只要超過這甜密點 就失去開源推廣意義 42.79.63.210 10/24 19:18
推 are2: GLM跟DeepSeek就示範過越界 玩家少很多 42.79.63.210 10/24 19:23
推 newyorker54: glm, deepseek 會用到NVME swarp 硬 42.78.20.252 10/24 19:49
→ newyorker54: 碟很快就掛了 42.78.20.252 10/24 19:49
推 YCL13: DS V4 flash被Qwen 3.8 flash Next超過,在 1.161.191.203 10/24 20:02
→ YCL13: V4.1 flash變大很多,然後就如are2大說的玩 1.161.191.203 10/24 20:02
→ YCL13: 家變少很多 1.161.191.203 10/24 20:02
→ YCL13: a1e大在文中把DS V4 flash誤認成V4.1了 1.161.191.203 10/24 20:03
→ YCL13: 還有5090本來就是32G,不需要魔改 1.161.191.203 10/24 20:04
→ a1e: 記錯了,魔改版是48gb,這技術今年出現,可能 36.228.115.23 10/24 20:13
→ a1e: 後面各家開源AI會開始針對strata進行調整,讓 36.228.115.23 10/24 20:14
→ a1e: 更多模型可以讓strata跑的起來 36.228.115.23 10/24 20:14
推 are2: 我用qwen3.8flash next NVFP4體驗是明顯超過118.150.170.141 10/24 20:17
→ are2: deepseek V4118.150.170.141 10/24 20:17
→ are2: 目前與其擔心未來MOE愈來愈大 不如煩腦為來118.150.170.141 10/24 20:18
→ are2: 開源還玩得下去嗎?118.150.170.141 10/24 20:18
→ are2: 美國OpenAI Google Meta開源兩下就不玩了118.150.170.141 10/24 20:19
→ are2: 如果不是阿里巴巴去偷蒸餾Anythropic 估記沒118.150.170.141 10/24 20:20
→ are2: 我們本地玩家什麼事118.150.170.141 10/24 20:20
推 crystal0504: poly是優化給8g的吧,12gb以上還是st220.135.218.130 10/24 20:34
→ crystal0504: rata220.135.218.130 10/24 20:34
→ Sam27: 落後太多才會開源,前幾名就不會開源了 36.232.110.19 10/24 20:51
→ Sam27: 中國的影音seedance就不會開源 36.232.110.19 10/24 20:51
推 gohst1234: 本部10小時前有更新支援大肥魚V4.1-122.117.236.216 10/24 20:59
→ gohst1234: Flash了IQ2_XXS (2.00 bits)下載257 GB122.117.236.216 10/24 20:59
→ gohst1234: ,10 tokens/s (RTX 3060), 5 (RTX 5070122.117.236.216 10/24 20:59
→ gohst1234: ), 48 (4x R9700)122.117.236.216 10/24 20:59
推 laeva75: 可以試試project maya,我目前用它跑GLM5 1.170.244.95 10/24 21:21
→ laeva75: .3 Flash有測試比較過比polyStrata快很多 1.170.244.95 10/24 21:21
推 are2: DS V4.1量化壓到2bit又慢 實在沒動力去搞118.150.170.141 10/24 21:29
→ are2: 同意落後才會開源 但其實現在開源也才落後兩118.150.170.141 10/24 21:31
→ are2: 三個月而已118.150.170.141 10/24 21:31
推 neo19: 魔改是4090 48g 還有4080 4080s 32g 50系 114.36.180.178 10/24 21:32
→ neo19: 我記得無法改 頂多改成渦輪卡方便伺服器機 114.36.180.178 10/24 21:32
→ neo19: 殼 114.36.180.178 10/24 21:32
→ are2: 去年開源的落後進程可是差閉源一年以上118.150.170.141 10/24 21:32
→ a1e: 就算落後一年,你在你家布署gpt4一般人都很夠 36.228.115.23 10/24 21:38
→ a1e: 用了,這種大模型以前都不認為可以在家裡玩的 36.228.115.23 10/24 21:38
推 fbifxxkma: 哇當年挖礦神板,不用轉接可以直上6卡 49.217.199.59 10/24 21:48
推 are2: 當年挖礦神機變垃圾價後 現在又變黃金118.150.170.141 10/24 21:51
推 fbifxxkma: 可是第二卡pcie速度掉很多吧 49.217.199.59 10/24 21:57
推 are2: 最好都是X16的 冷熱專家交換會有影響118.150.170.141 10/24 22:01
→ a1e: 就先試試2060+3060這樣跑有沒有加成,如果變 36.228.115.23 10/24 22:18
→ a1e: 差就退回單卡運作 36.228.115.23 10/24 22:18
→ a1e: 要雙pcie 3.0又要都x16的am4有主機版做的嗎? 36.228.115.23 10/24 22:19
推 are2: 你先試試 但建議別自己手動調 請agent去研究118.150.170.141 10/24 22:23
→ are2: 別人有沒類似狀況與調優方法118.150.170.141 10/24 22:23
推 are2: 不要再用chatgpt貼來貼去隔空抓藥118.150.170.141 10/24 22:25
推 laeva75: AM4沒有那麼多PCIe Lanes,AM4要雙卡都x1 1.170.244.95 10/24 22:31
→ laeva75: 6的話要加PCIe Switch,strata類的推理框 1.170.244.95 10/24 22:31
→ laeva75: 架用的是layer slit比較不會雙卡同時搶頻 1.170.244.95 10/24 22:31
→ laeva75: 寬,每張卡都可以有x16 upstream 1.170.244.95 10/24 22:31
推 are2: 3060 12G就有一定流暢度了 最進ampere解禁可118.150.170.141 10/24 22:46
→ are2: 以加速看看118.150.170.141 10/24 22:46
推 laeva75: 剛測過,那個解封對strata沒什麼效果 1.170.244.95 10/24 22:49
→ laeva75: ... 1.170.244.95 10/24 22:49
推 laeva75: https://i.urusai.cc/7RNgl.jpg 218.161.18.24 10/24 22:56
→ laeva75: https://i.urusai.cc/h8Fgw.jpg 218.161.18.24 10/24 22:57
推 are2: 看來是針對comfyui有加速吧118.150.170.141 10/24 23:02
推 CGary: 現在黃片都是跑那個模型呢?我用h3 總覺得 49.239.76.51 10/25 10:27
→ CGary: 一致性有點不足 49.239.76.51 10/25 10:27
推 newyorker54: 我覺得板標要改成記憶體太貴 36.237.157.245 10/25 13:51
推 kira925: 不用幫Frontier擔心 開源模型特別中國的 61.231.75.12 10/25 14:09
→ kira925: 自己玩可以 但是要投入實戰 產出/token 61.231.75.12 10/25 14:09
→ kira925: 用量不太行 Kimi K3/3.1特別嚴重 61.231.75.12 10/25 14:10
→ a1e: 我也是跑h3,prompt叫ai幫你改會比較輕鬆一點 36.228.127.112 10/25 14:53
推 pifang: h3瑟瑟要用eros,dasiwa落後挺多的 114.140.128.4 10/26 09:37
推 andrew6355tw: 硬碟架用電鑽把鉚釘鑽兩下就下來了. 114.36.14.244 10/26 16:17
推 CGary: 原來是用 eros , 謝謝樓上 我去試試看 58.191.147.162 10/26 16:17
推 jychu1132: DS4.1參數量和Q38FN差太多,目前還是大 36.225.103.178 10/26 16:27
→ jychu1132: VRAM有優勢 36.225.103.178 10/26 16:27
推 jychu1132: https://i.postimg.cc/Dzpq8QJw/Strata 36.225.103.178 10/26 16:28
→ jychu1132: -DS4-1-6000.png 36.225.103.178 10/26 16:28
推 jychu1132: https://i.urusai.cc/F7PgZ.jpg 36.225.103.178 10/26 16:30

💻 電蝦 PC_Shopping 版:熱門文章

💻 電蝦 PC_Shopping 版:更多文章