→ sachialanlus: 你有算過即使真的跑得起來 速度比你150.117.132.227 08/31 10:29
→ sachialanlus: 可以接受嗎？150.117.132.227 08/31 10:29
→ spfy: 單條128就算中國品牌也不多吧 很多能選嗎? 39.10.65.34 08/31 10:30
→ d0178411: 好像鬼島沒啥地方賣吧 218.166.6.130 08/31 10:35
是阿 我們國內真找不到~XD
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:38:27
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:38:49
推 aabbcc840526: U DIMM目前顆粒最大應該就32Gb所以 118.233.240.7 08/31 10:49
→ aabbcc840526: 兩面最多64GB, 如果你要128那就是 118.233.240.7 08/31 10:49
→ aabbcc840526: 要3DS(一種可以塞兩個或以上晶片的 118.233.240.7 08/31 10:49
→ aabbcc840526: 技術), 成本較高所以極少廠商願意 118.233.240.7 08/31 10:49
→ aabbcc840526: 出這種產品,這種技術目前僅大規模 118.233.240.7 08/31 10:49
→ aabbcc840526: 應用server市場而已 118.233.240.7 08/31 10:49
推 aabbcc840526: 另一條路就是跟server一樣用x4顆粒 118.233.240.7 08/31 10:53
→ aabbcc840526: （這樣可以多貼一倍的顆粒）,但一 118.233.240.7 08/31 10:53
→ aabbcc840526: 樣我不確定PC市場有沒有人出這種產 118.233.240.7 08/31 10:53
→ aabbcc840526: 品 118.233.240.7 08/31 10:53
掏糞上有看到在賣 之前FB好像也有看到介紹 但是我們國內就好像一直沒找到~那如果插4條64G是否也是能考慮的方案呢?
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:55:36
→ chenzu740125: 讓我想到8299董狂吹adaptive.不過這 111.82.54.96 08/31 11:00
→ chenzu740125: 是笑話XD 111.82.54.96 08/31 11:00
推 widec: 現在主板支援的單支DIMM上限是多少容量 1.165.18.58 08/31 11:02
奴家真的不知道~所以才上來請教各位前輩~
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:12:07
推 smallreader: 別浪費時間搞這種 111.254.137.17 08/31 11:21
→ smallreader: 單條DDR5現在是64G 支援度基本沒問題 111.254.137.17 08/31 11:21
→ smallreader: 兩條就128 四條就256 但筆電型就兩條 111.254.137.17 08/31 11:22
我是台式機 上上週剛啟動完5090~組好使用中
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:24:03
→ smallreader: 64G也是今年剛出的 沒有更高容量了 111.254.137.17 08/31 11:24
→ jkiu: 先撇開龜速問題，想跑這麼大的模型不該用家 49.216.161.232 08/31 11:26
→ jkiu: 用主機板，要用上伺服器用的，光記憶體插槽 49.216.161.232 08/31 11:26
→ jkiu: 跟pcie插槽就可以多出很多條 49.216.161.232 08/31 11:26
推 ttmm: 去用雲端...不要本地跑啦 111.243.8.229 08/31 11:27
感謝大大指教 是我想得少了~ 那請問現在彌補的方式 我若加上兩條64的可行嗎?
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:28:17
→ smallreader: 要不要試試看swap到optane來增加容量 111.254.137.17 08/31 11:28
→ smallreader: 速度可能會降好幾倍 但至少容量夠(x 111.254.137.17 08/31 11:29
推 ziggs8308: deepseek 都忘記這個東西了 原來還有 42.72.89.9 08/31 11:29
→ ziggs8308: 呼吸 爆紅一個禮拜就直接消失 42.72.89.9 08/31 11:29
推 pcfox: 問就直上Pro WS WRX90E-SAGE SE 36.231.103.105 08/31 11:31
→ smallreader: 900P / 905P / DC 4800X / 5800X 111.254.137.17 08/31 11:34
→ commandoEX: 買TR啊，4通道8DIMM頻寬更高118.171.169.247 08/31 11:35
推 odanaga: 905p還買的到嗎？ 42.70.31.206 08/31 11:35
→ odanaga: 上次新蛋300美買一個 太美了 42.70.31.206 08/31 11:36
推 Lightee26: 普通板子有支援單條128？ 1.169.206.33 08/31 11:38
推 benen: 其實我也蠻好奇www家用這樣用起來速度真的 101.9.98.234 08/31 11:41
→ benen: ok嗎？ 101.9.98.234 08/31 11:41
STABLE DIFFSTION 改5090後用起來是真有感 出圖快了很多~
推 bunjie: 我覺得如果AI模型只是玩票性質的話 就線 182.155.197.16 08/31 11:46
→ bunjie: 上租一租就好 高階機當作打電動舒壓用 182.155.197.16 08/31 11:46
→ bunjie: 其實AI模型現在也差不多飽和了 卷成那樣 182.155.197.16 08/31 11:47
→ bunjie: 等應用就好 182.155.197.16 08/31 11:47
→ bunjie: 現在進場想要玩出什麼新花樣 其實蠻難的 182.155.197.16 08/31 11:48
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:50:10
推 ttmm: 你有灌 linux? 111.243.8.229 08/31 11:54
→ jkiu: 留著打電動跟生生玩票性質的圖就好，這麼大 36.224.160.202 08/31 12:00
→ jkiu: 的模型本地想跑q4跟速度可以接受~20tps，預 36.224.160.202 08/31 12:00
→ jkiu: 算先x3,x4，但花這麼多錢還只不過買api來用 36.224.160.202 08/31 12:00
→ jkiu: 效果 36.224.160.202 08/31 12:00
推 kanding255: 要不要試試 virtual memory 只是效果 49.217.126.242 08/31 12:03
→ kanding255: 不知道是不是你要的 49.217.126.242 08/31 12:03
→ newforte: 買虛擬機 要多大有多大 106.1.219.206 08/31 12:07
→ game0502: 上機架2-4U的24條隨便你插還能上顯卡 220.133.127.4 08/31 12:12
→ sino6445: 討論板不要用太不雅的字，即使是吃飯飯123.195.160.154 08/31 12:13
→ sino6445: 時看到也很不舒服，即使是中國品牌，把123.195.160.154 08/31 12:13
→ sino6445: 別人品牌用ㄈㄣˋ這個字，只是貶低自己123.195.160.154 08/31 12:13
→ sino6445: 忘了給噓123.195.160.154 08/31 12:13
推 Ron51320: 弄些虛擬的跑跑看，騙不過嗎？ 101.10.238.253 08/31 12:18
推 pxhome: DDR5 5600 64GB一條5000兩條1萬 101.12.146.195 08/31 12:23
→ pxhome: 128GB 只有eco但你的主機板不支援 101.12.146.195 08/31 12:24
→ pxhome: DDR5 ECC的腳位不一樣了 101.12.146.195 08/31 12:25
→ pxhome: 原來對岸來的小弟弟不知道有鹹魚 101.12.146.195 08/31 12:28
我是不知道您用了多少次鹹魚，依我在上海住了7年的經驗來說 鹹魚比拚夕汐還坑 平常買些無關緊要的還行 高價的東西不敢在上面買
→ widec: 我也覺得等應用就好 1.165.18.58 08/31 12:42
推 camry2338y: 一般家用的主機板 ram最高就支援到25 111.71.9.9 08/31 12:45
→ camry2338y: 6G 就算你的到也還是不夠啊 111.71.9.9 08/31 12:45
→ linkt0: d4幾年前就裝過128g*4=512g 標256g參考用 223.136.170.24 08/31 12:56
→ linkt0: udimm 128g*4 223.136.170.24 08/31 12:56
→ linkt0: x99時代ram還被小石頭rd借去改bios 223.136.170.24 08/31 12:59
推 lordmi: 最近被問到煩了剛好寫過一篇到底什麼硬體223.136.238.116 08/31 13:05
→ lordmi: 25/08/2025ai 不過我還是建議你真的沒必223.136.238.116 08/31 13:05
→ lordmi: 要跑localA I除非你的預算有300k以上223.136.238.116 08/31 13:05
→ nrsair: 插四條 49.217.195.125 08/31 13:14
→ narukaza: 這還不簡單，直接換主板CPU，WRX90+999 114.34.174.204 08/31 13:19
→ narukaza: 5WX，插滿8條64G跑6000輕輕鬆鬆 114.34.174.204 08/31 13:19
→ narukaza: 兩條128G都要快60K了，真能用你會買？ 114.34.174.204 08/31 13:25
→ DrGun: 對岸騰訊玄武實驗室發在微信上der實測文章118.168.245.126 08/31 13:37
→ DrGun: 標題：「不到 4 万元的 DeepSeek-R1-671B-Q118.168.245.126 08/31 13:37
→ DrGun: 8 部署方案」 這邊4萬4人民幣 實際總花費35118.168.245.126 08/31 13:37
→ DrGun: 686 rmb 這篇der重點4純粹用Amd Epyc 9005118.168.245.126 08/31 13:37
→ DrGun: 系列cpu搞一台local ai 峰值生成速度 7.17118.168.245.126 08/31 13:37
→ DrGun: tokens/s 已經在可用範圍der下限 連結點進118.168.245.126 08/31 13:37
→ DrGun: 去有實際運行影片 尼如果換成Q4 der話token118.168.245.126 08/31 13:37
→ DrGun: 數大概直接變乘以2 記憶體容量可以再減 預118.168.245.126 08/31 13:37
→ DrGun: 算更省 有機會壓在10萬台幣以下118.168.245.126 08/31 13:37
→ linzero: 目前一版主板是64*4=256G吧，不過9950X3D 36.228.126.250 08/31 13:38
→ linzero: 上限好像是192G，Win11家用版是128G 36.228.126.250 08/31 13:38
→ lhhjimmy: 不知道有沒有人玩過CXL 42.70.191.223 08/31 13:45
→ lhhjimmy: 前提是主機板/CPU要support 42.70.191.223 08/31 13:45
→ rasen9: 沒 我9950x3d icu285k都插過4條64沒問題126.179.104.115 08/31 14:43
推 skywgu: 有隱私需求本地ai還是有市場啦 49.218.145.250 08/31 14:53
推 E7lijah: AMD官網標示7000/9000只支援128/192GB， 27.240.224.143 08/31 15:05
→ E7lijah: 是因為發售時的記憶體只出到單條32/48GB 27.240.224.143 08/31 15:05
→ E7lijah: 或已經出了更大的容量但還來不及驗證 27.240.224.143 08/31 15:05
推 s900527: 一堆人在那邊api就是完全不懂本地的好 61.227.240.64 08/31 15:05
→ s900527: 速度更不是重點 放著給他跑就好了急什麼 61.227.240.64 08/31 15:06
→ E7lijah: 你要單條128GB要上RDIMM(不一定要3DS) 27.240.224.143 08/31 15:06
→ E7lijah: RDIMM消費級平台不支援，要上到TR/EPYC 27.240.224.143 08/31 15:06
→ E7lijah: 上面說DDR4 UDIMM 128GB的是哪條 27.240.224.143 08/31 15:10
→ E7lijah: 有這種東西?? 27.240.224.143 08/31 15:10
→ jkiu: 速度沒到一個基本門檻根本不能日常用好嗎， 36.224.160.202 08/31 15:22
→ jkiu: 尤其現在一堆thinking的模型，光耗在思考裡 36.224.160.202 08/31 15:22
→ jkiu: 面就飽了，一來一回對答context越大處理越慢 36.224.160.202 08/31 15:22
→ jkiu: ，更不能用，難道你要1x分鐘對答一次這樣用 36.224.160.202 08/31 15:22
→ jkiu: 是嗎... 36.224.160.202 08/31 15:22
推 Supasizeit: 671b? 128G一樣爆203.204.195.174 08/31 15:28
推 Supasizeit: 跑oss:20b 在處理一些像檔案整理或打203.204.195.174 08/31 15:31
→ Supasizeit: 屁聊天就很好用了203.204.195.174 08/31 15:31
推 ByPass128: Q4大概還要400G，建議換個模型 223.23.8.184 08/31 15:41
→ ByPass128: 你可以先弄個gptoss120b啟動看看效果 223.23.8.184 08/31 15:41
→ ByPass128: ，不行再往下嘗試20b版本的 223.23.8.184 08/31 15:41
推 ttmm: 認真說花錢把各大平台的額度用光還比較省 111.243.8.229 08/31 15:45
推 dreamelf: 先用雲再買GB10 42.70.181.108 08/31 15:52
→ linkt0: 標限制實際裝機測就知道標好玩的win7時代 125.229.73.212 08/31 15:59
→ linkt0: 就裝過.. goog資料中心拿出來玩的東西上 125.229.73.212 08/31 15:59
→ linkt0: 網搜都搜不到 一顆ssd就一台國產車價 125.229.73.212 08/31 15:59
推 jhjhs33504: gptoss20b就很好tool calling了但就是 36.228.18.238 08/31 16:25
→ jhjhs33504: 調整還不夠穩定120b最近兩版ollma OOM 36.228.18.238 08/31 16:27
→ jhjhs33504: 不然virtual memory可以跑 但就慢很多 36.228.18.238 08/31 16:28
推 jhjhs33504: 安全一些的tool calling 要預留記憶體 36.228.18.238 08/31 16:44
→ Layase: 別想了 你組不贏人家商用server的111.241.121.102 08/31 17:04
推 WJAider: 你這就是想改造 BB 槍問怎麼像真槍 114.36.92.122 08/31 17:06
→ WJAider: 方向不對事倍功半，或是說錢倍功半? 114.36.92.122 08/31 17:10
確實 缺乏經驗 本來就想著用SD出圖 但是用了幾天就開始發瘋 想試試看AI~果然人心不足蛇吞象~XD
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 17:32:45
→ soulgem: 671b, 想到之前拚老命才裝出來 512G RAM 140.112.30.184 08/31 17:43
→ soulgem: 先有 256G ECC/Reg, 後來才找到 64x8... 140.112.30.184 08/31 17:44
→ soulgem: 這條路還是難得通 # TR-39x5 + 8條RDIMM 140.112.30.184 08/31 17:45
→ soulgem: 下一台想要 1T... 完全看不到希望的 XD 140.112.30.184 08/31 17:46
推 jhjhs33504: 用CPU跑量化版還得是Q4或Q8 不然輸GPU 36.228.18.238 08/31 17:50
→ jhjhs33504: 商用server就選TPU平台 性價比才會高 36.228.18.238 08/31 17:51
→ soulgem: 8支128G怎麼看都超過這次拚出來的總花費 140.112.30.184 08/31 17:51
→ soulgem: 撿二手 server 不是條好學的路... 140.112.30.184 08/31 17:52
→ soulgem: 就算走雙Xeon的話要找得到16支64G也很難 140.112.30.184 08/31 17:54
→ DrGun: 雙cpu之前看有人實測 tokens/s狂降 比單cpu118.168.245.126 08/31 17:58
→ DrGun: 還差 似乎跨cpu通信有問題 A和I 都有同樣症118.168.245.126 08/31 17:58
→ DrGun: 頭der樣子118.168.245.126 08/31 17:58
→ crimsonmoon9: 我記得雙CPU主板大多支援只插一顆吧 42.72.79.117 08/31 18:05
→ soulgem: 只插一顆 CPU 通常不能放滿 16 支 RAM... 140.112.30.184 08/31 18:13
→ DrGun: 目前觀察搞純cpu local ai機 硬體零件之重118.168.245.126 08/31 18:26
→ DrGun: 要性 從最重要der開始排：1. Ram容量（必須118.168.245.126 08/31 18:26
→ DrGun: 大於模型size 否則免玩）2. Ram速度 3. CPU118.168.245.126 08/31 18:26
→ DrGun: 核心數和時脈118.168.245.126 08/31 18:26
推 doraBBO: 可不可以問個問題，美光128G跟金士頓64G220.135.116.169 08/31 18:59
→ doraBBO: 效能實際上會落差很大嗎？想要高容量220.135.116.169 08/31 18:59
→ doraBBO: 但又怕效能拉垮太多，還是體感還好?!220.135.116.169 08/31 18:59
→ yunf: 你要多大的有多大的？台灣業務都可以談，只 101.10.162.217 08/31 19:00
→ yunf: 要你有錢 101.10.162.217 08/31 19:00
→ yunf: 主機板相容性：128GB單條RAM多數為伺服器專 101.10.162.217 08/31 19:02
→ yunf: 用，需確認主機板支援DDR4 ECC LRDIMM/RDIMM 101.10.162.217 08/31 19:02
→ yunf: ，普通桌機板無法安裝。 101.10.162.217 08/31 19:02
推 doraBBO: 抱歉 沒說清楚 AM5有支援到128G220.135.116.169 08/31 19:07
→ doraBBO: 金64G 6000 30CL VS 美光128G 5600 46CL220.135.116.169 08/31 19:07
→ doraBBO: 目前是模擬器多開，一定是選後者220.135.116.169 08/31 19:07
→ doraBBO: 但如果以後要到臭打遊戲玩點其他的220.135.116.169 08/31 19:07
→ doraBBO: 會不會因為時脈等因素，後者體驗有落差220.135.116.169 08/31 19:08
→ yunf: 要調吧 101.10.162.217 08/31 19:09
推 AlvisBarhara: rdimm一般u不能用要注意 27.51.129.132 08/31 19:46
→ AlvisBarhara: ryzen能用的是ecc udimm,比rdimm再 27.51.129.132 08/31 19:48
→ AlvisBarhara: 貴一截 27.51.129.132 08/31 19:48
→ AlvisBarhara: 另外板子也有差,am5只有大小石的板 27.51.129.132 08/31 19:52
→ AlvisBarhara: 子有lay ecc線路,mg的花大錢買ecc 27.51.129.132 08/31 19:52
→ AlvisBarhara: udimm也沒用 27.51.129.132 08/31 19:52
推 smallreader: rdimm TR也不能用 要上TR pro 111.254.137.17 08/31 20:20
推 saiboos: 用雲端GPU吧... 122.99.40.82 08/31 20:42
推 Supasizeit: 又不是要解什麼數學難題 用671b幹嘛203.204.195.174 08/31 21:44
→ Supasizeit: 20b爽爽用203.204.195.174 08/31 21:44
→ Supasizeit: 120b慢的要死 毫無用處203.204.195.174 08/31 21:45
我其實是用來輔助寫武俠小說 目前看起來應該DEEPSEEK跟豆包文筆是最好的 GROK跟GPT都有點~~老外的味道 但是大家也知道 中國那邊限制的比較嚴格 有時候有些話題他就沒法顯示(情色 暴力 血腥)所以才想說下個模型在電腦上用，AI輔助是真的方便，有時靈感卡住了，問一下，常常會給你一些意想不到的突破口
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 21:51:49
推 TameFoxx: 用open web-ui 然後去串deepinfra的api 219.68.125.23 08/31 22:03
→ TameFoxx: 基本上開源模型都有很多第三方供應商 219.68.125.23 08/31 22:03
推 nextpage: 最後你還是會妥協付錢租API使用 :) 111.246.141.31 08/31 22:12
→ TameFoxx: 事實上用API才合理 219.68.125.23 08/31 22:21
→ TameFoxx: 因為你自己跑那麼大的模型 電費比API還 219.68.125.23 08/31 22:22
→ TameFoxx: 貴 219.68.125.23 08/31 22:22
噓 E7lijah: TR就是用RDIMM 誰跟你TR也不能用 27.240.224.143 08/31 22:26
→ linzero: 他要中文使用者的…味道跟繞開限制吧 36.228.126.250 08/31 22:27
→ E7lijah: 然後AM5目前還沒有支援單條128G的 27.240.224.143 08/31 22:31
→ E7lijah: TR跟TR PRO在記憶體的差別是後者支援八通 27.240.224.143 08/31 22:42
→ E7lijah: 道 27.240.224.143 08/31 22:42
推 TameFoxx: 第三方的API就是已經繞過限制的 219.68.125.23 08/31 22:42
→ E7lijah: 而前者只支援四通道 27.240.224.143 08/31 22:42
噓 DrGun: 騰訊der文章寫說用EPYC 9115 Default TDP 1 223.137.93.235 08/31 22:45
→ DrGun: 25W 沒特別耗電 223.137.93.235 08/31 22:45
→ DrGun: Local ai = 永久買斷無額外付費 + 隱私無價 223.137.93.235 08/31 22:45
推 jkiu: qwen 或 glm 也是中國的llm，模型小很多，本 36.224.160.202 08/31 22:48
→ jkiu: 地跑比較合理，要不要先試試這兩個的文筆看 36.224.160.202 08/31 22:48
→ jkiu: 看，另外你在網上平台遇到的限制，自己載下 36.224.160.202 08/31 22:48
→ jkiu: 來跑的多半也都有，除非有人另外做解禁版的 36.224.160.202 08/31 22:48
→ jkiu: ，可能要多翻找看看huggingface 36.224.160.202 08/31 22:48
推 TameFoxx: 有沒有特別耗電 你要用生成同樣Token去 219.68.125.23 08/31 22:55
→ TameFoxx: 比 219.68.125.23 08/31 22:55
→ TameFoxx: 用CPU跑AI本身就是浪費電 219.68.125.23 08/31 22:55
→ TameFoxx: 文章說可以到7 但這是短input的情況 219.68.125.23 08/31 22:56
→ TameFoxx: 長input時能不能保1都不知道 219.68.125.23 08/31 22:56
推 DrGun: 講到解數學難題 Deepseek剛推出時有到官網 223.137.93.235 08/31 23:04
→ DrGun: 拿工數考古題考它 印象中考了快10題 題目種 223.137.93.235 08/31 23:04
→ DrGun: 類有ode pde 線代和證明 恐怖der來惹！計算 223.137.93.235 08/31 23:04
→ DrGun: 它全部答對 唯一錯der只有證明 而且基本上 223.137.93.235 08/31 23:04
→ DrGun: 也8算全錯 它只漏寫惹一兩個結果 同樣der題 223.137.93.235 08/31 23:04
→ DrGun: 目拿去問ChatGPT Claude Gemini根本8用看 223.137.93.235 08/31 23:04
→ DrGun: 錯der一踏糊塗！！ 223.137.93.235 08/31 23:04
→ linzero: 有沒有可能是資料庫裡有這些考古題？ 36.228.126.250 08/31 23:26
推 Narok: 芝奇有出64gx4的256g一套的，我剛剛買了， 218.173.18.50 08/31 23:31
→ Narok: 但是...會讓你開機變慢，而且幾乎用不到超 218.173.18.50 08/31 23:32
→ Narok: 過100g 218.173.18.50 08/31 23:32
→ DrGun: 可能把！ChatGPT之前也被爆說考前作弊偷看 223.137.93.235 08/31 23:33
→ DrGun: 題目 只4還特別拿台灣der考古題去訓練也太 223.137.93.235 08/31 23:33
→ DrGun: 屌惹 有der還可能沒電子檔 223.137.93.235 08/31 23:33
噓 pikachu123: Mac studio 買一買就好 110.28.0.234 08/31 23:40
推 doraBBO: 我剛剛用詞不精確 應是32*2=64 64*2=128220.135.116.169 08/31 23:49
→ doraBBO: 不是說單條64 128 抱歉220.135.116.169 08/31 23:49
→ crimsonmoon9: 但是671B用CPU跑還要reasoning解出 42.72.79.117 08/31 23:56
→ crimsonmoon9: 題目可能要花個半天了吧 42.72.79.117 08/31 23:56
→ E7lijah: 大容量ram開機很慢的 進BIOS開 211.75.171.224 08/31 23:59
→ E7lijah: memory context restore 211.75.171.224 08/31 23:59
