推 dos01: 總覺得怪怪的210.209.168.195 07/15 23:03
推 dos01: 跑AI相關的東西 大多數的情況下N卡還是比較210.209.168.195 07/15 23:05
→ dos01: 方便210.209.168.195 07/15 23:05
→ dos01: A卡不至於完全不能跑 但你要搞定夠多的東西210.209.168.195 07/15 23:06
推 scmono: 24k預算 貼錢上二手上4080 16g 49.218.204.34 07/15 23:06
→ scmono: 5070 等等 49.218.204.34 07/15 23:06
→ scmono: 我看到有人賣二手acer 4080 49.218.204.34 07/15 23:07
推 galaxyf: 為什麼要sfx 電源 36.231.49.79 07/15 23:07
推 dos01: SSD也不會買這個來當系統碟210.209.168.195 07/15 23:13
→ dos01: 然後記憶體D5也最好不要插滿 特別是還有要210.209.168.195 07/15 23:13
→ dos01: 打遊戲 插滿會變廢 變降頻跑210.209.168.195 07/15 23:14
→ dos01: 至於水冷 想要玩 自己有能力換 也知道風險210.209.168.195 07/15 23:15
→ dos01: 要買是無所謂 但是這CPU根本不需要用水冷210.209.168.195 07/15 23:15
→ dos01: 就壓得住 隨便正常一點的單塔就很能壓了210.209.168.195 07/15 23:15
→ dos01: 然後96X 買到快8K 花這個錢我也覺得怪怪的210.209.168.195 07/15 23:17
推 mitchness: 不知道元PO AI方面是新手還是老手 61.230.245.234 07/15 23:20
→ mitchness: 除非有什麼機密一定要本地AI,不然 61.230.245.234 07/15 23:21
→ mitchness: 訂閱的AI還是比妥當一點 61.230.245.234 07/15 23:22
推 s78513221: 不如訂閱GPT 最近tibo狠狠發重置220.132.220.216 07/15 23:23
推 scmono: 本地AI只有生圖符合經濟效益 49.218.204.34 07/15 23:24
推 pphyy5844548: 影片呢? 123.252.75.84 07/15 23:25
推 GenShoku: 你真心想跑llm就拿大板 免得以後後悔沒 123.192.94.227 07/15 23:29
→ GenShoku: 法插雙卡 記憶體不重要 load到ram上跑ll 123.192.94.227 07/15 23:29
→ GenShoku: m的速度你不會想用 123.192.94.227 07/15 23:29
推 GenShoku: 但講真的你要跑llm還不如買台ai max 395 123.192.94.227 07/15 23:31
→ GenShoku: 或dgx spark的小主機專門跑算了 123.192.94.227 07/15 23:31
推 Supasizeit: 12b-it 是你幫他除錯吧 還要教你寫扣203.204.195.174 07/15 23:36
→ Supasizeit: 整理文獻 那個可憐的context window203.204.195.174 07/15 23:37
→ Supasizeit: 你要先幫他切小塊入口即化 還要幫他203.204.195.174 07/15 23:37
→ Supasizeit: 做筆記不然前後文對不起來203.204.195.174 07/15 23:37
→ sunnoset: 感謝各位的回覆。啊哈哈原來半吊子規格150.116.109.181 07/15 23:51
→ sunnoset: 本地AI這麼不堪,那先不以此為需求了150.116.109.181 07/15 23:52
→ sunnoset: 請問dos01大大,這個SSD當系統碟有風險150.116.109.181 07/15 23:53
→ sunnoset: 嗎?150.116.109.181 07/15 23:53
推 GenShoku: gemma4 12b就勉強能動的地步 試試也沒不 123.192.94.227 07/15 23:54
→ GenShoku: 行 但你遲早都要上qwen3.6 27b的 這顆才 123.192.94.227 07/15 23:54
→ GenShoku: 是消費級硬體本地部署的小鋼砲 vram 32G 123.192.94.227 07/15 23:54
→ GenShoku: 起跳 跑舒服要48G 123.192.94.227 07/15 23:54
→ sunnoset: 還有[96X 買到快8K]是我挑貴了150.116.109.181 07/15 23:54
→ sunnoset: 還是我的需求不必9600x的意思?150.116.109.181 07/15 23:55
→ XD119: 建議用gta6來抓配備 1.170.253.101 07/16 00:22
→ tokikaze: gemma4-12b-it很蠢,可以當做沒這東西 36.236.207.179 07/16 00:23
推 dos01: 主要是96X這個價格就不是很值得買210.209.168.195 07/16 02:05
→ dos01: 論CP值的話 不如買7700 雖然說7700跟96X210.209.168.195 07/16 02:09
→ dos01: 各有優劣 但是在價格比較高的情況下 買便宜210.209.168.195 07/16 02:10
→ dos01: 的就夠用了210.209.168.195 07/16 02:10
推 dos01: 然後你的需求有點微妙 通常的情況 寫程式210.209.168.195 07/16 02:11
→ dos01: 相關的多少會吃到CPU 但python跟R又都是210.209.168.195 07/16 02:11
→ dos01: 需求比較低的 通常也吃不到啥效能210.209.168.195 07/16 02:12
→ dos01: 只是會用到多少效能 也只有你自己用的人會210.209.168.195 07/16 02:13
→ dos01: 知道210.209.168.195 07/16 02:13
→ cutejojocat: 基本上重練了 cpu改7700或是7500f就 36.229.193.27 07/16 02:14
→ cutejojocat: 好 主板b650em force省一點 D5就是 36.229.193.27 07/16 02:14
→ cutejojocat: 插兩條 四條要降頻跑 散熱拿個AG500 36.229.193.27 07/16 02:14
→ dos01: 但如果效能都夠用的情況下 那就...7700還是210.209.168.195 07/16 02:14
→ cutejojocat: 就夠用 還不用擔心漏水 電源拿普通 36.229.193.27 07/16 02:14
→ cutejojocat: 的atx ReactorII 省下來的看能不能上 36.229.193.27 07/16 02:14
→ dos01: 比較便宜210.209.168.195 07/16 02:14
→ cutejojocat: 5070ti 16g 機殼沒風扇換掉 ssd也記 36.229.193.27 07/16 02:14
→ cutejojocat: 得換 36.229.193.27 07/16 02:14
推 Litfal: 你的需求感覺雲AI就行了,除非你目的本身123.110.137.250 07/16 02:20
→ Litfal: 就是學習架本地AI123.110.137.250 07/16 02:20
→ Zenryaku: ssd沒dram 114.36.12.118 07/16 03:59
→ Zenryaku: ddr5有四槽你也不能插四條,你的用途又 114.36.12.118 07/16 04:00
→ Zenryaku: 不是可以讓他跑3000-4000頻率擺爛的用途 114.36.12.118 07/16 04:00
→ Zenryaku: 要用水冷就買高級的,買這種入門的廉價 114.36.12.118 07/16 04:01
→ Zenryaku: 水冷不如用空冷,比較耐用也比較安全 114.36.12.118 07/16 04:01
→ Zenryaku: 電源不要sfx,機殼換一個正常的塔式 114.36.12.118 07/16 04:01
→ Zenryaku: 風道好散熱才會好,還能防塵 114.36.12.118 07/16 04:02
→ Zenryaku: B850就是賣比較貴的B650E,沒什麼必要 114.36.12.118 07/16 04:02
→ MOONY135: 要體驗12b你花600訂ollama一個月就知道123.194.155.199 07/16 06:26
→ MOONY135: 了。花那150倍價格測試真的醉了。123.194.155.199 07/16 06:26
→ MOONY135: Gcp 2c4g一個月算你1000,1600的試錯成123.194.155.199 07/16 06:27
→ MOONY135: 本很便宜123.194.155.199 07/16 06:27
→ MOONY135: 結論:除非你現在沒有電腦,不然你的目123.194.155.199 07/16 06:30
→ MOONY135: 的直接訂閱雲端就結束了,local端我看要123.194.155.199 07/16 06:31
→ MOONY135: 架起來就要先花半個月了123.194.155.199 07/16 06:31
→ leo255112: 9600X用水冷很浪費,你真想試水冷CPU 42.73.130.141 07/16 07:57
→ leo255112: 可以拿高階一點的 42.73.130.141 07/16 07:57
推 TameFoxx: Gemma的api,Google根本不收錢 111.71.118.66 07/16 09:03
推 TameFoxx: 你的需求 應該去訂閱Claude比較實在 111.71.118.66 07/16 09:05
→ sunnoset: 感謝各位的回覆,果然硬體領域對我來說 218.210.98.35 07/16 09:19
→ sunnoset: 水很深。我來大修一下菜單 218.210.98.35 07/16 09:19
→ takanasiyaya: 玩本地LLM就是qwen3.6 27B或Gemma 4 49.216.104.38 07/16 09:25
→ takanasiyaya: 31B,連這兩個都還只是堪玩的程度 49.216.104.38 07/16 09:25
→ takanasiyaya: ,以下的真的請乖乖訂閱。 49.216.104.38 07/16 09:25
→ gbcg9725: 16g vram跑本地ai,既慢也不怎麼聰明 39.14.24.130 07/16 09:37
推 seemoon2000: 1你這是遊戲機 不是本地AI機 根本沒 89.117.42.118 07/16 09:37
→ seemoon2000: 什麼能跑的選項 最基礎要24GB顯記 89.117.42.118 07/16 09:37
→ sunnoset: 請問有推薦的[有DRAM]1TB系統碟SSD嗎? 218.210.98.35 07/16 09:59
推 seemoon2000: PCIE 4.0便宜大牌子就行了 89.117.42.118 07/16 10:21
→ Zenryaku: 安全牌exceriaG2,賭英韌主控沒事可以買 39.14.24.79 07/16 10:23
→ Zenryaku: 有標是美光顆粒的GM7000,錢多直接買T71 39.14.24.79 07/16 10:23
→ Zenryaku: 0 39.14.24.79 07/16 10:23
→ Zenryaku: T500勉強可以但我覺得價錢離T710太近, 39.14.24.79 07/16 10:26
→ Zenryaku: 其他有的太貴 有的主控或顆粒不好 有的 39.14.24.79 07/16 10:26
→ Zenryaku: 代理商很爛 39.14.24.79 07/16 10:26
推 tsairay: 美光不做消費級了好傷心,現在要挑一款 202.39.11.150 07/16 10:35
→ tsairay: 面面俱到的SSD很難 202.39.11.150 07/16 10:35
推 lolicat: DDR5的話你先買單條記憶體就好吧 考慮之 49.215.240.210 07/16 10:37
→ lolicat: 後擴充的話 49.215.240.210 07/16 10:37
→ lolicat: 16g vram跑本地是能跑 但要期待速度就沒 49.215.240.210 07/16 10:39
→ lolicat: 辦法了 不如去訂閱那些大品牌 如果你要玩 49.215.240.210 07/16 10:39
→ lolicat: 瑟瑟相關的 16g也是能用 但就慢 而且等於 49.215.240.210 07/16 10:39
→ lolicat: 你一台電腦就卡在那給AI用 多工是不可行 49.215.240.210 07/16 10:39
→ lolicat: 的 49.215.240.210 07/16 10:39
→ lolicat: 本地架起來不難 YT多搜尋幾個就會推薦一 49.215.240.210 07/16 10:40
→ lolicat: 大堆給你 不過裡面賣課的可能有9成就是了 49.215.240.210 07/16 10:40
→ lolicat: 這單看起來微妙 是店員配的還是AI配的? 49.215.240.210 07/16 10:42
→ lolicat: 說真的 不玩瑟瑟 去訂閱就好了 還能體驗 49.215.240.210 07/16 10:44
→ lolicat: 一下不同AI 49.215.240.210 07/16 10:44
推 seemoon2000: 說實話16g的問題是模型裝不進去 裝 89.117.42.118 07/16 10:54
→ seemoon2000: 得進去都跑蠻快的 問題是容量非速度 89.117.42.118 07/16 10:54
推 ENGneweu: 本地 Gemma 31b、26B 我都玩過,體感只 124.218.38.207 07/16 11:18
→ ENGneweu: 有2年前AI模型的水準,當家教還可以, 124.218.38.207 07/16 11:18
→ ENGneweu: 要用來分析、整理就算了,顯存不夠,RA 124.218.38.207 07/16 11:18
→ ENGneweu: M來湊,1s 5 tokens 124.218.38.207 07/16 11:18
→ ENGneweu: 你的路線我試一輪,最後還是月費花一花 124.218.38.207 07/16 11:18
→ ENGneweu: ,想知道更詳細的可私訊 124.218.38.207 07/16 11:18
→ Supasizeit: 所以啊 買MacBook air 32GB 比較便宜203.204.195.174 07/16 11:45
→ Supasizeit: 還可以在星巴克爽跑31B203.204.195.174 07/16 11:45
→ lordmi: C_Shopping)的推文不想再寫一篇了。現在 36.229.73.42 07/16 12:16
→ lordmi: 真正拿來做工作流就是雙卡加起來至少要40 36.229.73.42 07/16 12:16
→ lordmi: G vram ,不然就是等192G統一記憶體主機 36.229.73.42 07/16 12:16
→ lordmi: 降價到合理,這兩種以外都只是玩玩而已 36.229.73.42 07/16 12:16
→ MOONY135: 網路上訂閱一下就可以嚐鮮了118.161.200.110 07/16 12:44
推 GenShoku: 本地27B跟31B那位階的dense模型只是參數 42.79.21.143 07/16 12:56
→ GenShoku: 小 世界知識沒有線上模型多而已 你必須 42.79.21.143 07/16 12:56
→ GenShoku: 把指令下精確 但agent tool calling跟編 42.79.21.143 07/16 12:56
→ GenShoku: 程等生產力實戰環節絕對屌虐2年前的大模 42.79.21.143 07/16 12:56
→ GenShoku: 型 別說贏半年前 我現在qwen3.6 27b 做c 42.79.21.143 07/16 12:56
→ GenShoku: oding實用起來還比deepseek v4穩 線上ap 42.79.21.143 07/16 12:56
→ GenShoku: i模型是擅長整體規劃跟理解意圖 但純粹 42.79.21.143 07/16 12:56
→ GenShoku: 生產力本地dense模型沒有輸到那麼誇張 42.79.21.143 07/16 12:56
推 ouka: 省錢用grok就好,品質好又自由。223.143.245.159 07/16 13:36
→ iceyang: 早上測試 GPT-OSS 120B跑coding.拉中拉 61.224.170.104 07/16 13:39
→ iceyang: 目前盲目追求大參數開源模型好像沒啥意義 61.224.170.104 07/16 13:40
→ iceyang: 不是參數多能力就強 61.224.170.104 07/16 13:41
推 waterlemon: 這種人才是讓硬體大漲的人 59.115.164.57 07/16 14:35
推 jhjhs33504: 120當維基百科很強 27b可即時搜尋粗篩 1.162.120.231 07/16 15:53
→ jhjhs33504: 不同模型強項差異有點微妙看RAM夠不夠 1.162.120.231 07/16 15:55
推 saimeitetsu: Gemma最低E4B,再小的都是垃圾114.136.190.115 07/16 17:40