


→ ZMTL: 我現在才看到上面那篇文,我很想說我這套也 118.161.5.91 09/28 22:32
→ ZMTL: 差不多10萬把,3090半年前漲價前來算XD 118.161.5.91 09/28 22:32
推 kuninaka: 早知到三年前就買對不對 220.142.51.174 09/28 22:35
→ kuninaka: AI只是把重複作業和冗長的探索都幫你做 220.142.51.174 09/28 22:35
→ kuninaka: 高階抽象的還是要自己來XD 220.142.51.174 09/28 22:35
→ kuninaka: 就跟打孔機 組語 C/C++操作記憶體 220.142.51.174 09/28 22:36
→ kuninaka: script language 一路抽象上來一樣 220.142.51.174 09/28 22:36
→ kuninaka: 最近很多人轉換用更安全的rust 220.142.51.174 09/28 22:36
→ ZMTL: 要multi agent,雲地混串,還要跟服務商鬥智 118.161.5.91 09/28 22:37
→ kuninaka: 也是因為有AI幫忙寫code 220.142.51.174 09/28 22:37
→ gainsborough: 千金難買早知道,不然我去年就買5張 59.126.70.191 09/28 22:37
→ ZMTL: 大腦不夠抽象也不行 118.161.5.91 09/28 22:37
→ gainsborough: 5090了Orz 59.126.70.191 09/28 22:37
→ kuninaka: 抽象思考也要訓練的 220.142.51.174 09/28 22:37
→ ZMTL: 不過我在電蝦板喊VRAM才是王道,3090不死也 118.161.5.91 09/28 22:38
→ ZMTL: 喊了好幾年了 118.161.5.91 09/28 22:38
→ kuninaka: 自從GPT 4出來之後,我睡覺的時間越來越 220.142.51.174 09/28 22:38
→ kuninaka: 少 220.142.51.174 09/28 22:38
→ kuninaka: 滿腦子都是新想法要AI去打工 220.142.51.174 09/28 22:38
→ kuninaka: 就折騰了一兩年才發現記憶體多才是 220.142.51.174 09/28 22:38
→ kuninaka: 王道 220.142.51.174 09/28 22:39
→ ZMTL: 看到有人說3060買8G我都會攔,12G到現在還 118.161.5.91 09/28 22:39
→ ZMTL: 有點用吧 118.161.5.91 09/28 22:39
→ kuninaka: 記憶體永遠嫌不夠多 220.142.51.174 09/28 22:39
→ ZMTL: 記憶體那真的... 想不到 118.161.5.91 09/28 22:39
→ kuninaka: 12GB就玩玩小模型 220.142.51.174 09/28 22:39
→ kuninaka: 8GB能玩的模型很少 220.142.51.174 09/28 22:39
→ kuninaka: 27B要跑的好也要不少記憶體 220.142.51.174 09/28 22:40
→ kuninaka: 現在AI盛行,多卡串聯又回來了 220.142.51.174 09/28 22:41
→ kuninaka: 老黃前陣子丟一個串聯運算協定 220.142.51.174 09/28 22:42
→ kuninaka: NVIDIA PAIR 220.142.51.174 09/28 22:42
→ ZMTL: 我是怕老黃要放生3090了,但反正能用多久算 118.161.5.91 09/28 22:42
→ ZMTL: 多久 118.161.5.91 09/28 22:42
推 march55237: 東西買一買發現deploy比較好玩125.229.172.122 09/28 22:42
→ kuninaka: 串聯多台裝置算力,自動分派任務協同推 220.142.51.174 09/28 22:43
→ kuninaka: 畢竟deploy很有成就感阿 220.142.51.174 09/28 22:43
→ kuninaka: 炫出來的token速度很有感 220.142.51.174 09/28 22:43
→ ZMTL: 反正這年頭除了組裝要靠自已,系統跟軟體 118.161.5.91 09/28 22:43
→ ZMTL: Claude可能比你還熟 118.161.5.91 09/28 22:44
→ ZMTL: 我另外幾臺電腦搞到它可以無頭遙控我都沒懂 118.161.5.91 09/28 22:44
推 Fezico: NVLINK除了工作站外都沒了吧?111.251.181.222 09/28 23:32
→ c752: 回樓上3090跟2080TI有,所以對岸有雙卡2080T 106.1.226.68 09/28 23:45
→ c752: I 22G的玩法 106.1.226.68 09/28 23:45
→ c752: 有推薦16GB VRAM的卡能裝啥嗎? 好像有看到Q 106.1.226.68 09/28 23:46
→ c752: WEN 3.8 27B ridge能用? 106.1.226.68 09/28 23:46
→ ZMTL: 3.8 27B 塞一塞應該塞的進去 118.161.5.91 09/28 23:48
推 YCL13: 近期跑LLM已經朝向針對顯卡開發專屬的模型 59.115.175.159 09/28 23:49
→ YCL13: 或軟體,也有人是用專屬分枝,或許你可以請 59.115.175.159 09/28 23:49
→ YCL13: agents幫你查查近期有沒有合適的27B配3090 59.115.175.159 09/28 23:49
→ YCL13: 的方案,若有速度和上下文應該都可再提升 59.115.175.159 09/28 23:49
推 kimisawa: 16G跑27b別想了 又慢又一堆幻覺或跑不 172.58.116.193 09/28 23:56
→ kimisawa: 完 172.58.116.193 09/28 23:56
推 d030b: 感謝分享 36.226.224.107 09/29 00:08
推 kuninaka: 16GB別硬塞27B拉 220.142.51.174 09/29 00:43
推 mofass: 大大請問你撈時事是用什麼API? 114.43.133.147 09/29 03:47
推 lolicat: 看起來好忙...還好我只打遊戲 123.194.42.140 09/29 06:14
推 hgs1906: 感謝您的分享 114.33.74.238 09/29 06:32
推 aries5420: 推 122.117.59.50 09/29 06:56
推 YCL13: 如果你的16G是N卡,想跑的又是qwen3.8 27B 1.161.188.159 09/29 07:04
→ YCL13: ,那請選用自己顯卡專屬的ninfer版本,只能 1.161.188.159 09/29 07:04
→ YCL13: 性能極為驚人,這個出來,一下子讓一堆人對 1.161.188.159 09/29 07:04
→ YCL13: 本機跑LLM的要求的想法變落伍了 1.161.188.159 09/29 07:04
推 ko363630: 我有64g dram 跟5070ti, 是不是也適合 114.137.38.38 09/29 08:09
→ ko363630: 跑llm 114.137.38.38 09/29 08:09
推 davidlai10: 好奇16G A卡能跑什麼模型? 223.137.78.142 09/29 08:15
→ Sam27: LLM覺得最低還是要24g,但16g跑影音夠了 45.144.227.77 09/29 08:20
→ Sam27: 16g還是可以跑很多小模型,語音翻譯 45.144.227.77 09/29 08:21
→ Sam27: 解馬賽克修照片升頻影片很多,但LLM就算了 45.144.227.77 09/29 08:22
推 YCL13: 關於能不能跑,我是認為如果你就是只有16G 1.161.188.159 09/29 08:33
→ YCL13: VRAM,也不打算加錢升級,那你的選擇就是多 1.161.188.159 09/29 08:33
→ YCL13: 嚐試,而不是聽那些說你不能跑的話 1.161.188.159 09/29 08:33
推 x90050: 現在本地AI的資訊太多太雜,又一堆農場文 220.134.92.156 09/29 08:43
→ x90050: 很多坑要自己進去踩到才知道 220.134.92.156 09/29 08:44
推 dsin: 雙卡3090 27b 不是為了開大上下文嗎? 123.193.194.1 09/29 08:45
→ ZMTL: 之前是啊,但實際上... 反正我還沒讓本地 118.161.5.91 09/29 08:58
→ ZMTL: llm coding,用不到 118.161.5.91 09/29 08:58
推 Tsukasa0320: 好色喔223.137.248.142 09/29 09:24
推 Boston: 好巧 前幾天剛好新裝了 RTX3090 + RTX5080 187.15.88.54 09/29 09:52
→ Boston: 目前是限制功耗 250w 來跑 187.15.88.54 09/29 09:52
→ Boston: 搭配社群上的 HyperQwen 速度還行 187.15.88.54 09/29 09:52
→ Boston: 有空再研究下大大的做法,謝謝分享! 187.15.88.54 09/29 09:53
推 E7lijah: 樓上你那張5080散熱怎麼辦 118.231.137.17 09/29 09:59
推 pxhome: 為何不直接上Linux? WSL2浪費記憶體頻寬 36.230.139.197 09/29 10:03
→ ZMTL: 因為當你買了兩張顯卡後多少會覺得不玩遊戲 49.216.27.149 09/29 10:40
→ ZMTL: 有點浪費… 49.216.27.149 09/29 10:40
推 kuroshizu21: 感謝分享!! 114.47.65.196 09/29 10:52
→ Boston: 5080 散熱我沒處理欸,限制功耗後 187.15.88.85 09/29 10:53
→ Boston: 5080溫度最高 70度,3090 溫度最高60度 187.15.88.85 09/29 10:54
→ Boston: 3090 記憶體溫度最高 94度 187.15.88.85 09/29 10:54
→ Boston: 覺得好像就不需要額外處理散熱了 187.15.88.85 09/29 10:54
→ Boston: 主要是跑 LLM 沒用到 3090 的時脈 187.15.88.85 09/29 10:55

→ pxhome: 這咖機殼散熱好, 透側又有壓克力可以訂製 36.230.139.197 09/29 11:12
→ pxhome: ,我還會想再買一次,改買Closed版,因為 36.230.139.197 09/29 11:12
→ pxhome: 在考慮充分散熱的情況下可以安裝四張顯卡 36.230.139.197 09/29 11:12
→ pxhome: 。 36.230.139.197 09/29 11:12
推 pxhome: 目前單卡滿載150W風扇轉速70%最高溫度77度 36.230.139.197 09/29 11:16
→ pxhome: ,雙卡並行各自90W風扇轉速30%最高不超過6 36.230.139.197 09/29 11:16
→ pxhome: 0度,三卡並行的話各自最高50W風扇0轉不超 36.230.139.197 09/29 11:16
→ pxhome: 過60度。 36.230.139.197 09/29 11:16
→ pxhome: RTX50多卡並行可以降低負載減少發熱,這是 36.230.139.197 09/29 11:21
→ pxhome: RTX30/40沒有的功能 36.230.139.197 09/29 11:21
推 pxhome: 3090的價值不在LLM而是ComyfUI, 文字/圖 36.230.139.197 09/29 11:24
→ pxhome: 片轉影片多卡並行相較於單卡歷時直接砍半 36.230.139.197 09/29 11:24
→ pxhome: 。 36.230.139.197 09/29 11:24
→ ZMTL: 樓上是多卡comfyui嗎?可以怎麼分,參考一下 60.250.61.214 09/29 11:43
→ kuninaka: 生圖事業都做這麼大喔,都組這麼多 1.174.105.237 09/29 12:03
推 march55237: 生圖API貴 抽籤次數多時自組沒比較貴114.136.169.162 09/29 12:05
→ march55237: 而且搞擦邊的也不會被平台打下來114.136.169.162 09/29 12:05
→ ZMTL: 生單張圖不用搞工作流,要為某個專案批亮生 59.124.87.73 09/29 12:25
→ ZMTL: 圖不用本地+自動化是在浪費生命 59.124.87.73 09/29 12:25
→ ZMTL: 想像你今天要做款遊戲,100張卡,工作流做好 59.124.87.73 09/29 12:30
→ ZMTL: 花個一兩小時決定風格,剩下99張不用半小時 59.124.87.73 09/29 12:30
推 wres666: 生圖才不用這麼多卡 肯定是玩H3之類的 124.218.206.38 09/29 12:44
推 Supasizeit: 撈輿情喔 買次級資料比較實在203.204.195.174 09/29 12:46
→ ZMTL: 哦看到有人問我時事撈什麼,基本上就關鍵字 60.250.61.214 09/29 12:51
→ ZMTL: +google 搜尋api,arxiv撈論文,github看熱 60.250.61.214 09/29 12:52
→ ZMTL: 點專案 60.250.61.214 09/29 12:52
推 yymeow: 推個,地端還是RAM要多多益善 60.250.130.216 09/29 14:51
推 visa829: 玩地端真的也是要搶RAM,貴的搶不起只能 116.59.238.144 09/29 15:23
→ visa829: 想辦法找高CP的零件來玩 116.59.238.144 09/29 15:24
→ visa829: 真的不要只看雲端搶算力,忽略了地端現在 116.59.238.144 09/29 15:24
→ visa829: 能做的工作也一直在提高 116.59.238.144 09/29 15:25