🔥 PTT.BEST 批踢踢爆文 💬 八卦 Gossiping 😊 希洽 C_Chat 💰 股票 Stock 🏠 房屋 home-sale 🏀 美國職籃 NBA ⚾ 棒球 Baseball 👛 省錢 Lifeismoney 🚗 汽車 car 😡 政黑 HatePolitics 💻 電蝦 PC_Shopping 🥰 韓星 KoreaStar ✨ 英雄聯盟 LoL 🍿 電影 movie 🪖 軍事 Military 📡 通訊 MobileComm 🏀 台籃 basketballTW 🍼 寶媽 BabyMother 🇯🇵 日旅 Japan_Travel 🏭 科技 Tech_Job 👉 男女 Boy-Girl 👉 真香 CheerGirlsTW 👧 女孩 WomenTalk 👻 媽佛 marvel 💳 卡版 creditcard 👉 NS NSwitch 👉 PS5 PlayStation 👉 大氣 TY_Research 👉 婚姻 marriage 👉 台南 Tainan 👉 台中 TaichungBun 👉 Steam Steam 👉 高雄 Kaohsiung 👉 羽球 Badminton 👉 超商 CVS 👉 米哈遊 miHoYo 👉 iOS 👉 兄弟 Elephants 👉 日劇 Japandrama 👉 玄幻 CFantasy 👉 ES e-shopping 👉 WOW 👉 遊戲交易 Gamesale 👉 4X BaseballXXXX 👉 Lakers 👉 韓劇 KoreaDrama 👉 汽車買賣 CarShop 👉 機車 biker 👉 新竹 Hsinchu 👉 美保 BeautySalon 👉 串流 OTT 👉 歐美影集 EAseries 👉 手機交易 mobilesales 👉 健身 MuscleBeach 👉 MacShop 👉 Lions 👉 FGO FATE_GO 👉 中劇 China-Drama 👉 數位貨幣 DigiCurrency 👉 暗黑 DIABLO 👉 實習教師 studyteacher 👉 航空 Aviation 👉 藝文票券轉售 Drama-Ticket 👉 韓綜 KR_Entertain 👉 美妝 MakeUp 👉 速食 fastfood 👉 手錶 watch 👉 體適能 FITNESS 👉 攝影 DSLR 👉 Headphone 👉 嘻哈 Hip-Hop 👉 轉珠 PuzzleDragon 👉 美食 Food 👉 蔚藍 BlueArchive 👉 數位相機交易 DC_SALE 👉 筆電蝦 nb-shopping 👉 軟工 Soft_Job 👉 汪踢 Wanted 👉 台綜 TW_Entertain 👉 坂道閒聊 SakaTalk 👉 貓咪 cat 👉 日GO BabyProducts 👉 TypeMoon 👉 MLB 👉 職場 Salary 👉 臺劇 TaiwanDrama 👉 海賊王 ONE_PIECE 👉 PMGO PokemonGO 👉 國營 Gov_owned 👉 碧航 AzurLane 👉 家電 E-appliance 👉 布蘭德 Brand 👉 DMMG DMM_GAMES 👉 贈送 give 👉 神魔 ToS 👉 銀行服務板 Bank_Service 👉 原創 YuanChuang 👉 期權 Option 👉 重機 SuperBike
新聞標題: 「HBM之父」:未來AI競爭看記憶體 未來3D架構決勝散熱與供電 中美會追趕上來 新聞記者: 鉅亨網/記者 陳韋廷 新聞內容: 被韓媒譽為「HBM 之父」的韓國科學技術院 (KAIST) 教授金正浩 (Kim Jung-ho) 最新表 示,AI 的本質就是記憶體。 他在接受《東亞日報》專訪時提出上述顛覆性觀點時指出,過去業界過度聚焦模型算法與 GPU 算力,但當大模型實際運行時,注意力機制、上下文緩存 (KV Cache) 與推論生成 的每一個環節,都高度依賴記憶體系統的支撐。 金正浩表示,HBM 透過將多層 DRAM 垂直堆疊,大幅拓展資料傳輸的「車道數」,並生動 比喻稱「傳統記憶像 8 道高速公路,HBM 則是 1024,甚至 2048 車道,未來可能演進至 百萬車道」。 然而,頻寬的提升並未根除瓶頸。大模型在輸出瞬間需頻繁從 HBM 或未來的 HBF(高頻寬 閃存) 讀寫資料,導致 GPU 絕大部分時間處於「等待資料抵達」的閒置狀態。 金正浩估計,即便部署百萬個 GPU,真正用於計算的時間僅約 10%,即便透過演算法優化 ,也很難超過 30%。 為解決「資料搬運」的能耗與延遲問題,金正浩預測未來 AI 運算將走向「以記憶體為中 心」。 他將理想的 3D 架構比喻為一棟百層大樓:「在一樓安裝 GPU,資料只需搭電梯下樓計算 ,整棟樓解決所有事,省去長途奔波。」從 HBM4 開始,部分 GPU 功能將整合進記憶體 結構中。 金正浩還進一步描繪三層異質記憶體指出,速度最快的 HBM(堆疊 DRAM) 扮演百貨公司存 放熱數據,容量巨大的 HBF(堆疊 NAND) 如同公寓樓群存放冷數據,而他提出的 HBS(高 頻寬 SRAM) 則作為超低延遲的緩存。GPU/CPU 將置於頂層,專注於散熱與調度。 金正浩特別點出,輝達執行長黃仁勳近期頻繁訪韓,正因 GPU 微架構的效能成長已近停 滯,且高發熱特性使其難以像記憶體般大規模堆疊。 他認為,未來 3D AI 電腦的供電與散熱能力將成核心競爭力,決定企業生死。這也意味 著擁有 DRAM 與 NAND 雙重技術累積的三星與 SK 海力士,有機會在未來架構中佔據核心 地位。 不過,金正浩也警示,這並非簡單的「GPU 時代」切換為「記憶體時代」,而是 GPU、 HBM、先進封裝、網絡互連與散熱的系統級競賽。 面對中國業者積極自研 GPU/NPU 並帶動本土記憶體發展的追趕壓力,金正浩則對韓國業 界直言:「這是一場關係生存的長期競爭,只能努力活到最後。」 完整新聞連結: https://news.cnyes.com/news/id/6528299 備註: 三星第二季都賺贏輝達了 HBM三大廠加起來賺不知道台積電的幾倍 整個DRAM產業營收已經贏過邏輯ic CPU/GPU算再快沒有記憶體也沒用 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 39.10.64.205 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1783766371.A.213.html
gayst : gpu過剩 崩崩 07/11 18:40
jason168 : 可惜台灣吃不到HBM這塊大餅Orz07/11 18:40
※ 編輯: robertgarcia (39.10.64.205 臺灣), 07/11/2026 18:40:56
DiamondAse : 早說,怎麼不早說07/11 18:42
ggirls : 中韓你們希望誰贏?這可不是大奶的決擇07/11 18:42
kakalin : 單純是記憶體補跟上GPU和CPU 發展而已 這咖太浮誇 07/11 18:43
※ 編輯: robertgarcia (39.10.64.205 臺灣), 07/11/2026 18:44:13
Plumpy : 吹起來 07/11 18:44
kmtkmtkmt : 我記得之前有個鄉民也說過 類似這種 還真的漲起來 07/11 18:45
kmtkmtkmt : 錢真的是留給該賺的人的 07/11 18:46
kmtkmtkmt : 現在買都太慢了 07/11 18:46
weijunW : 中美一大根 07/11 18:46
kmtkmtkmt : 我只有一張50元買的南亞科 買個50.100張 根本發了! 07/11 18:47
white1861 : 記憶體死抱 3年! 07/11 18:48
seemoon2000 : 記憶體的爆發還是來自AI Agent才有的 堆疊上下文 07/11 18:50
seemoon2000 : 模型遲早會有更快速計算的方式 降低堆疊上下文 07/11 18:51
kai55668879 : 樓下darbylu 07/11 18:53
foolwind : 遲早是指50年後嗎 07/11 18:54
bxc : 不早說? 07/11 18:55
poeoe : 資料量就是這麼大 跟什麼演算法也沒啥關係了 07/11 18:56
ssarc : 人家就研究這個的,當然說他最重要 07/11 18:57
poeoe : AI如果要貼近人類思考方式 記憶體用量只會越來越大 07/11 18:59
poeoe : 而已 07/11 18:59
poeoe : 更不用說以後物理模型和自駕對記憶體需求有多高了 07/11 19:00
yurian : 標題太吹 內文他明明有縮… 07/11 19:00
yurian : 目前的傻ai記憶的確是個問題 但現在最大的問題不是 07/11 19:01
yurian : 記憶 而是太貴 現在所有實用ai都在漲價限流 當下還 07/11 19:01
yurian : 是算力 但他說的電力倒是沒錯 但那也是要晶片耗電 07/11 19:01
yurian : 先下降 不然記憶體無用武之地 07/11 19:01
windfeather : 電力:沒有我,你們通通都去踩腳踏車發電 07/11 19:01
PTTMAXQQ : 這意思是做gpu的其實是過剩了 07/11 19:02
PTTMAXQQ : 然後記憶體才是真的缺 07/11 19:02
rahim03 : 現在的算力缺不是GPU不夠 是記憶體數量跟不上 07/11 19:04
kmtkmtkmt : ZZZZZZZZZZZZZ 先定義遲早是多早吧 07/11 19:06
kmtkmtkmt : 講不出來就是空話 07/11 19:07
kmtkmtkmt : 在那邊遲早的可以去放空 我猜你也是不敢吧 07/11 19:07
m180 : 買啥好?dram etf? 07/11 19:08
roder : 記憶體 is over 07/11 19:10
seemoon2000 : 現在記憶體毛利率90% 不合理就是不合理 沒什好說的 07/11 19:10
cafein : 我還以為是泡菜 07/11 19:10
Brioni : 最怕現在存儲就如同600塊的台積電,再飆上去又是消 07/11 19:12
Brioni : 費電子末日 07/11 19:12
sim3000 : 反正我all in 988惹 07/11 19:14
loveponpon : 我有10幾張均價成本200不到的南亞科 07/11 19:19
loveponpon : 也有十幾張均價成本400的南亞科 哭死 07/11 19:19
viginia66 : 記憶體是不是最後一個題材 07/11 19:20
eknbz : 人家就研究這個的,當然說他最重要 07/11 19:22
eknbz : 你訪問做算法的 就會說算法才是靈魂 07/11 19:23
luke0407123 : 台積電趕快漲價喔☺ 別賺輸記憶體 07/11 19:24
bear753951 : 這就是為啥nv沒怎麼漲了,瓶頸在其他地方 07/11 19:25
seemoon2000 : 瓶頸在巨頭快沒錢才是真的 07/11 19:27
brella : 記憶體的新聞真多 07/11 19:29
ben108472 : NV毛利豆包記憶體卡死了,要怎麼漲 07/11 19:29
omanorboyo : 瓶頸在於不是金錢無限 07/11 19:29
ben108472 : 毛利都被記憶體卡死了 07/11 19:29
g27834618 : NV股價也停滯很久了 07/11 19:33
sheep2009 : token要變便宜=>應用要爆發 才有用 07/11 19:33
david850914 : 記憶體再漲影響巨頭現金流 敘事會崩垮 07/11 19:33
mark60917 : 我還以為AI的未來是辛奇 07/11 19:35
tctv2002 : 在貴也會有上限 巨頭不可能無條件支持的 07/11 19:36
lucky466 : 父就是老北,老北就是負 07/11 19:37
julian42 : 瓶頸在金錢沒錯 巨頭一直做不出大賺的應用就會泡沫 07/11 19:37
HiuAnOP : 卡哇 IS OVER! 07/11 19:37
HiuAnOP : 好到2030 07/11 19:38
strlen : 老黃不也頻繁來台灣?跟這個哪有關係 07/11 19:39
gtaped05550 : 怎不早說 07/11 19:40
DustToDust : 記憶體要先變白菜價ai才會起飛嗎 07/11 19:40
bear753951 : 現在就是基建的比拼,再貴都必須建,不能輸別人 07/11 19:40
KY1998 : AI只能成功,失敗連GG也跟著死 07/11 19:41
poeoe : 巨頭們都知道AI是最終決戰 沒人會想落後 連META都在 07/11 19:45
poeoe : 拼命追了 07/11 19:45
tctv2002 : 這樣的話 蘋果或許是真的聰明 用合作方式就好 無 07/11 19:46
tctv2002 : 底洞 07/11 19:46
KY1998 : 其他就是政治問題,美國不會待在原地等中國追上來 07/11 19:47
sunrise1748 : 不妨礙空蛙看空,但是空蛙也不敢真的空 07/11 19:48
jalai : 錯錯錯: 未來AI競爭是全面性的 你CPO做不出來也沒用 07/11 19:50
s213092921 : https://youtu.be/3jABQgcJJyw 前天葉博士也急了, 07/11 19:52
s213092921 : 長鑫也在玩韜定律 07/11 19:52
asws0808 : 幹勒 怎麼不早說,整天鬼故事== 07/11 19:54
qxpbyd : 99 DRAM 07/11 19:58
zaibright : 還是買台灣的專長 晶片製造的部分就好了 現在 07/11 20:00
zaibright : 買記憶體 太慢了吧會整天擔心 07/11 20:00
qweertyui891: 救救988 07/11 20:00
kuominj : 記憶體都跌爛了吧 07/11 20:01
bunjie : 記憶體價格先下來才有機會 07/11 20:13
seacall : 散熱是要動了沒 07/11 20:14
zixiang : HBM之父不吹記憶體要吹什麼 07/11 20:16
cchen : 訂閱了嗎 07/11 20:17
focus0120 : 先前鬼故事組合拳壓價為真 07/11 20:19
karta018 : 下一個,電力大師,AI沒電記憶體也只是垃圾 07/11 20:20
fafcfh : 利多新聞狂發,結果記憶體族群破月線破季線 07/11 20:21
pikachu123 : Hbm 完全跟台灣沒關係啊 07/11 20:22
energy100203: 他很頂嗎 07/11 20:29
littlemisspr: 先進的設備都是貴,以前記憶體也超級貴 07/11 20:29
ksjr : 我們需要的是DRAM之父 07/11 20:29
jason88633 : 這韓國人很有名,喊得非常早..聽他的都財富自由了 07/11 20:29
redsoxortiz : 噴出 07/11 20:29
sheep2009 : hbm+hbf吧 07/11 20:30
david850914 : 先把記憶體打下來才能繼續吹啊 07/11 20:34
raku : 放屁 07/11 20:37
hate56 : 南韓人真的超會自吹 07/11 20:39
raku : 台達電:ai的本質是供電跟散熱 07/11 20:41
poeoe : 他預測很準 今天HBM的盛況完全被說中了 07/11 20:41
raku : 效能瓶頸發生在最爛最慢的地方 現在就是記憶體不長 07/11 20:42
raku : 進卡住 07/11 20:42
KerLu : 閃迪 繼續低調 07/11 20:42
Kobe5210 : 從GPU,到CPU,到記憶體 07/11 20:43
poeoe : 海力士深耕10年的HBM 總算在AI時代起飛了 07/11 20:45
FatFatQQ : 記憶體本來就很重要 07/11 20:48
alberthcc : 確實,人類沒有記憶也只是軀殼;但是有記憶不會提 07/11 20:50
alberthcc : 取出來使用,沒有神經網絡,你記憶體也只是一塊放 07/11 20:50
alberthcc : 資料的抽屜而已,等著發霉。 07/11 20:50
ahg : 呵 07/11 20:50
s1612316 : 算力才是好嗎 不懂裝懂 07/11 20:52
s1612316 : 你腦容量大如宇宙 但你不能思考 不能推理 有屁用 07/11 20:53
sheep2009 : 就短版效應 現在輪到記憶體而已 之後看來是光通 07/11 20:54
TaiwanUp : 好 亞利桑那蓋記憶體廠 07/11 20:54
TaiwanUp : 南亞科 華邦電 前進亞利桑納! 07/11 20:56
bigair888 : 就美光 三星 海力士 07/11 20:56
bigair888 : 其實都要 但是記憶體更重要 07/11 20:57
TaiwanUp : 瓶頸是記憶體頻寬 以上兩家聽命於台積電即可 07/11 20:58
TaiwanUp : 南亞科 華邦電 全力投資記憶體頻寬的研究 07/11 20:58
Luwan : 繼續吹 07/11 21:00
kload : 南朝鮮人又在發夢了 07/11 21:01
b9513227 : 我真的不知道毛利率90%是還能爽多久 07/11 21:02
b9513227 : 被腦粉吹最有錢的狗家都在借錢了 07/11 21:03
kenro : 專訪可以看一下這人說的沒錯,可惜台灣這方面沒做起 07/11 21:06
js70864444 : 裝什麼B 07/11 21:06
tony890415 : 存為王 HBM用的比邏輯多 07/11 21:06
grtfor : 說個笑話 超導體 07/11 21:08
DarkerDuck : 存算一體講很久了,人腦就是存算一體才能超省電 07/11 21:08
DarkerDuck : 而AI真的要商業規模化最需要的的確也是記憶體 07/11 21:08
DarkerDuck : 需要大量算力的預訓練階段已經差不多了 07/11 21:09
koushimei : 厲害 大宗商品可以吹成這樣 07/11 21:12
sdbb : 推黑鴨,押注記憶體技術就對了,但不限於HBM 07/11 21:13
tw411001 : 臺灣記憶體跟HBM有關係的:沒有 07/11 21:13
bnn : compute-in-memory出來又會產生版圖巨變 07/11 21:15
RaiGend0519 : 我只覺得再高的願景最終都要回歸市場支撐 07/11 21:18
jjjj222 : 台積電應該也漲價把毛利拉到80% 07/11 21:19
jjjj222 : 這樣記憶體需求就會下去了 07/11 21:19
rcf150cc : 假日鬼故事+1 07/11 21:23
Altair : 把記憶體吹得比GPU CPU還高 XD 07/11 21:24
jen1121 : CoWoS整合需要台積電認證,當GG吃素嗎 07/11 21:24
Brioni : 看起來還很多人懷疑,代表還有噴發空間 07/11 21:28
amig0123 : 賺太多了 07/11 21:31
pziix : 什麼豬腦袋 才能說出這麼好笑的東西 07/11 21:34
DoraPtt : 記憶體跟GPU包一起看怎麼進步吧 07/11 21:44
raku : 笑死 請問美光台灣廠生產的HBM 算不算GDP? 07/11 21:45
raku : 現在效能也不是卡記憶體頻寬 而是三大廠聯手控制產 07/11 21:47
raku : 能(不大幅擴產)來獲取高額毛利 07/11 21:47
Brioni : 算啊,美光台灣廠算台灣出口額 07/11 21:47
raku : 這種行為不可能長久的 三星海力士也知道 所以在能 07/11 21:48
raku : 賺的時候盡量拉高價格賺 07/11 21:48
Brioni : 目前伺服器生產瓶頸就在HBM,營運瓶頸在電力 07/11 21:48
g9911761 : 台灣沒高階記憶體可惜了 07/11 21:49
Arctica : 99mu!! 07/11 21:50
limulus : 順序很重要,今天並非記憶體先突破而創造出AI的需 07/11 21:51
limulus : 求,是nVidia首先開創出AI,其他周邊才跟著有了發 07/11 21:51
limulus : 展的目標及方向。那麼會吹記憶體,怎沒比老黃早先 07/11 21:51
limulus : 開發出AI?事後諸葛人人都會,但敢砸大錢研發試誤開 07/11 21:51
limulus : 創的人少之又少啦 07/11 21:51
butz85 : 未來無腦,不用記憶體了QQ 07/11 21:53
a069275235 : 不是哲哲嗎 07/11 21:53
Brioni : 記憶體慢計算單元跟快取太多 07/11 21:56
Brioni : 變成計算遷就記憶體速度 07/11 21:57
madeinheaven: 未來就是記憶體內計算 07/11 21:59
silentence : 聽他在喇叭 沒其他深度學習的運算邏輯 靠他 07/11 22:01
KerLu : 講這麼 華西街一個鬼故事 還是跌10%。 07/11 22:01
silentence : 記憶體有屌用喔 07/11 22:01
siki588 : 相信魏哲家 旁邊去玩沙 07/11 22:05
dvr : 笑死 韓國人真的喇吧 07/11 22:07

💰 股票 Stock 版:熱門文章

💰 股票 Stock 版:更多文章