X10
登入免費註冊
免費閱讀29 次瀏覽

前 Intel 執行長 Pat Gelsinger：AI 讓晶片設計變簡單，真正的瓶頸是記憶體、光通訊與電力

站長

前 Intel 執行長 Pat Gelsinger：AI 讓晶片設計變簡單，真正的瓶頸是記憶體、光通訊與電力
半導體人工智慧AI Agent能源投資市場觀點HBM供應鏈雲端

AI 晶片的設計速度正在被 AI 本身大幅加快，但前 Intel 執行長 Pat Gelsinger 提醒：設計變快，只是讓瓶頸換了位置。真正卡住 AI 擴張的，是晶圓製造時間、記憶體頻寬、先進封裝、散熱，以及最根本的電力。

這是 a16z 最新一集訪談的主軸。a16z 合夥人 Raghu Raghuram 與 Guido Appenzeller，邀請現任 Playground Global 普通合夥人、曾任 Intel 執行長與 VMware 執行長的 Gelsinger，從他當年參與 386、486 處理器的經驗，一路談到 AI 晶片的未來、記憶體三十年來的停滯、光通訊取代銅線、電力瓶頸，以及「給 AI agent 用的 VMware」可能長什麼樣子。

對投資人來說，這集的價值在於：它不是在講 AI 有多神，而是由一位做了四十多年硬體的老兵，逐一點名 AI 基礎建設在物理世界會卡在哪裡。以下是聽完訪談後整理的觀點與評論。

誰在對話？

  • Pat Gelsinger：18 歲進 Intel，參與 386 設計、擔任 486 架構師與設計經理，後來出任 Intel 技術長、VMware 執行長，2021 年回鍋擔任 Intel 執行長。現為創投 Playground Global 普通合夥人。
  • Raghu Raghuram：a16z 合夥人，曾任 VMware 執行長，也是 Gelsinger 在 VMware 時期的老同事。
  • Guido Appenzeller：a16z 合夥人，曾在史丹佛任教，長期關注 AI 基礎設施。

先提醒讀者：Gelsinger 所屬的 Playground Global 投資了多家他在節目中提到的硬體新創，a16z 也投資不少 AI 晶片公司，雙方觀點難免帶有立場。以下凡是數字與預測，皆為受訪者的說法。

觀點一：AI 讓晶片設計變簡單，但瓶頸只是換了地方

Gelsinger 回憶，486 是第一顆採用現代電子設計自動化（EDA）方法的晶片，當時連硬體描述語言、自動布局繞線工具都不存在，團隊得自己發明，並與柏克萊的學者合作打下 EDA 產業的基礎。他認為今天 AI 進入晶片設計，很像當年的轉折：多數邏輯電路已能靠 AI 工具與少數專家完成，只有類比電路與高速傳輸介面這類需要大量實測資料的部分還很難交給 AI。

但他馬上點出問題：假設 AI 讓一顆新晶片三個月就設計完成，接下來晶圓廠至少要三個月、先進 3D 封裝再三個月，最後還要整合成整櫃系統，因為「現在已經沒有晶片，只有機櫃」。設計三個月，真正用上卻要九個月，加上規模化與軟體，可能拖到一年半，屆時當初針對的 AI 工作負載早已改變。他舉 Graphcore 為例：設計不差，但世界已經往前走了。

他因此主張，需要新的微影技術，以及不必先花約 5,000 萬美元光罩費就能做原型的設計流程，把從設計到量產的時間壓縮到一兩個月。

小評： 這段解釋了為什麼台積電、封裝廠與伺服器組裝廠在 AI 時代的地位越來越重要。當設計端被 AI 加速，製造與整合的產能與速度，就成了決定誰能把晶片真正送上戰場的關鍵。

觀點二：上百家 AI 推論晶片新創，最後只會剩下少數

Raghu 開玩笑問 a16z 為什麼投了那麼多 AI 晶片公司，Gelsinger 回嗆對方也投了不少。玩笑之外，他的判斷很明確：歷史上任何產業都不曾同時存在上百家互相競爭的處理器廠商，這是暫時現象，終究會收斂。他給了三個理由：

  • 工作負載一直在變：現在流行把推論拆成 prefill、decode 等階段各自用專用晶片，但模型與演算法變化太快，過度專門化的架構幾年後未必對得上需求。他甚至預期推理模型會讓部分需求重新偏向類似 CPU 的架構，而 AI 結合科學運算也會讓高精度計算重新變得重要。
  • 規模決定生死：要勝出必須拿到資本、拿到工作負載、做到量產，一百家公司不可能都成功。
  • 大買家會挑贏家：OpenAI、Nvidia、Anthropic 這類大客戶會選定少數平台，並投入軟硬體共同演進。

Guido 則提出反方論點：過去架構集中，是因為每多一種指令集就得多寫一套編譯器與軟體；如今 AI agent 一夜之間就能寫出最佳化的核心程式，軟體門檻下降，或許能容納更多異質硬體。Gelsinger 承認這會改變部分瓶頸，但他認為一年半的量產週期與動輒數百億美元的資料中心投資，仍然壓抑了異質化。他也提到，像 Nvidia 把 Groq 的技術納入旗下，未來大廠會把異質架構「藏」在自家平台裡面。

小評： 對投資人而言，AI 晶片新創的估值熱潮需要打折看。真正的勝負，可能不在誰的架構最漂亮，而在誰能拿到大客戶訂單與量產產能。

觀點三：HBM 是「很糟的記憶體」，記憶體創新將迎來三十年首見的突破

Gelsinger 形容 HBM 是一種很糟的記憶體，只是目前最好的選擇：位元密度差、頻寬受限於晶片邊緣可接線的長度、耗電與散熱問題嚴重，而 DRAM 偏偏怕熱。偏偏 AI 本質上是一種吃記憶體的工作負載。

他說自己親身參與過至少五種新記憶體架構（包括已停產的 Optane），也看過業界近百種嘗試，但過去三十年真正普及的主流記憶體，依然只有 DRAM、SRAM 與快閃記憶體。過去記憶體產業景氣循環劇烈，往往一年賺錢、四年虧損，很難支撐長期研發。如今情況改變：Guido 指出三大記憶體廠都已躋身全球市值前二十大公司，Gelsinger 估計記憶體產業市值在過去四年增加約 2.5 兆美元。

他的結論是，資本與技術需求的結合，終於足以支撐記憶體創新，三十年來第一次的記憶體突破即將到來。 他看好的方向包括把記憶體與運算更緊密地結合（他點名所投資的 d-Matrix，以及 Cerebras 的作法），以及鐵電材料等能高密度堆疊的新型記憶體；他也透露自己剛投資了一家仍在隱身階段的記憶體新創。至於低成本快閃記憶體或 MRAM 用於 AI，他則不太看好。

小評： 記憶體從景氣循環股變成 AI 核心受惠者，是過去幾年最戲劇化的產業轉變之一。不過新型記憶體從實驗室走到量產往往要很多年，對美光、SK 海力士、三星等既有大廠而言，短期內 HBM 仍是主戰場。

觀點四：晶片堆疊有甜蜜點，工程師正在變成水電工

堆疊會不會越疊越高？Gelsinger 解釋，堆疊層數越多，每一層的良率就必須呈指數級提升，8 層、16 層的良率數學非常難看。他認為記憶體堆疊兩到四層會是速度與成本的甜蜜點；加上電源層、訊號重分布層，一個標準模組其實已經有約八層厚，再加上光通訊所需的化合物半導體材料，是「工程奇蹟、製造惡夢」。

散熱同樣頭痛。他提到鑽石等新材料、直接貼在晶片上的液冷，以及更有效率的供電來減少熱點，自嘲半導體工程師正在變成「水電工」。另外，他對兩種熱門構想都不看好：一是用光纖把記憶體搬出封裝，因為每次光電轉換都耗電，傳輸一個位元的能耗比運算高出約千倍；二是記憶體內運算（PIM），他認為這個概念已經存在二、三十年，未來二、三十年可能還是停留在概念。

小評： 先進封裝與散熱是台灣供應鏈的強項。Gelsinger 的「兩到四層甜蜜點」論點，也提醒投資人別過度期待堆疊層數無限上升的故事。

觀點五：銅線終將退場，2028 到 2029 年是光通訊轉折點

Gelsinger 笑說自己大約 25 年前就宣告「銅線已死」，總有一天會說對。他認為所有 I/O 都應該走向光通訊，但核心的運算與記憶體之間不必。理由是物理已經在推動：讓銅線在 5 公尺內正常運作的成本，已經高過讓光纖跑 100 公尺。

他坦言 Nvidia 的 NVL72 整櫃系統是「工程奇蹟，也是製造惡夢」，業界多花了約一年半才消化；如果光通訊供應鏈更成熟，今天的擴展架構會更好、更省電。他預期 2028、2029 年左右會是共同封裝光學（CPO）等技術大規模導入的時間點，目前的障礙在於散熱、封裝整合與雷射產能，但沒有根本性的難題。

他也引用史丹佛教授 Nick McKeown 的觀點：傳統網路是為「任何封包可能去任何地方」設計的，AI 的資料流卻龐大且可預測，因此更適合光學電路交換。他認為這會模糊「機櫃內擴展」與「跨機櫃擴展」的界線，並預期訓練與推論的分野未來會變小，因為持續學習可能讓推論環境也同步更新模型。

小評： 矽光子與 CPO 是台灣近年熱門的投資題材。Gelsinger 給的 2028 到 2029 年時程，可以當作檢視相關公司營收貢獻的參考座標，但也代表短期內仍以銅線方案為主。

觀點六：能源容量等於經濟容量，電力將成為 AI 的天花板

這是整集最具警示意味的觀點。Gelsinger 說，在 AI 數位時代，能源容量就等於經濟容量。他批評美國過去 10 到 15 年淘汰燃煤的速度和新增再生能源差不多，全國能源容量幾乎沒有成長，等於經濟容量停滯；近幾年雖然加速，依他的估計每年也只成長約 4%。

他點出幾個難題：再生能源供應鏈高度依賴中國；燃氣渦輪機的交貨期他說已經長達約八年；核能是理想的基載電力，但美國已經很久沒有新反應爐上線。因此他預期，買了上百萬顆 GPU 卻沒電可用的資料中心專案，會出現越來越多違約，並認為已經看到第一批警訊。他強調 AI 不會因此停下腳步，但企業會開始重新評估：自己真的有足夠電力，撐得起這些資本承諾嗎？

解方方面，他看好 800 伏特直流供電（他笑稱這是「愛迪生的復仇」）、垂直氮化鎵（GaN）功率元件、固態變壓器，以及冷卻系統的創新；他也指出 Nvidia 近五代晶片每 TFLOPS 的功耗幾乎沒有改善，因此需要改變物理基礎，例如他所投資的超導運算新創 Snowcap，宣稱有機會帶來千倍的能效提升。

小評： 「電力是 AI 的天花板」已逐漸成為市場共識，但 Gelsinger 把它說得更直接：電力不足會直接轉化為資料中心專案違約風險。值得一提的是，他說美國最後一座反應爐上線是約 20 年前，但實際上喬治亞州 Vogtle 核電廠 3、4 號機已分別在 2023、2024 年投入商轉，這句話應視為口語上的誇張。對台灣投資人來說，電源管理、功率半導體、散熱與重電設備，都是這個題材的延伸。

觀點七：給 AI agent 用的 VMware

節目最後，三位前 VMware 人聊回老本行。Gelsinger 認為，每一次技術創新都會帶來新的抽象層，而虛擬機器仍是運算架構中不可或缺的基礎。當 AI agent 大量出現，誰來管理 agent、誰來設定它們的資安規範、誰來監控效能，虛擬化與管理的每個環節都需要在新的運算架構中重新打造，這會催生許多新公司。

Guido 補充，現在的虛擬機器越來越是做給 agent 用，而不是給人用，這會改變產品形態、行銷方式，甚至啟動速度的要求，因為 agent 比人類沒耐心得多，而且你要讓 agent 主動選擇你的服務。Gelsinger 則強調要兩邊兼顧：底層為 agent 最佳化，例如讓 agent 也能像當年的 vMotion 一樣即時遷移；上層則讓人類能設定政策與規範，他以 Anthropic 執行長 Dario Amodei 提出的「憲法」式規範為例。

小評： 這段點出 AI agent 浪潮中常被忽略的一層：基礎設施軟體。當 agent 數量遠超過人類使用者，資安、權限、監控與資源調度的需求都會暴增，這可能是雲端與資安軟體公司的下一個成長來源。

這對一般投資人代表什麼？

  • AI 的瓶頸正在從設計轉向製造。 晶圓、封裝、整櫃系統整合的產能與速度，是台灣供應鏈的核心優勢。
  • AI 晶片新創終將洗牌。 Gelsinger 預期上百家推論晶片公司會收斂到少數，大客戶的選擇是關鍵。
  • 記憶體是長期主題。 HBM 雖有缺點但仍是主流，新型記憶體突破值得追蹤，但量產時程難以預測。
  • 光通訊有明確時間表。 Gelsinger 預期 2028 到 2029 年是共同封裝光學大規模導入的轉折點。
  • 電力是最硬的天花板。 能源不足可能導致資料中心專案延宕或違約，電源、功率半導體與散熱相關產業將持續受惠。
  • 留意講者立場。 受訪者與主持人都投資了節目提到的部分公司，觀點應視為業者判斷，而非定論。

結語

Gelsinger 用一句話總結他的心情：對硬體人來說，眼前是一場文藝復興。AI 把晶片設計變簡單了，卻把記憶體、封裝、光通訊、散熱與電力這些「老問題」重新推上舞台，讓沉寂多年的物理與材料創新再度變得性感。對投資人而言，與其只盯著 GPU，不如順著 Gelsinger 點名的瓶頸一路往下看，那裡才是下一波機會與風險所在。

來源

非逐字翻譯、觀點整理，不構成投資建議。

延伸閱讀