SemiAnalysis最新訪談：儲存還有翻倍空間，CPU只是配角，CPO落地推遲至2029年

AI基礎設施的每一層正同步承壓，機遇與誤判並存。SemiAnalysis創辦人Dylan Patel近日接受播客專訪，系統梳理現今AI基礎設施棧的核心動態及投資邏輯。他的判斷涵蓋模型經濟學、記憶體超級週期、CPU重新定價、CPO的時程風險，以及數據中心能源供給的結構機會。

針對市場對AI投資報酬率（ROI）的普遍質疑，Dylan透露，Anthropic今年第二季度已實現自由現金流轉正，年化經常性收入突破500億美元，毛利率超過70%。在企業端，最新AI模型推動的生產力飛躍遠超算力成本增長，企業遂裁減其他軟體支出，以維持爆炸性增長的AI預算。

在硬體演進層面，向推論模型的典範轉移正重構市場需求。Dylan強調，記憶體正面臨長達數年的結構性短缺，仍有2至3倍的上行空間；與此同時，雖然智能體與強化學習推高CPU需求，但賣方市場定價過高，CPU成長主要來自過去的「補帳」，在AI伺服器中的絕對價值仍遠不及GPU。

Dylan認為，備受市場期待的共封裝光學（CPO）大規模落地時程，已確定延後至2028年底至2029年，意外延長了銅纜連接器的紅利期。而電網輸配受限，正迫使數據中心轉向「表後電源」（自建電源），在傳統晶片投資之外，催生龐大的工業能源和電力轉換供應鏈投資機會。

Anthropic率先自我造血，AI需求敘事開始落地

對於市場上關於AI企業ROI的質疑，Dylan Patel給出了具體數據作為回應。

「Anthropic在第二季度已經實現了自由現金流轉正，4月盈利，5月盈利，6月看起來也會如此。」他表示，Anthropic年化經常性營收已超過500億元，毛利率超過70%。OpenAI的營收也伴隨Codex採用率提升快速成長。

SemiAnalysis自身的支出軌跡也印證了這一趨勢。去年11月，公司90人團隊年化AI支出不足10萬美元；到今年1月底，因Claude Code大規模推展，該數字飆升至400萬美元年化支出；目前已達1100萬美元，週峰值年化一度觸及1400萬美元。「員工人力成本加上AI成本，AI這部分已超過三分之一，年底前很可能達到一半。」

他同時指出，更新、更強的模型在實際使用時不見得更貴。舊模型可能需10萬個token、10次互動才能完成任務，新模型可能僅需2.5萬個token、1次互動。「每次模型從4.6 Opus升級到4.7 Opus，我們的支出會先下滑一週，然後又飆升——因為大家一看，以前做不到的事現在做到，就開始大量使用。」他認為，這也是Anthropic在與OpenAI競爭中居優的核心原因之一：token效率更高，終端用戶總成本更低。

記憶體：結構性短缺，而非一般週期

在所有硬體品類中，Dylan Patel最堅定的判斷在於記憶體。

「這不是短期短缺，而是將持續多年的結構性短缺。」他指出，記憶體產能每年僅增20%至30%，而AI端需求則不斷翻倍，二者缺口將持續擴大。

推動這一判斷的核心邏輯來自推理模型對KV緩存的衝擊。傳統對話式推理的上下文長度以千token計，KV緩存消耗有限；但自o1等推理模型出現後，上下文長度驟增，KV緩存驟然暴漲，記憶體成為最直接的受益品類。SemiAnalysis於2024年12月即發布報告，專門指出此一趨勢。

供給端的僵固限制將迫使下游市場重新分配有限記憶體資源。他預測，價格彈性低的消費類電子將率先承壓——中低端手機廠出貨量已下降40%，iPhone與MacBook明年價格將上漲。「記憶體會持續漲價，消費電子被擠壓到新的水位，直到AI獲足所需記憶體，才算真正到位。」他補充，即便週期下行屆時來臨，「從波谷到波谷，長期增長是無庸置疑的。」

CPU：補缺行情有限，勿過度外推

CPU是今年AI基建敘事中的新主角，但Dylan Patel對此持明確警示立場。

CPU需求復甦邏輯明確：強化學習需大量CPU做環境驗證（代碼單元測試與模擬操作等）；智能體推理要求模型頻繁調用工具、與現實世界互動，這些高度依賴CPU算力。與此同時，過去數年AI晶片大規模出貨，配套CPU嚴重不足，目前正集中補缺，ARM、Intel、AMD皆受益，Nvidia Vera CPU也給出200億美元營收指引。

「但我要給一個重要警示：這裡面有大量補缺效應。」他表示，一旦過去欠帳補齊，後續僅剩增量需求，需求將回歸正常。以絕對金額論，Blackwell一顆約5萬美元，CPU約5000美元，縱使CPU數量配比增加，美元規模仍遠低於AI加速晶片。「記憶體和AI加速晶片才是重頭戲，CPU僅是低估後的重估，目前已較合理定價，但不會無限期高於AI晶片增速。」

光互連：長線看好，短中期慎對CPO

網路與光學互連亦為市場情緒沸騰領域，但Dylan Patel對CPO（共封裝光學）落地節奏持審慎態度。

「CPO真正大規模量產，我判斷在2028年底到2029年。」他指出，目前製程良率、晶片設計與供應鏈成熟度均未達大規模部署要求，而Nvidia Rubin及其後續Feynman架構仍將採全銅方案，CPO在GPU端仍須等待數代晶片迭代。

他透露，SemiAnalysis上週剛向機構訂閱客戶發布報告，短中期更看好銅纜與非CPO光學方案，對CPO持謹慎態度。部分下游晶片設計變更（如Rubin Ultra的Kyber去掉800V設計）進一步推遲了CPO落地時程。Amphenol等銅纜連接器公司因此將受益更大。

「CPO長線終會實現，銅纜終將被取代，但時間推遲，短中期銅纜依然有極大機會。」

電力：自建電源將成主流，創新浪潮多元

數據中心的電力供給正成為AI增長最剛性的物理約束。依Dylan Patel預測，新增數據中心用電今年20GW，明年30GW，後年50GW，增速幾近爆炸。

他將能源問題拆解為三個維度：輸電、發電與轉換。輸電為最難突破瓶頸，涉及監管、地方電力公司壟斷結構與成本分攤，短期難改。發電與轉換則機會眾多。

他預計，未來數年新增數據中心用電的半數將來自「表後電源」（behind the meter），即企業自建電源，而非依賴公有電網。現主流方案為聯合循環燃氣機組（CCGT），供應商包括GE Vernova、三菱、Siemens等；也出現了活塞發動機、工業燃氣輪機甚至改裝船用、火車、卡車引擎的非傳統方案。「聽起來粗獷，但已經在實際應用。」

更長遠來看，他判斷約兩年內太陽能加儲能的綜合成本將低於燃氣發電；遠期則是太空數據中心——將計算晶片部署至軌道，太陽能電池板無需穿大氣層，能量密度遠超地面，亦無需儲能。

轉換端同樣充滿投資機會，從IGBT、碳化矽至氮化鎵MOSFET，固態變壓器、UPS和超級電容，整條電壓轉換鏈正快步進化。SemiAnalysis目前規模最大之研究部門，已非半導體，而是內部稱之為「DEI」（數據中心、能源與工業）團隊，追蹤全球每座數據中心與發電廠部署情形。

以下為專訪全文：

主持人：歡迎回到下一件大事播客。我是主持人，今天與我同行的有同事Klay Hyman，以及我們的新合夥人、SemiAnalysis研究機構創辦人Dylan Patel。今天是很特別的一天，將與Dylan一起深入探討AI基礎設施當前全景。Dylan的內容我一直持續關注，他的播客曝光率極高，SemiAnalysis的新聞通訊也一直是我的必讀清單。最近他們有篇關於太空數據中心的深度報告，有興趣的朋友可以參考，非常詳盡。

Dylan，我非常想聽你聊聊SemiAnalysis創立的最初經歷。我知道在Substack社群內，大家最近都在談這家公司營收與成就，但我覺得很多時候，大家往往只看到現在的成功，卻忽略了途中歷程和多少付出。

SemiAnalysis的起源

Dylan Patel： SemiAnalysis的起源其實來自網路發言——用不那麼嚴肅的說法就是「灌水」。回頭看我最早寫半導體網帖時，大約十幾歲，我就在網路上寫晶片、智慧手機、關於智慧手機螢幕和SoC的帖子，但自己都還沒有智慧手機，只是痴迷於此。遊戲硬體、PC硬體、主機硬體也是，總之我一直到處發文。

我們團隊現在已有90人了，甚至有專職市場部門。他們常半開玩笑的抱怨說：「Dylan，別再回那些網絡噴子留言了，這樣讓公司形象很不專業。」但我內心還是有個警鐘——有人批評我我就想親自回應。這可能不是什麼好習慣，可真的就是這樣。

整個青少年時期我都在管理這些論壇。等開始賺錢後，我就踏入投資圈。後來我擔任兩份量化交易員工作，再自己創業，但一路上始終不斷發帖。我有時會用匿名博客，匿名寫文，但2020年我已對原本的工作失去熱情——量化交易員的幻滅感就是這樣，你的確能賺到錢，但其實沒想像中光鮮。於是我基本離職，開始創業。

當時我也不確定這條路能走多遠，就在自架的WordPress站上用真名發文，主題涵蓋科技、商業、金融、供應鏈等我最感興趣的領域——因為我出生於小型生意家庭。我在Georgia州一個鄉下汽車旅館長大，父母經營這家旅館，就住在裡面。後來我們開了加油站，所以我從小做生意，一直非常喜歡商業。

後來WordPress站轉投Substack，開始收費，文章橫跨整個半導體與AI供應鏈。四年間我走遍全球，一年參加40場會議——從AI研究者頂級學術會至某種芯片原料產業小型會議，從伺服器到網絡、到晶圓製造，上下游全棧都走遍。有些會只有300人，全程日文，只有五人講英文我也照去。也有一兩萬人大會都去。連續三屆之後，才算真正進入圈內、認識人、問到有深度的問題，整個生態體系在你腦中搭起來。

SemiAnalysis的發展與團隊建立

Dylan Patel：我一直關注技術「拐點」——每次在會議上察覺某項技術或供應鏈變化，我都能判斷它如何影響供應鏈或財報。有的報告純技術向，資本圈根本不在乎；但有的報告則能清楚講出這是瓶頸、這是轉折點、哪家公司憑新技術將拿下大量市場——而且我能比市場或任何避險基金分析更早說出來。

第三位夥伴Myin，以前在避險基金工作，搬去日本陪太太，是個「自由人」。他是首位有基金背景的成員，另兩位則為技術背景。他加入後，我們就開始做財務模型，事業從純新聞擴展為信息服務、研究報告銷售與數據集銷售。

自此滾雪球般成長。2023到2024人數從2至7人；2024年底至2025年初，從7到20人；2025~2026又從20到60人；今年又增30人，目前共90人。

SemiAnalysis最令人振奮的是人才密度——我不知道有哪家公司能如此聚焦積澱。我們有來自ASML、應用材料、泛林半導體的建設設備人員，有Intel、台積電、Nvidia、Microsoft、Amazon的資深員工，有人曾在OpenAI做模型，也有人曾在TESLA負責FSD，有Cohere資深研發，有數據中心建設專家，亦有曾在哈薩克建發電廠的——這種人才密度真的很誇張。約一半是各層級工程師、另一半是原避險基金人士或從網路挖來、充滿熱情的聰明人。

現今SemiAnalysis多條業務線：數據服務、諮詢、信息服務、新聞通訊、媒體，還有即將舉辦的大型會議，堪稱精采旅程。

英偉達GTC現場與「算力之王」腰帶

主持人：說到勇敢的旅程，我想起一個特別深刻的時刻。WisdomTree 和 SemiAnalysis 已合作好幾個月。今年三月的Nvidia GTC大會，我在北卡夏洛特看直播，據說同期有5.5萬人在線觀看，現場體育館有2萬人。

Dylan Patel：對，現場確實有2萬成年聽眾。

主持人：黃仁勳在台上直接點名你，說你認為他「沒攤開講」某個數字，你製作的圖表也直接投影到大螢幕。我當時——我猜是替你——都覺得激動，看到全球市值最高公司CEO當場回應你的研究，回應你對他部分數據說法的質疑。能分享當時場面嗎？聽說你根本就在火熱現場。

Dylan Patel：那一晚真的是超現實。SemiAnalysis其中一項業務，是有一批工程師專責針對所有開源AI模型及硬體做開源基準測評，這其實很不起眼。我們與業界保持緊密合作：硬體方面，從OpenAI、Microsoft、Amazon、Google、Coreweave、Nebius、Crusoe等公司獲得超過5000美元硬體捐贈，Oracle也捐硬體讓我們運行這些評測。