隨著5G和AI新技術的快速發展,對於資料傳輸的速度和效率要求日益提高,能實現高速、低延遲、低功耗資料傳輸技術的CPO,正成為未來科技發展的關鍵。 文●莊家源 隨著5G、生成式AI等新興應用迅速發展,對資料的傳輸量與傳輸速度要求也愈加提高,為了滿足高速低延遲的資料傳輸需求,運用共同封裝模組技術(Copackaged optics;CPO)整合光電元件,使得晶片開發者獲得更多通訊頻寬,不僅能實現高速低延遲的資料傳輸,而且讓傳輸資料時所消耗的電力也大幅減少,符合當今全球低碳節能的要求,也正因為擁有上述之優勢的CPO,將成為下一代高速網通晶片的關鍵技術之一。 今年在上海舉行的世界人工智慧大會(WAIC)上,華為昇騰三八四(CloudMatrix 384)超節點真機首次亮相,該系統由三八四顆昇騰NPU,與一九二顆鯤鵬CPU晶片構建,採用全互連拓墣架構以實現晶片間的資料傳輸,其算力表現十分突出,能提供高達300PFLOPs的密集BF16算力,接近輝達GB200 NVL72系統的兩倍。此外,CloudMatrix 384在記憶體容量和頻寬方面也具有顯著優勢,其總記憶體容量是輝達方案的三.六倍,記憶體帶寬則達到二.一倍,為大規模AI訓練和推理提供了更高效的硬體支持。

▲達志
華為重磅產品登場 儘管單顆昇騰晶片的性能僅為輝達Blackwell架構GPU的三分之一,華為透過大量配置昇騰晶片來實現算力突破,在超大規模模型訓練和即時推理等應用中展現了強大的競爭力。按照中國本土法人的分析指出,華為的CloudMatrix 384解決方案已領先輝達和AMD目前市場上的產品一個世代,並認為中國在AI基礎設施上的突破將對全球AI產業格局產生深遠影響。 輝達執行長黃仁勳也曾公開表示,從技術參數來看,華為的CloudMatrix 384超節點性能甚至超越輝達,比輝達的尖端技術更具優勢。黃仁勳強調輝達必須高度重視華為這家實力雄厚的公司,並全力應對挑戰。黃仁勳認為,華為已明確表態要融合5G與AI技術,這種前瞻性的佈局被視為是完全正確的戰略方向,而輝達也在推進類似計畫,但必須加快進度。 此外,半導體研究和諮詢機構SemiAnalysis指出,華為的工程優勢不僅體現在晶片層面,更展現在系統級的創新,包括網路架構、光學互聯以及軟體優化,這些技術使得CloudMatrix 384能充分發揮集群算力,滿足超大規模AI計算的需求,進一步鞏固其在全球AI產業中的領先地位。 根據Yole預估,全球矽光子市場規模到二○二七年將超過五○億美元,年複合成長率達三○%,其中在全球光訊號互連市場規模將從二二年的○.三八億美元,成長至二八年的一.三七億美元,年複合成長率達二四%,而從二八年以後,由AI、機器學習(ML)需求所驅動的CPO與OpticalI/O為主的產品進一步放量,將迎來新一波成長動能,到了三三年市場規模將再成長至二六億美元,年複合成長率達八○%。 近期摩根士丹利證券(Morgan Stanley)也發布了CPO產業的研究報告,看好CPO市場規模將在二○二三∼三○年間以一七二%的年複合成長率擴張,預計三○年達到九三億美元,並且在樂觀的情境下,年複合增長率可高達二一○%,市場規模將突破二三○億美元。
博通、輝達扮演產業領頭羊 網通晶片大廠博通(Broadcom)在二二年八月推出Tomahawk 4的交換器晶片Humboldt,功耗、成本皆較上一代交換器晶片節省五成,緊接著在二三年三月正式發表Tomahawk 5交換器晶片Bailly,效能持續提升,並於去年開始量產。根據Broadcom提供的數據顯示,一台配備有Tomahawk 5的交換器將能替代四八台二○一四年推出的Tomahawk 1交換器,而目前八○○G模組的功耗為十三∼十五W,Tomahawk 5則可將功耗降至四.八W以下。今年六月,博通再發表新款Tomahawk 6晶片,由台積電三奈米製程生產,新款晶片的頻寬一○二.四Tbps,是上一代產品的兩倍,並延續採用CPO技術,將收發器功能直接整合到交換器當中,有助減少硬體成本並降低功耗。 隨著ChatGPT所帶起的生成式AI對運算需求提升,傳統晶片模組在功耗問題已浮上檯面,因此光纖、晶片整合的CPO技術已成為下一代趨勢,光通訊業者認為,交換器傳輸速度進入八○○G甚至是未來的一.六TB之後,將正式進入CPO的天下。根據Light Counting研究顯示,預計二二∼二七年CPO技術的年復合成長率達十九%,預計在二七年成為資料中心市場主流。 目前市場上除了Broadcom有推出交換器晶片之外,繪圖晶片大廠輝達(Nvidia)在二○年以六九億美元收購Mellanox後也切入交換器晶片領域,專攻高效能運算、資料中心、雲端運算與儲存等市場,目前Nvidia的網路解決方案包括InfiniBand和乙太網兩大類,其中用於基礎大語言模型(LLM)訓練的AI資料中心,客戶可以選擇高效能的InfiniBand交換器(Quantum系列);另外用在AI推理方面,客戶可以選Nvidia的乙太網路交換器(Spectrum系列)。 大摩認為,Broadcom與Nvidia將扮演CPO產業發展的關鍵推動者,其中輝達有望在今年下半年量產Quantum CPO交換器,明年下半年量產Spectrum CPO交換器。
CPO交換器亮相 此外,晶圓代工大廠台積電(2330)在近年舉行的技術論壇中,也展示了矽光子技術研發進度,並表示將在今年完成支援小型插拔式連接器的緊湊型通用光子引擎(COUPE)技術驗證,該技術可應用於一.六T可插拔式光收發器,可降低兩倍功耗,明年台積電將進一步把COUPE技術整合到CoWoS封裝中,實現光連接直接導入封裝,可降低五倍功耗,Nvidia在今年三月舉行的GTC大會上宣布,Quantum-X Photonics InfiniBand和Spectrum-X Photonics Ethernet即採用台積電的COUPE封裝技術,分別於今、明年問世。
由於矽光子屬於半導體前端製程的一環,隨著電晶體密度持續增加,資料傳輸量持續提升,對耗能的要求必須更有效率,在這些之各項要求下和現有的金屬材料銅線的極限有所衝突,光是目前業界的唯一解方,法人看好台灣因擁有從晶片設計、晶圓製造前與後段、伺服器系統、光通訊元件、光電模組、測試與設備等完整供應鏈,重點關注台積電、日月光投控(3711)、上詮(3363)、萬潤(6187)等核心業者,其中,在光纖陣列元件(FAU)領域存在獨特優勢的上詮,作為首階段唯一的FAU供應商,上詮憑藉與台積電的密切合作關係、卓越的產品品質等優勢,在產業鏈中占據關鍵地位,隨著採用CPO技術的交換器陸續推出,上詮後續獲利表現值得關注。 由於矽光子屬於半導體前端製程的一環,隨著電晶體密度持續增加,資料傳輸量持續提升,對耗能的要求必須更有效率,在這些之各項要求下和現有的金屬材料銅線的極限有所衝突,光是目前業界的唯一解方,看好台灣因擁有從晶片設計、晶圓製造前與後段、伺服器系統、光通訊元件、光電模組、測試與設備等完整供應鏈,未來矽光子產品的量產關鍵在於成本與自動化,若成功整合各領域資源,將成為台灣發展矽光子產業的優勢。
閱讀完整內容本文摘錄自
CPO+光纖傳輸 下一波兵家必爭
先探投資週刊
2025/8月 第2366期
相關