新創能量 效率、成本、授權商模切入 憑技術卡位推論時代
隨著AI應用進入推論時代，晶片設計由輝達獨霸的算力主導邏輯也逐漸改變，成本與效率的全面考量下，不少新創小廠找到關鍵切入點，試圖在明星雲集的賽道中擠進領先群。 撰文‧譚偉晟 「今年開始，AI迅速從訓練轉向推論！」台積電業務大將、資深副總暨副共同營運長張曉強五月在技術論壇揭示的方向，正是全球半導體的最新焦點。過去輝達獨霸一方的AI晶片市場，隨著推論需求的快速增加，讓多家晶片設計新創迅速竄出頭來。 當中最亮眼的新星，當屬三度上調IPO定價、五月十四日那斯達克掛牌上市後，市值衝破六百億美元的Cerebras。這家總部位於美國加州，成立滿十年，一掛牌就受到資本市場高度關注的公司，憑藉的就是能與輝達匹敵，為AI推論打造的特殊架構晶片，並據此獲得OpenAI數十億美元價值的長期合作訂單。 這背後， 凸顯出市場對於AI推論需求的成長期待。除了Cerebras，被輝達收購的Groq、與英特爾合作的SambaNova，甚至來自韓國的FuriosaAI與Rebellions等新創，也都奔馳在AI推論的商機大路上。 在台灣，同樣有不少懷抱雄心的新創新尖兵，憑藉各自專注的技術優勢，崢嶸而出，譬如滿拓科技、千逢科技、臺灣發展軟體科技、杰發科技等AI晶片新創。它們正邁開腳步，致力切入明星雲集的賽道，爭取跑進領先群。 滿拓科技 微型化增晶片效率 當算力成為珍貴資源，能減少算力浪費的創新技術，具有可觀的商業價值。二○一八年成立的AI晶片新創滿拓科技，鎖定的就是這個方向，並一路跨進國防無人機的AI應用領域。 壓縮模型容量 切入國防無人機市場 「我們團隊很特別，是做EDA（電子設計自動化）工具開始的。」清華大學資工系博士、滿拓科技執行長吳昕益解釋，比起一般晶片設計公司，滿拓更熟悉EDA這個晶片開發核心，「我們能看到更細的問題⋯⋯，像是從CNN（神經網路）到LLM（大語言模型）的AI變換後，晶片的使用效率愈來愈差。」 他舉例，在LLM模型下「用輝達的晶片推論，我發現TPS（每秒產生Token的速度）不管怎麼堆疊算力，大概只有一○％的CUDA Core（通用計算單元）使用，換作TPU（張量處理器）也只有三○％。」觀察到不該有的浪費出現，滿拓團隊決定深入研究，結果發現問題無法透過軟體解決。
▲滿拓科技執行長吳昕益表示，從協助客戶開發IP，目前已跨入AI無人機應用市場。攝影·陳睿緯
千逢科技 通用架構一以貫之 對千逢科技創辦人暨董事長黃錫霖說， 他的職涯就如同AI的發展史，他曾經在聯發科、亞馬遜、蘋果等科技大廠，開發過GPU（圖形處理器）與NPU（神經處理器）項目。這些技術名詞，如今都已成為AI熱門名詞。 在二四年創業時， 他找來大學同學、在高通有數十年資歷的李維興，加入公司擔任技術長，年紀相加逾百的兩人，決心在半導體領域有一番創新作為。「以前，AI模型一改晶片就不能運作，工作起來滿辛苦的。」 談起創業念頭，黃錫霖有著理工人對解決問題的執念，「一直希望能做出不需要重新訓練、可以低功耗，又能精準運行AI模型的晶片，我思考了十年，都不敢跨出。」 
▲千逢科技創辦人暨董事長黃錫霖指出，想開發能滿足多種AI模型的通用晶片，是創業的緣起。取自千逢科技網站
▲Skymizer的創辦人暨技術長唐文力表示，將在COMPUTEX上正式展示自家AI晶片。kymizer提供
▲杰發科技執行長徐國翰（前右3）強調，公司已取得國際級客戶的量產訂單。杰發科技提供
閱讀完整內容 ▲千逢科技創辦人暨董事長黃錫霖指出，想開發能滿足多種AI模型的通用晶片，是創業的緣起。取自千逢科技網站
▲Skymizer的創辦人暨技術長唐文力表示，將在COMPUTEX上正式展示自家AI晶片。kymizer提供
▲杰發科技執行長徐國翰（前右3）強調，公司已取得國際級客戶的量產訂單。杰發科技提供
