記者陳苗生/綜合報導
中國大陸AI新創「月之暗面」推出大型語言模型Kimi K3,以接近全球前沿模型的能力、較低成本及開放權重策略,改寫AI競爭模式。市場認為,AI投資焦點將由單一GPU與封閉模型,擴大至ASIC、散熱、電力、記憶體及高速材料等基礎設施,台達電(2308)、奇鋐(3017)、雙鴻(3324)、台光電(2383)、南亞科(2408)、華邦電(2344)等台廠可望受惠。

業界指出,Kimi K3採用稀疏混合專家模型架構,每次處理Token時僅啟用部分專家模型,並結合低精度量化、記憶體管理及長文本處理技術,降低GPU運算量及資料搬移負擔。相較傳統大型模型仰賴增加參數與算力,Kimi K3顯示,模型業者也能藉由架構與推論效率改善,以較低成本提供接近前沿的模型能力。
開放權重則讓企業除使用原廠API外,亦可選擇自行部署或建置私有雲,使資料留在內部,降低對單一模型供應商的依賴。法人分析,隨開源模型持續逼近閉源模型,企業未必需要將所有工作負載交由高價API處理,OpenAI、Anthropic等業者的API價格與模型溢價可能承壓。

不過,模型效率提升並不等於AI硬體需求下降。業界認為,當推論成本降低,企業可能增加AI代理程式數量、使用頻率及任務長度;若整體使用量增幅高於單位算力降幅,GPU、ASIC、網路、記憶體及電力需求仍可能擴張。
AI硬體投資也將由單張GPU效能,轉向機架與資料中心的整體系統效率。Kimi K3雖降低單一任務所需算力,但大型模型仍須多顆加速器、高速互連及資料中心級設備承載,多代理程式協作及高併發應用,也將提高伺服器與機架間的資料傳輸需求。

法人指出,模型調度及機架級運算將推升高速連線需求,台光電可望受惠高頻高速銅箔基板用量增加;長文本與高併發推論則需要高容量記憶體支援,南亞科、華邦電雖非HBM直接供應商,仍可望間接受惠整體需求擴大。

此外,隨運算密度及推論總量提高,散熱與電力仍可能成為資料中心擴建瓶頸。奇鋐、雙鴻可望受惠液冷散熱及高功率AI機櫃需求,台達電則持續承接伺服器電源、機櫃供電及資料中心電力基礎設施商機。(圖片/新聞來源:工商時報/工研院/產業科技國際策略發展所)





