全村挺一人1/輝達AI革命引焦慮 半導體巨頭罕見齊聚台北大談矽光子
記者:陳曼儂 | 2024-09-17 06:00
因應輝達開啟的AI時代,台灣不得不抱團聯盟來應對接下來的科技要求。(圖/方萬民攝、報系資料照)
「那就是輝達呀!如果不是他們的AI晶片需求,台積電根本不需要去研究『矽光子』,這個完全不是他們的專業。」產業專家不諱言地告訴CTWANT記者,台積電去年提及研究「矽光子」,今年罕見攜手日月光,在9月3日宣布成立矽光子產業聯盟,號召30家廠商一起制定矽光子封裝產業標準,合作面對這項大挑戰。
2022年底ChatGPT崛起而引爆的生成式AI,以及因應而生的大量GPU晶片需求後,對整體半導體的架構產生翻天覆地的變化,也是為因應「全村的希望」、AI晶片龍頭輝達執行長黃仁勳的需求。9月11日的高盛技術會上,黃仁勳講了兩個「難以置信」,一是客戶對最新一代Blackwell晶片的需求難以置信地旺,二是台積電在這領域裡的「敏捷性和響應需求能力,令人難以置信」。
然而這場AI掀起史無前例的機會與焦慮,不但讓台灣最強的業者總動員,還引發全球科技廠的集體焦慮。9月初,全球半導體巨擘齊聚台北南港展覽館的SEMICON Taiwan國際半導體展,各國媒體蜂擁而至、彭博社還設攤直播,就連昔日「王不見王」的台積電與三星這兩家國家級護國神山,也破天荒坐在一起談未來。
CTWANT記者三天觀察發現,包括歐洲、美國及韓國等各國最頂尖的廠商來台結盟綁樁,演講中不像以往大幅吹捧產品,反而把握機會在半導體產業盛會上敞開自家遇上的瓶頸與困難。
「輝達的GPU和所耗費的電力真的很貴,要確保頻寬、電力、延遲沒問題,不然錢就白花了。」邁威爾Marvell公司首席技術官Noam Mizrahi在半導體論壇上表示,目前用GPU做AI運算,有57%時間在等資料交換,對時間和金錢都是一大損失,「光學是唯一可以連結技術,去符合這麼大規模需求,以及解決頻寬延遲等問題,不同數據中心的串聯,也要靠光纖才能辦到。」
「現在GPU和AI加速器是用電連結,若要變成光傳輸,要有不同調變方式、要縮小產品、不同的頻寬密度,才能減少耗能、達到率與成本問題,但這技術沒這麼容易,可能要等兩代之後,才會摸索出對的方向,進入光學無所不在的世界。」Noam Mizrahi提到矽光子技術的困難,是當前最大的挑戰。
微軟全球副總裁 Rani Borkar在論壇說,「我從事這產業30年,第一次看到所有業者都在辯論未來,因為AI是半導體的文藝復興!」就算是龍頭微軟,他們也面臨三大瓶頸,第一是硬體系統沒有趕上AI模型需求,「前端需要的運算,每兩年成長十倍,這速度是摩爾定律的五倍,目前的基礎建置與產品都無法達到他的需求,整個領域面臨平台的重新設計,需要整個產業動起來,包括晶片、封裝、記憶體、基礎建設、冷卻方案、網路、電力等,才能推動AI所需的數據流動。」
第二個瓶頸就是高耗能,Rani Borkar說,AI導致全球電力會在2020年到2026年成長一倍,運算和冷卻方式都要變革;第三瓶頸就是產能展望,「我們看到AI高速成長,要買更多晶片、高效記憶體、更多加速器,說來容易,做起來一點都不輕鬆,打造工廠是重大投資,三四年前就要決定,但預測需求非常困難。」
「現在真正的問題是維持供應鏈的韌性,因為需求起起落落,」Rani Borkar也了解台灣產業在革命的陣痛期,他向在場業者們呼喊「我從心底感謝大家,是你們做出了重大推動。」在克服重大瓶頸的關鍵時刻,「我們現在做的決定,將改變未來。」這些話也證明,台灣業者在這場革命中,已難以置身事外,而且還是在最花錢的第一線。
就算是競爭對手,也得坐下來一起面對。4日登場的「大師論壇」,首度請到台積電共同營運長米玉傑和三星電子總裁李禎培(Jung-Bae Lee)同台,儘管他們在台上沒互動、相敬如賓,但也引發日韓媒體熱議。
「韓國和台灣半導體業者『罕見』尋求更密切關係」,日經亞洲(Nikkei Asian)報導,李禎培這次在台灣說,「三星努力為我們的客戶提供代工靈活性,這意味著合作不僅限於三星」,儘管三星有一條龍自己來的能力,但也暗示著會與外部業者有更多合作。
而韓媒《經濟日報》及《Business Korea》直接加碼報導,三星和台積電要破天荒結盟、共同研發無緩衝(bufferless)的HBM4晶片,計畫2025年下半年量產。而SK海力士總裁金柱善更直接在半導體論壇上「示愛」,這是他今年第10次來台灣,因為台灣半導體重要性與日俱增,台灣與韓國應緊密合作,「如果沒有合作,AI目標不可能達成。」