UCIe
」 台積電ChatGPT掀狂潮2/兩岸競相發展類ChatGPT 華碩、百度大對決
由ChatGPT所引發的浪潮,美股、台股及陸港股相關概念股都狂飆,大陸科技廠大力發展,台廠則是扮演軍火商的角色,打入供應鏈,從台積電(2330)供應高階GPU到小晶片「Chiplet」,華碩(2357)旗下台智雲也建置參數不輸ChatGPT的BLOOM大模型,就連國發會也宣示要組國家隊,並將提升超級電腦台灣杉2號算力。美股ChatGPT概念股,谷歌母公司Alphabet Inc.(GOOG)及微軟(MSFT)今年最高都漲逾20%,輝達(NVDA)更大漲50%。台股的創意(3443)首破千元大關創新高,世芯-KY(3661)也在暌違5個月之後再上千元。港股中像是漢王科技(002362.SZ)股價從16元人民幣衝上38元人民幣,海天瑞聲(688787.Ss)更從67元人民幣飆漲到244元人民幣,甚至被市場稱之為「妖股」。 陸股漢王科技及海天瑞聲因為搭上ChatGPT題材,股價狂飆,被稱為妖股。(圖/翻攝自富途牛牛)除了股市狂熱外,中國廠商也開始布局相關領域,其中最引發關注的,是搜尋引擎百度宣布,將在3月推出類ChatGPT「文心一言(ERNIEBot)」,是正面回應外,其他包括阿里巴巴、小米、騰訊、字節跳動等,也或多或少有所動作,但並不願透露細節。比較掉漆的是,中國杭州創新公司「元語智能」日前推出中國第一款聊天機器人ChatYuan,號稱要挑戰ChatGPT,不過隨即就因為政府審查而被停用。阿里巴巴也證實,旗下研發單位阿里巴巴達摩院正在研發類ChatGPT的生成式機器人,目前屬於內部測試階段,並未透露更多細節。而達摩院在今年1月所發布的2023年十大科技發展趨勢中也將生成式AI列在首位。阿里巴巴旗下達摩院在今年1月所發布的2023年十大科技發展趨勢中也將生成式AI列在首位。(圖/翻攝自阿里巴巴官網)達摩院指出,在未來三年,生成式AI將進一步市場化,形成更多樣的商業模式和更完善的產業生態。生成式AI模型將在交互能力、安全性和智慧化方面獲得顯著進展,輔助人類完成各種創造性工作。騰訊則指出,有相關布局正在推動,會在機器學習等領域基礎上,持續投入AI技術的研發。另外字節跳動也傳出旗下人工智慧實驗室(AI Lab)有發展類似ChatGPT的技術,不過公司並沒有回應。值得注意的是,ChatGPT需要大量的算力,因此需要大量高階的GPU,而美國已限制高階半導體產品輸往中國,由於近年來小晶片(Chiplet)設計已成為HPC運算處理器主流,是否會是中國突破美國封鎖的方式,也是外界觀察的目標。去年3月,由日月光、AMD、ARM、Google Cloud、Intel、微軟、高通、三星及台積電等10家公司正式成立了UCIe(Universal Chiplet Interconnect Express)產業聯盟,攜手推動Chiplet介面規範的標準化,並推出1.0版本。12月,第二屆中國互連技術與產業大會發布了《小晶片介面匯流排技術要求》,也成為中國首個原生Chiplet技術標準。法人指出,由於AI需要不斷學習,小晶片可以提供對應的功能,加上成本較低,也成為中國解決高階晶片的方式。至於台灣在類ChatGPT的發展,則是以華碩(2357)旗下的台智雲進度最快。台智雲在14日領先全台宣布成為第一個成功建置1760 億個參數的BLOOM(BigScience Large Open-science Open-access Multilingual Language Model)大模型,推出「AI2.0 大算力顧問服務」一站式整合方案。「AI 技術結合大型語言模型已是產業科技發展的趨勢,台智雲的BLOOM大模型成果,資料集包含46種人類語言、13種程式語言,參數量達到1760億個,整體資料量高達1.5TB以上,運用了840個GPU做跨節點(node)訓練,已有高科技研發製造、金融和零售領域企業正在洽談合作中。」台智雲技術長陳忠誠說。國科會主委吳政忠則宣示,台灣也需要有自己的ChatGPT,同時也會升級超級電腦台灣杉2號,以提高算力。台灣杉2號於2018年建成,主要用途是加速推動AI發展,每秒可進行176萬張的AI影像訓練,在之前的新冠疫情中,包括病毒基因演化、蛋白質分析、影像辨識也都進行運算協助抗疫。台灣國科會主委吳政忠宣示,台灣也需要有自己的ChatGPT,同時也會升級超級電腦台灣杉2號算力。(圖/國網中心提供、報系資料照)
ChatGPT掀狂潮3/台廠硬體優於軟體 台積電成最大受惠 IP、封測也有甜頭
面對如浪潮襲來的AI需求,法人指出,對於台廠來說,畢竟還是以硬體優勢為主,因此半導體廠商還是主要受惠族群,預料包括台積電(2330)還是主要受惠廠,另外IP、封測廠也會受惠,至於軟體部分,能受惠廠商就相對有限了。外資券商摩根士丹利(Morgan Stanley)指出,儘管短期生成式AI因為ChatGPT確實有炒作狀況,但是從用戶數等數據來看,生成式AI仍是值得投資人認真看待的題材。而摩根士丹利也選出20檔AI股票未來12個月上漲潛力強大,其中唯一的一家台廠就是台積電,預估其ADR漲幅有望達 66%。AI運算需要大量的GPU,台積電將是主要受惠廠。(圖/黃耀徵攝)研究機構TrendForce表示,AI晶片大致可分為CPU、GPU、FPGA與ASIC(客製化晶片),隨著物聯網設備不斷擴增,例如工業機器人、AGV/AMR、智慧型手機、智慧音箱、智慧攝影機等,加上自動駕駛、影像辨識、語意辨識、運算等技術在各領域深化應用、升級,將催化AI晶片及技術市場迅速成長。在多方需求高漲下,AI晶片勢必迅速成長,預期2026年AI晶片市場規模有望達到930億美元。由於ChatGPT屬於開放源,法人表示,因此勢必會有很多廠商開發相關應用,尤其是新創公司,對於矽智財(Semiconductor intellectual property core,IP)的需求將會增加,也會讓相關廠商有商機,預料包括創意(3443)、世芯-KY(3661)等。其中創意近期就已因為ChatGPT題材而推升股價一度衝過1000元大關,創下1010元的歷史新高。AI也將帶動伺服器需求,伺服器管理晶片廠信驊董事長林鴻明也看好今年營運。(圖/信驊提供)法人也挑出包括威盛(2388)、穎威(6515)、巨有科技(8227)、信驊(5274)、系微(6231)、技嘉(2376)等ChatGPT概念股。至於在小晶片供應鏈部分,法人指出,除了創意外,日月光投控(3711)及欣興(3037)也可以觀察。其中在小晶片生態系的Universal ChipletInterconnect Express(UCIe)聯盟廠商中,唯一的封測廠就是日月光。而小晶片的設計也會搭配更多的先進封裝基板,載板廠欣興也扮演要角。
運算需求遇關鍵問題 英特爾聯合台積電、高通打造先進封裝生態系
上月舉辦的2022國際超大型積體電路技術研討會,英特爾公司資深副總裁暨封裝∕測試開發事業部總經理Babak Sabi,以工程專家與產業領導者的身分,說明先進封裝生態系所遇到的挑戰,並以英特爾的解決方案為例,闡述現在以及未來的推動方向,更要帶動整個產業的標準化,滿足未來運算需求。隨著數位時代對於運算需求的增長,處理器核心越來越多、效能越來越強大,一個關鍵問題將逐漸浮上檯面:「該如何提供足夠的資料吞吐量,才能夠維持高效能、高輸出的運算結果?」大數據進一步催生高頻寬、大容量記憶體的需求,但現實情況無法隨心所欲地提升傳輸所需的功耗,需以有效率的方式傳輸大量資料。Babak Sabi指出,位於處理器核心內部的快取記憶體為靜態記憶體(SRAM)結構,儲存單一位元通常需要6個電晶體,享有幾乎與核心一樣快的速度,倘若加大快取記憶體,則十分耗能且需要不小的矽晶片面積;在處理器封裝之外的系統記憶體為動態記憶體(DRAM)結構,儲存單一位元僅需要1個電晶體和1個電容,設計上針對容量最佳化,提升速度反而不是件容易的事。在這兩者之間,HBM(High Bandwidth Memory)以TSV(Through-Silicon Via)堆疊多個晶粒,單一封裝使用1024bit匯流排寬度,以此提供更大的空間和更高的頻寬,但需要更高密度、更先進的封裝技術,盡可能地將HBM封裝至靠近處理器之處。追求降低每單位位元移動的功耗需求,並持續推動互連頻寬與密度,不僅要求先進封裝需達成全面性的創新,更需要整個產業生態系一同合作,從系統、電路板、封裝再到複合晶粒體(die complex),都有要跨越的城池。英特爾已有推動系統、電路板、封裝、晶粒開發和整合的路線圖,與先進封裝有關的內容包含:系統層級—透過改良後的晶粒和封裝架構,降低每單位位元移動時所需功耗;電路板層級—整合光學傳輸,以便繼續提升頻寬速度與密度;封裝層級—使用次世代熱界面材料(TIM)改善散熱、透過Coax MIL提升電源傳輸效率、共同封裝光學傳輸元件;複合晶粒體—提升晶粒間的互連頻寬,並制定相互溝通的產業標準(如UCIe)。在先前英特爾也宣布將聯合台積電、微軟、三星、高通、超微及日月光投控等科技大廠,共同打造Universal Chiplet Interconnect Express(UCIe)產業聯盟,共同開拓小晶片(Chiplet)生態系,可望成為未來先進製程的新趨勢。