台灣杉2號
」 華碩 台智雲![alt](https://static.ctwant.com/images/cover/26/259326/sm-80e9dfd90bf86df098e03059ceda1b99.jpg)
70歲AI衝浪王1/施崇棠掌舵30多年功力發威 華碩2個月火速建置台版Chat GPT「福爾摩沙大模型」
生成式AI熱潮掀起之際,台灣不落人後,與ChatGPT3.5同級的「福爾摩沙大模型」(Formosa FoundationModel,也可稱Formosa Chat)在5月17日亮相,它不但是首個繁體中文商用AI大模型,還可選擇地端(企業自家機房)建私有雲,它所需的超級算力「台灣杉2號」,幕後關鍵推手全是今年70歲華碩董事長施崇棠。「他(施崇棠)會念很多國外AI論文,跟我們討論。」台灣杉2、3號主持人、台智雲總經理吳漢章說,「去年底生成式AI出現、Chat GPT橫空出世,他看到『生產力革命』已經到來,並認為「『算力』將是驅動未來數位經濟,最重要議題。」在施崇棠一聲令下,吳漢章與超級電腦團隊待命,使用Bloom-zh繁體中文大模型開源,火力全開密集訓練、快速建置出福爾摩沙大模型,不到兩個月就在華碩AI超算年會中面世。近年鮮少出席公開場合的施崇棠,親自出席自家的超算年會,發下豪語要打造「AI Foundry」,興致勃勃地站在AI浪尖上,再展事業雄心,一如他27歲進入宏碁電腦,進入電腦產業「有幸躬逢其盛」,十年後成立「華碩電腦」,「開創一家電腦技術天下無敵的公司」初心。在全球PC市場裡,華碩(ASUS)與宏碁(Acer)「雙A」品牌各擁一片天,而在詭譎多變的市場中,施崇棠不時運用孫子兵法策略,例如「蛇」般靈活推出主流產品頭尾夾擊,以「巨獅」做大衝量吃市佔、「銀豹」衝刺利基高值化產品,為業界津津樂道。在2017年11月華碩首款家庭智能機器人「小布(Zenbo Qrobot)」誕生,這款陪伴型機器人會說故事、教英文、打電話、拍照。(圖/報系資料照)這位前參與打造台灣成為電腦王國的大將,從電腦、筆電、手機做到伺服器,2015~2017年間面臨營收連續3年下滑,始終無法突破集團總營收5千億關卡,施崇棠清楚觀察到,筆電、PC及手機市場成長到了天花板,轉向AI人工智能尋求突破機會。在2017年11月,華碩推出首款家庭智能機器人「小布(Zenbo Qrobot)」見面會在北京舉行,這款會說故事、教英文、打電話、拍照的陪伴型機器人,一度造成轟動,儘管當時營收獲利貢獻有限,能量迄今延續到智慧醫療領域。2018年,華碩斥資百億進軍智慧醫療,施崇棠還親自挖角有微軟及Google經歷的黃泰一,在淡水總部大樓裡打造百人AI部隊智慧醫療,並與廣達、台哥大等參與打造台灣超級電腦台灣杉2、3號,吳漢章表示,基於各國家、文化、產業等情境不同及資安考量,「台灣需要一個基於本土算力的語言模型。」兩年前華碩進一步成立「台智雲」,接手台灣杉2號營運。從3C產品「硬體」切入AI算力「軟體」,施崇棠保持「躬逢其盛」,尤其Chat GPT去年底問世後,整個華碩的AI團隊通通上緊發條,他們很快發現,「因為ChatGPT生於美國,繁體中文資料比例低於0.1%、簡體中文資料不超過2%」,華碩營運長暨台智雲董事長謝明傑指出,「大部分是英文的腦,中文的腦相當少。」因此今年二月間聯發科將繁體中文生成式AI「BLOOM-zh」開源釋出後,台智雲靠著台灣杉2號超級算力,使用「BLOOM-zh」建置福爾摩沙大模型,大量「餵入」1760億個參數、比Chat GPT3.5還多10億個,相較於Chat GPT資料停留在2021年9月,福爾摩沙大模型持續更新資料;如此可以降低答非所問、「跟使用者道歉」的機率。「可以把『參數』理解為人類的神經元,讀了越多書、資料庫越多」,華碩雲服務事業部主管在AI超算年會現場展示攤位解釋,Formosa Chat除了繁體中文環境,還會講英、日、德、越南等46種語言,像是個飽讀詩書的大學生,正在實習,7月就開始正式到社會工作,「一些翻譯、分析企劃,寫簡單新聞稿、程式的工作,可以交給他」,目前規劃僅限企業使用。「每個問題是獨立的,別人不會知道你問了什麼,具高度隱私與資安防護。」依各行業需要的不同,如零售、電商、SaaS(軟體服務)等,會有相應的語言模型。這個生成式人工智慧雲即將在7月開放客戶申請,一個月費用約6萬元。台智雲華碩營運長暨台智雲董事長謝明傑(左)、台智雲總經理吳漢章(右)領軍團隊,已拜訪數百家機構,有成功替新加坡商場建立保全服務經驗。(圖/趙世勳攝)最近OpenAI執行長阿特曼(Sam Altman)應邀求出席美國參議院司法委員會聽證會,就是被詢問AI風險控管,而華碩已經提出解決方案-台智雲全球首創的服務「AFSAppliance(大型語言模型地端部署)」,內有散熱模組、2個CPU、32支記憶體,輝達A40視覺運算GPU則可依需要選1~8組,依不同需求,價格落在60~300萬,「如果醫療、金融、法律、製造、會計等,具機敏性、規範更高的企業,或訂製服務,就可以購買AI伺服器,放在公司裡變私有雲」。「福爾摩沙大模型,將是東南亞最安全語言模型。」吳漢章指出,台智雲有200人研發團隊,已經拜訪數百家機構,有成功替新加坡商場建立保全服務經驗:「客戶如果是企業自建AI團隊,會需要20個以上工程師、千倍以上的成本。」尤其對人力精簡、又需要算力的中小企業來說,是最佳解決方案。問及訂單情況,他含蓄表示:「不缺客戶。」
![alt](https://static.ctwant.com/images/cover/27/259327/sm-343e7971e41d44df45c9d2e7b9f6af68.jpg)
70歲AI衝浪王2/Formosa Chat讓台灣接軌生產力革命時代 「打造台智雲成AI界台積電!」
華碩旗下台智雲日前發表「福爾摩沙大模型」,讓台灣在生成式AI大浪不落人後,主要歸功於超級電腦「台灣杉2號」,這是東南亞唯一的高階商用AI算力。「台灣擁有比鄰近國家,更優越的算力動能,已進入AI2.0時代。」參與打造台灣超級電腦的華碩董事長施崇棠說。全球僅25座商用AI超級電腦,台灣杉2號是其中之一,由此可見算力的稀缺性;台智雲總經理吳漢章是當時競標超級電腦的團隊主持人,指出當時有國內外數個團隊積極參與,不過團隊以算力勝出,而且評審團相當看重技術自主,造就本土團隊的優勢。台灣杉2號是在陳良基科技部長任內的建設,他5月17日出席超算年會時指出,儘管現在AI就在眼前,當年他推動時並不容易,所幸施崇棠、廣達董事長林百里、及台灣大哥大董事長蔡明忠跳出來,加上輝達(NVIDIA)參與合作,才讓台灣杉2號做起來,甚至在當年度成為全球排名前20、能源效率前10名的超級電腦,「這是台灣不曾有過的佳績」。華碩 AI 雲創園區。(圖/趙世勳攝)台灣杉2、3號是2018年國家以前瞻基礎建設預算,3年斥資30億打造的AI超級電腦,由國網中心負責設計監造、台灣大哥大建置符合國際標準的機房建置及電信級資安維運、廣達則是資料儲存平台、華碩執行雲端服務平台及AI應用整合。台智雲今年並再度參與台灣杉4號,從國家超級算力基礎建設,累積打造生成式AI國家隊5年經驗。兩年前,科技部將台灣杉2號商業營運權與團隊授權移轉到台智雲之後,如今出現生成式AI「福爾摩沙大模型」,現在無論多大、多小規模的企業級客戶,都能使用這座斥資50億打造的超級電腦。輝達台灣區業務暨行銷副總裁邱麗孟認為:「尤其台灣是貿易之島、很多中小企業,又有很強ICT能量。」輝達2017年起與華碩頂尖超級電腦團隊合作,參與台灣杉2、3、4號建置,如今再次協助台智雲成為亞洲唯一、提供商用AI超算服務的雲端服務業者。施崇棠希望復刻「過去30年,半導體製造能力與電腦產業生態,令台灣變成世界不可忽視的ICT產業重鎮」經驗,他發下豪語,要進一步打造「台智雲成AI界台積電、AI Foundry」,建立起跟半導體一樣成功的商業模式,他認為在AI2.0新生態,創造連結夥伴也最重要的功課之一,也能藉此延續台灣的科技實力。(左至右)華碩雲端暨台智雲總經理吳漢章、台灣大哥大資訊長蔡祈岩、華碩副董事長徐世昌、前科技部長陳良基、華碩董事長施崇棠、台灣雲端物聯網產業協會理事長李世光、NVIDIA全球副總裁暨台灣區總經理邱麗孟、華碩營運長暨台智雲董事長謝明傑出席台智雲 2023超算年會,陣容浩大串接台灣供應鏈。(圖/趙世勳攝)
![alt](https://static.ctwant.com/images/cover/21/239721/sm-dc129fc796a6bcaf93db1654fb800695.jpg)
ChatGPT掀狂潮2/兩岸競相發展類ChatGPT 華碩、百度大對決
由ChatGPT所引發的浪潮,美股、台股及陸港股相關概念股都狂飆,大陸科技廠大力發展,台廠則是扮演軍火商的角色,打入供應鏈,從台積電(2330)供應高階GPU到小晶片「Chiplet」,華碩(2357)旗下台智雲也建置參數不輸ChatGPT的BLOOM大模型,就連國發會也宣示要組國家隊,並將提升超級電腦台灣杉2號算力。美股ChatGPT概念股,谷歌母公司Alphabet Inc.(GOOG)及微軟(MSFT)今年最高都漲逾20%,輝達(NVDA)更大漲50%。台股的創意(3443)首破千元大關創新高,世芯-KY(3661)也在暌違5個月之後再上千元。港股中像是漢王科技(002362.SZ)股價從16元人民幣衝上38元人民幣,海天瑞聲(688787.Ss)更從67元人民幣飆漲到244元人民幣,甚至被市場稱之為「妖股」。 陸股漢王科技及海天瑞聲因為搭上ChatGPT題材,股價狂飆,被稱為妖股。(圖/翻攝自富途牛牛)除了股市狂熱外,中國廠商也開始布局相關領域,其中最引發關注的,是搜尋引擎百度宣布,將在3月推出類ChatGPT「文心一言(ERNIEBot)」,是正面回應外,其他包括阿里巴巴、小米、騰訊、字節跳動等,也或多或少有所動作,但並不願透露細節。比較掉漆的是,中國杭州創新公司「元語智能」日前推出中國第一款聊天機器人ChatYuan,號稱要挑戰ChatGPT,不過隨即就因為政府審查而被停用。阿里巴巴也證實,旗下研發單位阿里巴巴達摩院正在研發類ChatGPT的生成式機器人,目前屬於內部測試階段,並未透露更多細節。而達摩院在今年1月所發布的2023年十大科技發展趨勢中也將生成式AI列在首位。阿里巴巴旗下達摩院在今年1月所發布的2023年十大科技發展趨勢中也將生成式AI列在首位。(圖/翻攝自阿里巴巴官網)達摩院指出,在未來三年,生成式AI將進一步市場化,形成更多樣的商業模式和更完善的產業生態。生成式AI模型將在交互能力、安全性和智慧化方面獲得顯著進展,輔助人類完成各種創造性工作。騰訊則指出,有相關布局正在推動,會在機器學習等領域基礎上,持續投入AI技術的研發。另外字節跳動也傳出旗下人工智慧實驗室(AI Lab)有發展類似ChatGPT的技術,不過公司並沒有回應。值得注意的是,ChatGPT需要大量的算力,因此需要大量高階的GPU,而美國已限制高階半導體產品輸往中國,由於近年來小晶片(Chiplet)設計已成為HPC運算處理器主流,是否會是中國突破美國封鎖的方式,也是外界觀察的目標。去年3月,由日月光、AMD、ARM、Google Cloud、Intel、微軟、高通、三星及台積電等10家公司正式成立了UCIe(Universal Chiplet Interconnect Express)產業聯盟,攜手推動Chiplet介面規範的標準化,並推出1.0版本。12月,第二屆中國互連技術與產業大會發布了《小晶片介面匯流排技術要求》,也成為中國首個原生Chiplet技術標準。法人指出,由於AI需要不斷學習,小晶片可以提供對應的功能,加上成本較低,也成為中國解決高階晶片的方式。至於台灣在類ChatGPT的發展,則是以華碩(2357)旗下的台智雲進度最快。台智雲在14日領先全台宣布成為第一個成功建置1760 億個參數的BLOOM(BigScience Large Open-science Open-access Multilingual Language Model)大模型,推出「AI2.0 大算力顧問服務」一站式整合方案。「AI 技術結合大型語言模型已是產業科技發展的趨勢,台智雲的BLOOM大模型成果,資料集包含46種人類語言、13種程式語言,參數量達到1760億個,整體資料量高達1.5TB以上,運用了840個GPU做跨節點(node)訓練,已有高科技研發製造、金融和零售領域企業正在洽談合作中。」台智雲技術長陳忠誠說。國科會主委吳政忠則宣示,台灣也需要有自己的ChatGPT,同時也會升級超級電腦台灣杉2號,以提高算力。台灣杉2號於2018年建成,主要用途是加速推動AI發展,每秒可進行176萬張的AI影像訓練,在之前的新冠疫情中,包括病毒基因演化、蛋白質分析、影像辨識也都進行運算協助抗疫。台灣國科會主委吳政忠宣示,台灣也需要有自己的ChatGPT,同時也會升級超級電腦台灣杉2號算力。(圖/國網中心提供、報系資料照)