國網中心
」 華碩 國網中心70歲AI衝浪王2/Formosa Chat讓台灣接軌生產力革命時代 「打造台智雲成AI界台積電!」
華碩旗下台智雲日前發表「福爾摩沙大模型」,讓台灣在生成式AI大浪不落人後,主要歸功於超級電腦「台灣杉2號」,這是東南亞唯一的高階商用AI算力。「台灣擁有比鄰近國家,更優越的算力動能,已進入AI2.0時代。」參與打造台灣超級電腦的華碩董事長施崇棠說。全球僅25座商用AI超級電腦,台灣杉2號是其中之一,由此可見算力的稀缺性;台智雲總經理吳漢章是當時競標超級電腦的團隊主持人,指出當時有國內外數個團隊積極參與,不過團隊以算力勝出,而且評審團相當看重技術自主,造就本土團隊的優勢。台灣杉2號是在陳良基科技部長任內的建設,他5月17日出席超算年會時指出,儘管現在AI就在眼前,當年他推動時並不容易,所幸施崇棠、廣達董事長林百里、及台灣大哥大董事長蔡明忠跳出來,加上輝達(NVIDIA)參與合作,才讓台灣杉2號做起來,甚至在當年度成為全球排名前20、能源效率前10名的超級電腦,「這是台灣不曾有過的佳績」。華碩 AI 雲創園區。(圖/趙世勳攝)台灣杉2、3號是2018年國家以前瞻基礎建設預算,3年斥資30億打造的AI超級電腦,由國網中心負責設計監造、台灣大哥大建置符合國際標準的機房建置及電信級資安維運、廣達則是資料儲存平台、華碩執行雲端服務平台及AI應用整合。台智雲今年並再度參與台灣杉4號,從國家超級算力基礎建設,累積打造生成式AI國家隊5年經驗。兩年前,科技部將台灣杉2號商業營運權與團隊授權移轉到台智雲之後,如今出現生成式AI「福爾摩沙大模型」,現在無論多大、多小規模的企業級客戶,都能使用這座斥資50億打造的超級電腦。輝達台灣區業務暨行銷副總裁邱麗孟認為:「尤其台灣是貿易之島、很多中小企業,又有很強ICT能量。」輝達2017年起與華碩頂尖超級電腦團隊合作,參與台灣杉2、3、4號建置,如今再次協助台智雲成為亞洲唯一、提供商用AI超算服務的雲端服務業者。施崇棠希望復刻「過去30年,半導體製造能力與電腦產業生態,令台灣變成世界不可忽視的ICT產業重鎮」經驗,他發下豪語,要進一步打造「台智雲成AI界台積電、AI Foundry」,建立起跟半導體一樣成功的商業模式,他認為在AI2.0新生態,創造連結夥伴也最重要的功課之一,也能藉此延續台灣的科技實力。(左至右)華碩雲端暨台智雲總經理吳漢章、台灣大哥大資訊長蔡祈岩、華碩副董事長徐世昌、前科技部長陳良基、華碩董事長施崇棠、台灣雲端物聯網產業協會理事長李世光、NVIDIA全球副總裁暨台灣區總經理邱麗孟、華碩營運長暨台智雲董事長謝明傑出席台智雲 2023超算年會,陣容浩大串接台灣供應鏈。(圖/趙世勳攝)
ChatGPT掀狂潮2/兩岸競相發展類ChatGPT 華碩、百度大對決
由ChatGPT所引發的浪潮,美股、台股及陸港股相關概念股都狂飆,大陸科技廠大力發展,台廠則是扮演軍火商的角色,打入供應鏈,從台積電(2330)供應高階GPU到小晶片「Chiplet」,華碩(2357)旗下台智雲也建置參數不輸ChatGPT的BLOOM大模型,就連國發會也宣示要組國家隊,並將提升超級電腦台灣杉2號算力。美股ChatGPT概念股,谷歌母公司Alphabet Inc.(GOOG)及微軟(MSFT)今年最高都漲逾20%,輝達(NVDA)更大漲50%。台股的創意(3443)首破千元大關創新高,世芯-KY(3661)也在暌違5個月之後再上千元。港股中像是漢王科技(002362.SZ)股價從16元人民幣衝上38元人民幣,海天瑞聲(688787.Ss)更從67元人民幣飆漲到244元人民幣,甚至被市場稱之為「妖股」。 陸股漢王科技及海天瑞聲因為搭上ChatGPT題材,股價狂飆,被稱為妖股。(圖/翻攝自富途牛牛)除了股市狂熱外,中國廠商也開始布局相關領域,其中最引發關注的,是搜尋引擎百度宣布,將在3月推出類ChatGPT「文心一言(ERNIEBot)」,是正面回應外,其他包括阿里巴巴、小米、騰訊、字節跳動等,也或多或少有所動作,但並不願透露細節。比較掉漆的是,中國杭州創新公司「元語智能」日前推出中國第一款聊天機器人ChatYuan,號稱要挑戰ChatGPT,不過隨即就因為政府審查而被停用。阿里巴巴也證實,旗下研發單位阿里巴巴達摩院正在研發類ChatGPT的生成式機器人,目前屬於內部測試階段,並未透露更多細節。而達摩院在今年1月所發布的2023年十大科技發展趨勢中也將生成式AI列在首位。阿里巴巴旗下達摩院在今年1月所發布的2023年十大科技發展趨勢中也將生成式AI列在首位。(圖/翻攝自阿里巴巴官網)達摩院指出,在未來三年,生成式AI將進一步市場化,形成更多樣的商業模式和更完善的產業生態。生成式AI模型將在交互能力、安全性和智慧化方面獲得顯著進展,輔助人類完成各種創造性工作。騰訊則指出,有相關布局正在推動,會在機器學習等領域基礎上,持續投入AI技術的研發。另外字節跳動也傳出旗下人工智慧實驗室(AI Lab)有發展類似ChatGPT的技術,不過公司並沒有回應。值得注意的是,ChatGPT需要大量的算力,因此需要大量高階的GPU,而美國已限制高階半導體產品輸往中國,由於近年來小晶片(Chiplet)設計已成為HPC運算處理器主流,是否會是中國突破美國封鎖的方式,也是外界觀察的目標。去年3月,由日月光、AMD、ARM、Google Cloud、Intel、微軟、高通、三星及台積電等10家公司正式成立了UCIe(Universal Chiplet Interconnect Express)產業聯盟,攜手推動Chiplet介面規範的標準化,並推出1.0版本。12月,第二屆中國互連技術與產業大會發布了《小晶片介面匯流排技術要求》,也成為中國首個原生Chiplet技術標準。法人指出,由於AI需要不斷學習,小晶片可以提供對應的功能,加上成本較低,也成為中國解決高階晶片的方式。至於台灣在類ChatGPT的發展,則是以華碩(2357)旗下的台智雲進度最快。台智雲在14日領先全台宣布成為第一個成功建置1760 億個參數的BLOOM(BigScience Large Open-science Open-access Multilingual Language Model)大模型,推出「AI2.0 大算力顧問服務」一站式整合方案。「AI 技術結合大型語言模型已是產業科技發展的趨勢,台智雲的BLOOM大模型成果,資料集包含46種人類語言、13種程式語言,參數量達到1760億個,整體資料量高達1.5TB以上,運用了840個GPU做跨節點(node)訓練,已有高科技研發製造、金融和零售領域企業正在洽談合作中。」台智雲技術長陳忠誠說。國科會主委吳政忠則宣示,台灣也需要有自己的ChatGPT,同時也會升級超級電腦台灣杉2號,以提高算力。台灣杉2號於2018年建成,主要用途是加速推動AI發展,每秒可進行176萬張的AI影像訓練,在之前的新冠疫情中,包括病毒基因演化、蛋白質分析、影像辨識也都進行運算協助抗疫。台灣國科會主委吳政忠宣示,台灣也需要有自己的ChatGPT,同時也會升級超級電腦台灣杉2號算力。(圖/國網中心提供、報系資料照)
COVID-19全球即時疫情地圖 可查詢國內各縣市疫苗接種率
新冠病毒持續發威,全球已超過1.7億⼈確診,超過370萬⼈死亡。國研院國家⾼速網路與計算中⼼(簡稱國網中⼼)建置「COVID-19全球即時疫情地圖」,幫助⺠眾了解全世界及我國疫情最新發展,系統也在6⽉更新,可查詢到國內各縣市疫苗接種率。疫情在去年2⽉爆發,國網中⼼在去年3⽉便建置「COVID-19全球即時疫情地圖」,串接美國約翰霍普⾦斯⼤學與我衛福部資料,除了開放各種原始數據,更進⾏視覺化,幫助⺠眾了解全世界及台灣的疫情最新發展。國研院提到,因應我國疫情變化,這項資訊服務內容功能於今年6⽉進⼀步提升,增加全國鄉鎮市區確診案數分布地圖,以地圖、數值及顏⾊的⽅式動態呈現,讓使⽤者⽤⼿機,就可以對在地或全國的疫情⼀⽬了然。國研院也說,「COVID-19全球即時疫情地圖」也新增我國各縣市確診⼈數的統計圖表,⺠眾可以看到全國、各縣市乃⾄各鄉鎮市區的確診趨勢分析來了解疫情的發展,也可以看到各縣市已經施打疫苗的⼈數及接種率。國研院指出,近期網站⼀個⽉可達300萬閱覽⼈次,成為國內⺠眾了解疫情數據變化的重要管道之⼀。網站也彙整了各種統國網中心建置「COVID-19全球即時疫情地圖」,系統也在6月更新,可查詢到國內各縣市疫苗接種率。統計數據的原始資料,⾃去年1月起至今,每日不間斷累積國內外疫情數據,提供研究⼈員進⾏資料加值運⽤。
全球第20國產超級電腦 「台灣AI雲」國家隊開放防疫應用
以共同對抗新冠肺炎為號召,科技部國家實驗研究院國家高速網路與計算中心(國研院國網中心),攜手廣達、台灣大哥大和華碩,以名列全球500大超級電腦第20名的國產超級電腦組成「臺灣AI雲」(TWCC)國家隊,發起「御守臺灣、科技抗疫」行動,邀請產官學各界好手在6月30日前提案,共享成果。有鑑於新冠肺炎疫情肆虐全球,對於社會與生活影產生重大影響,科技部宣布,即日起釋出國研院國網中心超級電腦計算力、儲存及大數據資料集等資源,免費開放各界提案申請運用抗擊疫情。徵件主題不限醫療議題,亦可包含維持社會運作或穩定人民生活的各式解決方案,並以可與社會共享成果者為優先,發起全民抗疫行動。臺灣AI雲是由廣達電腦、台灣大哥大和華碩聯手打造的AI雲服務平臺,搭配同團隊打造的超級電腦「台灣杉二號」,全球500大超級電腦中的第20名,自2019年開放營運以來,吸引了300組學界和業界團隊使用,累計近1千萬GPU運算小時的使用量。科技部表示,國研院國網中心公開徵求各界提案,除防疫相關議題,如病毒基因演化、蛋白質分析、數據探勘、影像辨識等;此外包含解決人民生活不便、有助企業或學校穩定運作、紓困及振興經濟、穩定民心等面向,如口罩地圖、酒精地圖、物資資訊及線上教學等,經審查通過後即可免費運用國研院國網中心所提供之超級電腦運算相關資源。國網中心除了提供台灣AI雲的超級電腦計算力、儲存與虛擬主機服務外,也包括今年將新上線的大資料分析工具與持續更新的資料集平台。其中,資料集平台共收集超過5萬個資料集,範圍包括政府治理、科研、語音、醫療與資訊安全等領域。在這波疫情下,已蒐集新冠肺炎相關資料集,內含全球釋放之肺炎影像、醫療論文、健保特約機構口罩剩餘數量明細(含地理加值)、全球確診統計資料集等。「科技抗疫專案」申請網址:https://www.nchc.org.tw/Page?itemid=28&mid=43
華碩、台灣大、廣達聯手 擴充台灣杉二號
華碩電腦、台灣大哥大、廣達電腦今日共同宣布再度攜手合作,取得國家實驗研究院國家高速網路與計算中心「AI大數據計算主機建置案」,除擴增台灣杉二號AI與大數據計算處理能量外,更進一步強化大數據運算分析、人工智慧訓練與推論計算共通的資料管理平台服務,滿足產業對於AI技術的應用需求。預計今年第4季完成建置,屆時可提供台灣自有的AI機器學習服務,加速各界運用人工智慧相關工具、資源與應用開發。華碩電腦、台灣大哥大、廣達電腦去年組成台灣人工智慧A Team,攜手完成「台灣杉二號」建置,打造台灣第一座國家級的AI雲端服務平台,並於2018年11月取得全球超級電腦Top50第20名、全球節能超級電腦Green500第10名佳績, 刷新台灣史上最佳排名紀錄。該案整合強化原有系統並提供三大服務平台:資料分析暨人工智慧平台、高效能數據處理暨服務平台、高效能機器學習平台。計算主機部分,新增200組採用新一代Intel Xeon Scalable雙處理器CPU計算節點、30組GPU AI訓練節點、 8組AI推論節點。儲存系統部分則新增階層式資料管理暨儲存系統,提供AllFlash 1 PB區塊儲存可用空間、20 PB物件儲存可用空間及29 PB磁帶儲存空間,合計提供高達50 PB的可用儲存空間。該案的資料中心與台灣杉二號一樣,依國際級資料中心的標準建置,同時也考量到綠能節能,目標PUE值為1.3,搭配電信等級資安防禦,打造堅實的基礎。華碩電腦、台灣大哥大、廣達電腦長期耕耘於人工智慧、雲端服務及資料中心領域,各展所長。在該案中,華碩電腦主要負責機器學習人工智慧工具軟體平台開發,台灣大哥大負責網路資安與資料中心機房規劃,廣達電腦則負責 CPU/GPU計算主機及儲存設備平台建置。(圖/翻攝自國網中心)AI雲端服務平台全球商機龐大,三方藉由台灣杉二號成功建置經驗已獲致各界高度關注,希冀以AI國家隊的陣容,積極扮演建置AI雲端服務的重要推手,將國家自有的AI雲端軟體技術、伺服器與網路建置服務帶到全世界。