AI超算年會
」![alt](https://static.ctwant.com/images/cover/26/259326/sm-80e9dfd90bf86df098e03059ceda1b99.jpg)
70歲AI衝浪王1/施崇棠掌舵30多年功力發威 華碩2個月火速建置台版Chat GPT「福爾摩沙大模型」
生成式AI熱潮掀起之際,台灣不落人後,與ChatGPT3.5同級的「福爾摩沙大模型」(Formosa FoundationModel,也可稱Formosa Chat)在5月17日亮相,它不但是首個繁體中文商用AI大模型,還可選擇地端(企業自家機房)建私有雲,它所需的超級算力「台灣杉2號」,幕後關鍵推手全是今年70歲華碩董事長施崇棠。「他(施崇棠)會念很多國外AI論文,跟我們討論。」台灣杉2、3號主持人、台智雲總經理吳漢章說,「去年底生成式AI出現、Chat GPT橫空出世,他看到『生產力革命』已經到來,並認為「『算力』將是驅動未來數位經濟,最重要議題。」在施崇棠一聲令下,吳漢章與超級電腦團隊待命,使用Bloom-zh繁體中文大模型開源,火力全開密集訓練、快速建置出福爾摩沙大模型,不到兩個月就在華碩AI超算年會中面世。近年鮮少出席公開場合的施崇棠,親自出席自家的超算年會,發下豪語要打造「AI Foundry」,興致勃勃地站在AI浪尖上,再展事業雄心,一如他27歲進入宏碁電腦,進入電腦產業「有幸躬逢其盛」,十年後成立「華碩電腦」,「開創一家電腦技術天下無敵的公司」初心。在全球PC市場裡,華碩(ASUS)與宏碁(Acer)「雙A」品牌各擁一片天,而在詭譎多變的市場中,施崇棠不時運用孫子兵法策略,例如「蛇」般靈活推出主流產品頭尾夾擊,以「巨獅」做大衝量吃市佔、「銀豹」衝刺利基高值化產品,為業界津津樂道。在2017年11月華碩首款家庭智能機器人「小布(Zenbo Qrobot)」誕生,這款陪伴型機器人會說故事、教英文、打電話、拍照。(圖/報系資料照)這位前參與打造台灣成為電腦王國的大將,從電腦、筆電、手機做到伺服器,2015~2017年間面臨營收連續3年下滑,始終無法突破集團總營收5千億關卡,施崇棠清楚觀察到,筆電、PC及手機市場成長到了天花板,轉向AI人工智能尋求突破機會。在2017年11月,華碩推出首款家庭智能機器人「小布(Zenbo Qrobot)」見面會在北京舉行,這款會說故事、教英文、打電話、拍照的陪伴型機器人,一度造成轟動,儘管當時營收獲利貢獻有限,能量迄今延續到智慧醫療領域。2018年,華碩斥資百億進軍智慧醫療,施崇棠還親自挖角有微軟及Google經歷的黃泰一,在淡水總部大樓裡打造百人AI部隊智慧醫療,並與廣達、台哥大等參與打造台灣超級電腦台灣杉2、3號,吳漢章表示,基於各國家、文化、產業等情境不同及資安考量,「台灣需要一個基於本土算力的語言模型。」兩年前華碩進一步成立「台智雲」,接手台灣杉2號營運。從3C產品「硬體」切入AI算力「軟體」,施崇棠保持「躬逢其盛」,尤其Chat GPT去年底問世後,整個華碩的AI團隊通通上緊發條,他們很快發現,「因為ChatGPT生於美國,繁體中文資料比例低於0.1%、簡體中文資料不超過2%」,華碩營運長暨台智雲董事長謝明傑指出,「大部分是英文的腦,中文的腦相當少。」因此今年二月間聯發科將繁體中文生成式AI「BLOOM-zh」開源釋出後,台智雲靠著台灣杉2號超級算力,使用「BLOOM-zh」建置福爾摩沙大模型,大量「餵入」1760億個參數、比Chat GPT3.5還多10億個,相較於Chat GPT資料停留在2021年9月,福爾摩沙大模型持續更新資料;如此可以降低答非所問、「跟使用者道歉」的機率。「可以把『參數』理解為人類的神經元,讀了越多書、資料庫越多」,華碩雲服務事業部主管在AI超算年會現場展示攤位解釋,Formosa Chat除了繁體中文環境,還會講英、日、德、越南等46種語言,像是個飽讀詩書的大學生,正在實習,7月就開始正式到社會工作,「一些翻譯、分析企劃,寫簡單新聞稿、程式的工作,可以交給他」,目前規劃僅限企業使用。「每個問題是獨立的,別人不會知道你問了什麼,具高度隱私與資安防護。」依各行業需要的不同,如零售、電商、SaaS(軟體服務)等,會有相應的語言模型。這個生成式人工智慧雲即將在7月開放客戶申請,一個月費用約6萬元。台智雲華碩營運長暨台智雲董事長謝明傑(左)、台智雲總經理吳漢章(右)領軍團隊,已拜訪數百家機構,有成功替新加坡商場建立保全服務經驗。(圖/趙世勳攝)最近OpenAI執行長阿特曼(Sam Altman)應邀求出席美國參議院司法委員會聽證會,就是被詢問AI風險控管,而華碩已經提出解決方案-台智雲全球首創的服務「AFSAppliance(大型語言模型地端部署)」,內有散熱模組、2個CPU、32支記憶體,輝達A40視覺運算GPU則可依需要選1~8組,依不同需求,價格落在60~300萬,「如果醫療、金融、法律、製造、會計等,具機敏性、規範更高的企業,或訂製服務,就可以購買AI伺服器,放在公司裡變私有雲」。「福爾摩沙大模型,將是東南亞最安全語言模型。」吳漢章指出,台智雲有200人研發團隊,已經拜訪數百家機構,有成功替新加坡商場建立保全服務經驗:「客戶如果是企業自建AI團隊,會需要20個以上工程師、千倍以上的成本。」尤其對人力精簡、又需要算力的中小企業來說,是最佳解決方案。問及訂單情況,他含蓄表示:「不缺客戶。」
![alt](https://static.ctwant.com/images/cover/32/257032/sm-0de58c9f12f74da71ffab7ac882eade1.jpg)
台智雲福爾摩沙AI語言模型7月啟用 施崇棠:將帶動生產力革命
台碩(2357)旗下台智雲今日舉辦「AIHPCcon台灣AI超算年會」,發表透過台灣杉二號超級電腦建立的台灣第1個AI語言模型「福爾摩沙」,將在7月開放企業客戶申請使用。華碩董事長施崇棠今指出,這將「帶動新一波生產力革命」。施崇棠出席活動表示,「AI超算已被視為驅動未來數位經濟最重要的引擎,華碩擁有頂尖的AI超級電腦團隊,2021年投資成立台智雲,成為亞洲唯一提供商用AI超算服務的企業,積極建構算力、打造平台、連結夥伴,共創AI 2.0生態圈,期望台灣延續ICT產業實力,成為AI 2.0時代不容忽視的數位重鎮。」該模型結合繁中的語意理解與文本生成能力,表現接近GPT3.5、 但數據更新;推出企業級生成式AI解決方案,以全新的商業型態,提供企業彈性、安心、快速優化出符合產業應用,並結合生態圈夥伴資源,創造可信賴的AI 2.0未來機會。除了發布與GPT-3.5同級的福爾摩沙大模型外,台智雲結合AIHPC算力與No-code大模型優化平台,推出全方位的企業級生成式AI解決方案,提供快速調動AI超級電腦算力、容易優化模型與彈性部署模型的方案(AI Foundry Service, AFS)系列服務。該服務包含「AFS Platform(大型語言模型優化服務)」、「AFS Shuttle(大型語言模型優化共乘服務)」「全球首創AFS Appliance(大型語言模型地端部署解決方案)」、「AFS Cloud(大型語言模型託管服務)」。在這樣的架構下,台智雲提供可信賴、節能且可自由遷移部署的優化AI模型,使企業能夠在公有雲、私有雲之間無縫移動或調整AI工作負載,協助企業快速進入AI 2.0應用趨勢和落地實踐。AI智慧應用、產業最新發展和解決方案,包含精準醫療、數位雙生、智慧製造、智慧交通和智慧商務,共同探討如何利用最新的數位技術與算力滿足產業的AI場景與應用,以開放平台創造AI 2.0應用新生態。