劉峻誠
」 人工智慧 耐能 劉峻誠 AI 創辦人
AI新勢力1／「吃電怪獸」引爆能源話題 這小子挑戰教主「用這方法」就不需新核電
首場「國家氣候變遷對策委員會」8月8日啟動，4小時的能源議題討論中，核電從「反核」或「擁核」是非題，轉為「多選題」，擔任副召集人的和碩董事長童子賢以深知企業購買綠電苦楚而力挺核電，尤其台灣經濟邁入AI新世代，「沒電力」就等於「沒國力」。童子賢挺核主張，關鍵源自ChatGPT問世掀起全球AI人工智慧巨浪，輝達執行長黃仁勳被冠上「AI教父」，然而獨霸AI晶片市場的輝達GPU，跑出超級算力也極度耗電，成了「吃電怪獸」，科技大咖急尋解方。不過，「『CPU+GPU+NPU』能一舉解決AI設備又貴又耗電的痛點。」這話出自43歲的耐能（Kneron）創辦人暨執行長劉峻誠。凱米颱風襲台前夕，台北市電腦公會7月23日舉辦「迎向AI新時代-從COMPUTEX看台灣資通訊產業的下一步」記者會，CTWANT記者觀察，現場座無虛席，賓客不畏風雨，就是為了聽童子賢的AI與核電看法。記者會上，主持人做球給童子賢，將話題轉向能源議題。童子賢滔滔不絕地解釋，台灣去年用電2821.4億度，3、4年後就會超過3000億度，若一度發電成本差1元，一年就要多花三千億元，「如果搭配3成綠能、3成核能，以及4成火力發電，這樣經濟效率較高的排列組合，省下經費就可以彌補健保的缺口、高等教育跟研究的需求，這樣更有意義。」「沒電力就沒算力，沒有算力就沒有國力！」童子賢慷慨激昂地開出解方，必須要重新考慮核電，其他大老也連連贊同時，輪到坐在最邊邊的第七位演講者，卻說出不同看法。「完整的（AI運算）系統應該是CPU+GPU+NPU」，而非單純用GPU跑AI，因為代價太大，用了NPU這樣的低功耗晶片後，「就不需要像童董事長一直在講的，甚至要蓋核電廠才有電力去支持這種運用。」劉峻誠一開口，竟然直球對決童子賢，台下引起一陣騷動。圖為氣象署第6代高速運算電腦，也建置GPU架構系統。（圖／報系資料照）不同處理器在AI系統中扮演不同角色，CPU（中央處理器）為電腦核心處理單元，負責執行和控制，處理基本運算和邏輯運算，GPU（圖形處理器）為了圖形和影像處理而生，擅長並行處理大量數據，隨深度學習興起，被廣泛應用於AI運算中，NPU（神經處理器）專為AI推理任務設計，能在低功耗情況下高效執行深度學習模型。在輝達GPU制霸下的AI算力有多耗電？國際能源總署（IEA）提到，使用Google搜尋網路，平均每次耗電0.3Wh，使用ChatGPT平均耗電2.9Wh，將近十倍。高盛證券預估，2023年至2030年間，全球AI資料中心對電力需求將增長160%，特斯拉執行長馬斯克甚至憂慮，未來兩年「晶片荒」將轉為「電力荒」。經濟部能源署也「保守估計」，在AI帶動下，我國用電量10年將增加32%，拉高到3641億度左右。據此，當各國及科技龍頭展開AI算力軍備競賽，巨資向輝達購買GPU，同時也面臨接踵而來的耗電與排碳問題。Supermicro美超微全球業務資深副總裁周政賢向CTWANT記者表示，AI運算要大量的電，部分是為了散熱，所以「液冷」技術開始受重視，畢竟「新設電廠在許多國家，都不是件容易的事。」IP矽智財大廠安謀Arm執行長瑞恩‧哈斯日前也表示，到2030年，AI資料中心會消耗美國電力20到25%，比現在的4%大幅增加，所以他們現正砸錢研究如何降低人工智慧技術的功耗。NPU業者劉峻誠給出另一個方向，「GPU其實不適合跑AI，因為他太貴、太耗電，台灣總不能到處都蓋核電廠。」「如果我們把NPU真正發揚光大，台灣就不會在AI時代只是個製造和代工業，是我們能真正掌握、自建專屬台灣且有影響力的AI。」AI時代需要大量電力，讓核電廠的存廢引發各界關注。（圖／CTWANT資料照）「年底有好幾家雲端大廠，已經非常明確要做『類NPU』架構，而且是國際的一線大廠，這事正在發生！」劉峻誠得意地向CTWANT記者說。事實上，英特爾去年推出的新款Core Ultra處理器晶片，測試20次AI圖像生成時發現，NPU執行任務要20.7秒，僅花CPU一半的時間，功耗更降低75%，只有10瓦，優於GPU的37瓦，整體效率提升7.8倍，若將NPU與GPU結合使用，處理時間更僅需11.3秒，最後推出結合三種模式的晶片。一位業內人士向CTWANT記者表示，這類型CPU+GPU+NPU的做法，會越來越普遍，雖然GPU的算力還是比較強，但應用在消費性電子產品上，NPU的省電優勢不容小覷，而輝達GPU獨霸的AI高算力系統，要如何擺脫吃電怪獸的桎梏，大家也拭目以待。
AI新勢力3／「是工程師還是藝人？」出差回來員工跑光 他創業9年如魔戒遠征軍
近期不少科技大老討論AI時代之台灣新機會的場子上，頻繁出現一張新面孔，那就是耐能創辦人暨執行長劉峻誠。「CPU是美國人定義的，GPU是Nvidia 黃仁勳定義的，這時代的 AI 晶片就是耐能定義出來的！」這句很跩的話，就是1981年出生的劉峻誠說出來的。對投資人來說，近年AI掀起的股市大浪中，沒聽過耐能（Kneron）這間公司，但從台大到美國普林斯頓、UCLA、希臘、以色列、俄羅斯等地的大學，只要是教授AI的課堂，學生都會讀到《深度學習-硬體設計》（Deep Learning-Hardware Design），作者之一就是劉峻誠。「感謝大家、現在各大學都有在教NPU，因為是我發明了這個架構，而且還寫了教科書。」前科技部長陳良基建議他進入台灣的大學教課，再將上課講義集結成書，「他跟我說，懂AI的人太少」，劉峻誠透露。前科技部長陳良基建議劉峻誠去大學教AI，甚至還寫了課本。（圖／耐能提供、翻攝自amazon官網）劉峻誠曾向CTWANT記者表示，自己的求學求職及創業路很「漂泊」，成大電機畢業後到加州大學念碩博士，拿到不少專利和厲害獎項，結果出校園就遇上2008年金融海嘯，求職路忐忑，輾轉從美國貝爾實驗室、NASA、高通、三星、晨星等，美韓台商都有他的足跡。擁有電機博士的劉峻誠在念書時接觸到AI，對這領域很有興趣，在高通任職時曾建議「把AI帶到終端」，但不被主管重視，他索性和友人在聖地牙哥創立耐能Kneron，「當時AI非常冷門，大家都笑說做AI會找不到女友」，2015年跟朋友約好拿到訂單就辭職創業，沒想到機會泡湯，錢也被捲走。最慘的時候劉峻誠還曾向前老闆、晨星半導體創辦人楊偉毅求助，楊以名下創投公司可轉債方式借他350萬美元週轉。劉峻誠好不容易拿到的第一張訂單，過程也很戲劇化。「我在2016年2月去中國找訂單，為了打知名度，還跑去參加選秀節目。」友人推薦劉峻誠去參加浙江衛視的創業型選秀節目《我是創始人》，沒想到一路過關斬將，在大陸一口氣拍了2個多月才被淘汰「放出來」，一起錄節目的格力董座董明珠說很欣賞他，想要合作。劉峻誠現在能跟許多科技大老同台演講。（圖／翻攝自台北電腦公會臉書）當他高高興興回到美國，上班第一天打開公司大門，十幾名員工只有一個來上班，「他們全都認爲我背叛他們，離開了，我的公司要完蛋了！」這個變故讓他病倒了，只好親自打電話跟每個人解釋，被他們臭罵了整整三天，「你不是工程師嗎？怎麼變成了藝人！」好不容易把幾個人勸回來，才能啟動劉峻誠「賣臉」拿到的第一張大訂單。耐能的團隊集結許多不同國家的成員。（圖／翻攝自耐能官網）格力電器是中國大陸的空調公司，因為家電不能賣太貴，無法安裝昂貴晶片、還要省電，用上耐能的NPU晶片，讓劉峻誠打出名聲，先後為百度、阿里、騰訊這三大網路巨頭及搜狗等量身打造產品，就連美系ARM、高通，及台積電、鴻海也成了客戶。後來陸續獲得總計超過1.9億美元的融資，投資者赫赫有名，包括李嘉誠旗下的維港投資、阿里巴巴創業者基金、中華開發資本、奇景光電、高通、中科創達、紅杉資本子基金Cloudatlas、鴻海集團、華邦電子等。耐能將與鴻海在電動車開放平台MIH及工業4.0領域上合作；最近飛利浦品牌也引入耐能的KL系列AI晶片，用在智慧家居上；工業電腦大廠新漢也簽合作意向書，要以NPU為基礎，打造專為終端應用市場所量身設計的智慧物聯網解決方案。新漢董事長林茂昌表示， 因為AI太耗能，但企業面臨ESG問題，所以必須選擇最低的能源消耗、執行最高效能的邊緣運算，從軟、硬體技術整合到通路串聯，才能為客戶解決問題。這段在當年冷僻的AI領域裡創業歷程，讓他認識不同領域的人、理解各國文化與科技實力，如今耐能團隊成長到200多人，來自美國、深圳和台北，「我們就像『魔戒遠征軍』，成員來自多個國家、各種領域，這也是AI所需要的跨領域軟硬整合！」劉峻誠笑著說。
AI新勢力2／「不拿坦克車鑽巷子！」 劉峻誠力推高效省電NPU讓人工智慧更普及
「CPU （中央處理器）像坦克車，一開始設計功能主要是打仗用，GPU（圖形處理器）就像是卡車，主要拿來載貨物；NPU（神經處理器）則是小客車，能在小城市內跑來跑去，專為AI而生。」耐能（Kneron）創辦人暨執行長劉峻誠向CTWANT記者解釋，AI時代大家最常聽見的三種處理器差異何在。輝達（Nvidia）創辦人兼執行長黃仁勳在今年6月的台大演講時提及，從1964年IBM創造出第一片CPU到現在，電腦已誕生60年，但 CPU升級速度已減低，須處理的資料量卻大幅成長，而輝達在2006年推出CUDA技術，讓GPU可應用於圖像處理以外的計算，也成為AI計算的主要動力。「CPU+GPU的平行運算模式，才能提供等量的加速運算能力」黃仁勳表示，若以單顆CPU運算需要1秒時間的資料量，搭配GPU加速運算，則只需要0.01秒的時間，且僅需3倍能耗、1.5倍的裝置成本，等於省下了98%的裝置成本、97%的能源，「所以你買越多GPU，就省更多錢」。業內人士向CTWANT記者解釋，因手機與電腦的應用及計算變多，業界在標準積體電路（IC）外，另外訂製ASIC專用（特殊應用）電路，畢竟「專用的比通用的好」，例如Google研發出TPU(Tensor Processing Unit張量處理器)，用於大量低精度計算，但生產廠商少，價格昂貴，劉峻誠的NPU和TPU的概念很像，但「他抓住低價的利基市場，所以在終端使用量會比較多。」業內人士進一步說明，如果沒有NPU，傳統筆電使用AI助手，很容易遇到效能網路塞車的問題，而耐能的NPU主打在沒有網路狀態下也能運算，特別是物體與人臉辨識，如今AI應用更廣泛，使用GPU有成本貴及耗電問題，讓NPU業者更有底氣推廣，「讓CPU、GPU去做它本來要做的事，就是解方。」高通驍龍X系列處理器，有專為AI應用設計的NPU。（圖／黃鵬杰攝）而現在常聽見的NPU，就是劉峻誠2015年創業時打造的全新計算模型「神經網路處理器」（Neural Networks Processing Unit），這個「可重組式人工智慧神經網路」的專利，像一堆樂高積木，當要支持語音AI模型時，可透過指令集重組，要支持圖像AI時再次重新組合，由於可支援多種神經網絡模型，保持架構精簡，處理 AI 模型運算時，具有性能和功耗上的優勢。早在2018年，CTWANT記者曾訪問過劉峻誠，當時AI議題還不熱，他在解釋NPU概念時，主打是在離線狀態下，能讓手機或電腦繼續學習和執行複雜的深度學習演算，能讓AI更平民化。時隔六年，他跟CTWANT記者的解釋更具象，「CPU就像是坦克車，但有一天人類蓋了小型城市，大家發現GPU這卡車比較方便，「我們的NPU就是小客車，雖然市面上的駕駛都習慣開卡車，但若有一天油價漲了兩、三百倍，大家就會被逼迫去試著開小客車。」劉峻誠說「國際級的雲端大廠是目前GPU的主要買家，但因為實在太貴、太耗電，就像某個貨運公司的卡車隊伍，正在強迫司機要換小客車，這件事情正在發生，你就等著看吧！」除了雲端，NPU晶片架構在終端產品上的能見度的確越來越多，目前高通驍龍X系列處理器，就是主打專為AI應用設計的NPU，高效能、更省電；耐能去年3月也宣布自研的人工智慧系統晶片KL720打入高通的產品線，用在高通機器人RB1平台與RB2平台中。Arm在4月發表因應邊緣AI運算的第三代NPU產品「Arm Ethos-U85」，其效能相比上一代Ethos-U65提升4倍、功耗能源轉換效率提高20%，可用在工廠自動化和商用監視器或智慧家庭攝影機等應用。技嘉的筆電也有採用NPU。（圖／業者提供）今年6月的Computex電腦展上，CTWANT記者就在Intel展區中，看到多項跟NPU有關的實機展示。像是技嘉Aorus 15筆電的展示，過去可用手勢撥放或停止影音播放程式，當時是利用CPU與GPU來處理分析，透過鏡頭來識別手勢，現在則使用NPU獨立處理。劉峻誠曾引用大摩報告指出，到2027年，NPU的市占率將會超過GPU，不過Google DeepMind傑出科學家紀懷新向CTWANT記者說，「我認為五到十年內，GPU的地位還不會被取代」不過現在的確有很多人在思考用更多元的方式去解決，也是好事一件。
Janet領十大傑出青年獎 台上自爆：懷孕了！
國際青年商會中華民國總會選出「第58屆十大傑出青年」26日在高雄舉辦頒獎典禮，藝人Janet謝怡芬榮獲華裔青年特別獎親自出席，她在台上自爆懷孕喜訊，令全場為之驚喜。而歌手盧廣仲則人在台北參加金鐘獎典禮，不克前來，由爸爸代為領獎。身為華裔青年的Janet，原本大學學醫，因緣際會踏入演藝圈。她得獎時用台語直說，「謝謝我的爸爸、媽媽」，自嘲41歲是在場得獎者年紀最大的，「但我也帶來年紀最小的」，還一邊摸自己的肚子，首度向外界公開懷第2胎喜悅，台下一片掌聲恭喜。35歲盧廣仲在文化及藝術類獲獎，身兼歌手、演員、主持人等全方位發展，傳遞有溫度的音樂。盧爸爸代為領獎時提到，廣仲從小就不會讓父母煩惱，總是報喜不報憂，面對所有困難，都是微笑以對，相信他會做更多正能量作品，支持大家支持及愛護。基層勞教類別領域獲獎的何凱成是「球學」創辦人，他12歲那年母親因思覺失調症長期住院、父親辭世，他託孤給住在美國的大姑，隻身前往美國讀書，憑藉自身的努力及橄欖球運動才能，人生大翻轉，獲得哈佛大學全額獎學金畢業。「凡殺不死你的，必使你強大」何凱成表示，追逐夢想背後是殘酷的，像是「吃大便」的經驗，但這些磨難，培養他堅定的信仰，每件事發生都是有原因的，好的事情沒有發生，代表時間未到，他成立「球學」聯盟，提倡運動是教育的一環，幫助更多小孩，學習到品格、領導力、團隊合作，他也相信已經過世的父親，看到他的表現會有所榮耀。文化及藝術類領域得獎者曾宇謙，5歲開始喜歡上小提琴，年少時獲獎無數，21歲榮獲俄國柴可夫斯基國際小提琴大賽銀獎。他說，感謝父母親及一路上提點的貴人陪伴。曾宇謙說，從小就嚮往在舞台演出，多少會有點緊張，但那個moment享受表演感覺，不斷在小提琴上花很多時間練習、比賽，得到獎項。音樂是很特別的東西，不分國家、種族、年齡層，而有了共同語言，沒有國界、語言隔閡，希望未來繼續把音樂分享到世界各地。小紅帽（月經權益倡議與月經教育推廣組織）創辦人林薇，今年才23歲，目前就讀英國愛丁堡大學醫療傳染病科，先前受邀英國國家廣播電台BBC專訪，暢談「台灣不該被世衛排除在外」，後續也拍片回應WHO祕書長譚德賽對台不實指控，表現獲得讚賞。林薇獲獎感言說，得獎代表要承擔更多的責任，她感謝家人、師長、夥伴們的力挺，堅信一群人可以走得很久很遠，「台灣有多元民主、自由環境，才能讓我們這麼勇敢」，呼籲大家一起為更好的台灣而努力。這屆十大青年選拔，由立法院長游錫坤擔任評審主委，帶領各領域評委審查，產生11項類別、12位青年。當選名單包括耐能智慧股份有限公司總經理劉峻誠、球學創辦人何凱成、愛因斯坦人工智慧股份有限公司執行長周仁海、清大分子醫學研究所林玉俊、Skills for U執行長黃偉翔、體操鞍馬國手李智凱、國際小提琴家曾宇謙、音樂創作者盧廣仲、苗栗地檢署檢察官黃振倫、海洋大學水產養殖系助理教授徐德華、小紅帽（月經權益倡議與月經教育推廣組織）創辦人林薇、演員謝怡芬。
每個人都是AI工程師 耐能推AI共享平台
終端人工智慧（Edge AI）解決方案領導廠商耐能智慧（Kneron）20日舉辦開發者大會，宣布推出全球首個 AI 共享平台 KNEO，使用者可以將自己開發的 AI 應用上傳到該平台與其他開發者共享，實踐 AI 普及的目標，打造人人都是 AI 工程師的生態圈。會中也預告了耐能將推出新一代 AI 晶片。Kneron 創辦人暨執行長劉峻誠表示：「Kneron 從 2015 年成立以來始終秉持普及 AI 的信念，期望使 AI 民主化，並以構建終端 AI 網路為目標。此次推出 KNEO 平台，將以 App Store 的形式對全民開放，使用者可自行開發 AI 應用並上傳至該平台，或下載其他人的 AI 應用後再進行改良，做成個人喜歡的 AI 形式，而不會侷限在大廠的 AI 標準之下，真正實踐 AI everywhere 的願景。」除了全球首創的 KNEO 平台外，KNEO 也將成為美國加州大學洛杉磯分校（UCLA）、維吉尼亞大學、聖母大學，以及台灣、香港主要大學 AI 教育的核心標準。另外， Kneron 更與台灣人工智慧學校合作，開設邊緣運算專班，協助企業培養專業 AI 人才，降低台灣中小企業數位轉型的門檻與客服導入 AI 的困難。交通大學前校長張懋中表示：「耐能身為全球Edge AI 前沿技術領導廠商，前後作了很多開創性的研發，最近開始致力與各大高校合作，承擔社會責任，很期待看到耐能持續成長與茁壯。」