LLM
」 AI 輝達 OpenAI ChatGPT 晶片
MacBook搭配M4 Max晶片霸氣登場 挑戰最強AI筆電寶座
沒錯！這一周就是蘋果周。Apple今天發布搭載 M4 系列晶片：M4、M4 Pro 和 M4 Max的MacBook Pro。M4版本的的MacBook Pro為14吋，提供太空黑色和銀色2種顏色，具備M4的超快速效能和3個Thunderbolt 4連接埠；搭載M4 Pro和M4 Max晶片的有14 吋和16 吋機型，均提供Thunderbolt 5，可達成更快的傳輸速度和先進連接功能。所有機型均配備Liquid Retina XDR 顯示器，提供全新奈米紋理顯示器選項，讓顯示器更升級。 受惠於M4系列晶片的超快速效能，新款MacBook Pro變得更加強大。（圖／Apple提供）相較於搭載Intel的MacBook Pro，新款 MacBook Pro為AI工作提供近 10 倍快的效能提升，而針對圖形密集型工作，使用者獲得高達20倍快的效能提升。新款 MacBook Pro的電池續航力現在長達 24 小時，升級裝置者還可體驗到長達14小時的額外續航力。M4系列採用第二代3奈米技術打造，是最先進的個人電腦系列晶片。M4系列具備強大的單執行緒CPU效能和世界最快的CPU核心；以及出色的多執行緒CPU效能，可滿足最繁重的工作量。Apple 晶片結合CPU中的機器學習加速器、先進的 GPU，以及更快、更有效率的神經網路引擎，從裡到外都是為AI提供優異效能而打造。搭配更快速的統一記憶體，各個晶片都有更擴增的記憶體頻寬，因此大型語言模型 (LLM) 和其他大型專案可以在裝置端順暢運行。此外，M4系列領先業界的每瓦效能，讓使用者能享有長達24小時的電池續航力。 新款 MacBook Pro搭載M4、M4 Pro和M4 Max晶片，是歷來為專業級筆電打造出的最先進晶片系列。（圖／Apple提供）至於M4 Pro則配備強大的14核心CPU，其中包含10個效能核心和4個節能核心，帶來多核心效能的飛躍，同時還配備高達20核心的GPU，其效能是M4的兩倍。有了M4 Pro，新款MacBook Pro 的記憶體頻寬比前一代大幅增加75％，是任何AI PC 晶片的兩倍。搭載 M4 Pro 的新款 MacBook Pro 速度比搭載 M1 Pro 的機型快達3倍，能加速如地理測繪、結構工程和資料建模等工作流程。那麼M4 Max能有多神呢？搭載M4 Max的MacBook Pro特別為資料科學家、3D藝術家和作曲家等專業人員而設計，將他們的工作流程推向極限，以往只能用桌上型電腦完成的專案，現在使用筆電就能完成。M4 Max配備最多16核心CPU、最多40核心GPU、每秒超過0.5 TB的統一記憶體頻寬，以及比M1 Max快3倍以上的神經網路引擎，使得運行裝置端AI模型空前快速。有了M4 Max，MacBook Pro的效能高達M1 Max 的3.5 倍，能夠輕而易舉地處理視覺特效、3D動畫和電影配樂等繁重的創意工作。它還支援最高128GB 的統一記憶體，因此開發者可以輕鬆與擁有近2000億個參數的眾多大型語言模型 (LLM) 進行互動。得益於M4 Max配備兩個 ProRes 加速器的強大媒體引擎，即便使用 iPhone 16 Pro 拍攝並在Final Cut Pro 中剪輯 4K120 fps ProRes 影片，MacBook Pro也能輕鬆應付。跟剛剛發布的iMac一樣，MacBook Pro配備全新 1200萬畫素的Center Stage 相機，即使在艱難的照明條件下也能拍出更強化的視訊品質。「人物居中」讓視訊通話使用者能更投入交談。四處移動時，此功能會自動將使用者維持在畫面中央。新相機還支援「桌上視角」，為視訊通話增添全新維度。藉助錄音室品質的麥克風和支援「空間音訊」的6揚聲器音響系統，無論使用者聆聽音樂或是以杜比全景聲看電影，都有更好的體驗。新款的MacBook Pro當然少不了Apple Intelligence功能，前，這項技術在 macOS Sequoia 15.1 中支援美式英文。Apple Intelligence 在做到這一切的同時，每一步都保護著使用者隱私。其核心是裝置端處理，對於更複雜的任務，「私密雲端運算」讓使用者可以取用 Apple 更大的、基於伺服器的模型，同時以創新突破的方式保護個人資訊。MacBook Air是世界最受歡迎的筆記型電腦，雖然沒有M4系列晶片。但有了Apple Intelligence，它的表現更加出色。現在，搭載M2和M3的機型起始記憶體容量增為雙倍，達到16GB。大家最關心的售價，搭載M2和M3機型的MacBook Air，售價依舊是3萬2900元起，有午夜色、星光色、銀色和太空灰色可供挑選；搭載M4的 14 吋MacBook Pro售價5萬4900元起；搭載M4 Pro的14吋MacBook Pro 售價為6萬7900元起；16 吋M4 Pro晶片的MacBook Pro售價則為8萬4900起，MacBook Pro系列所有機型均有太空黑色和銀色可供選擇。10 月 30 日起，包括美國在內的 28 個國家和地區的顧客可至 apple.com／store 以及 Apple Store App 預訂新款 MacBook Pro。產品將於日後在台灣開放訂購。
14歲愛子迷戀聊天機器人疑「慫恿自殺」 美母親怒告Character.AI、Google
美國佛羅里達州一名母親22日向科技新創公司Character.AI和谷歌（Google）提告，指控該公司導致她14歲的兒子在2月用其繼父的手槍開槍自殺。她稱該公司將其聊天機器人開發為真人、心理治療師和情人，最終導致自己的兒子不希望生活在該服務創造的世界之外，且當兒子向機器人表達了自殺的想法，機器人仍然多次向兒子提起該念頭。對此，Character.AI回應，公司對用戶去世感到心碎，但也同時否認了指控。據路透社報導，22日在佛羅里達州奧蘭多聯邦法院提起的訴訟中，加西亞（Megan Garcia）表示，兒子賽澤（Sewell Setzer）於2023年4月開始使用Character.AI，很快的明顯變得孤僻，花越來越多的時間獨自待在臥室裡，並開始出現自卑感，還無來由的退出學校籃球隊，加西亞指賽澤對聊天機器人產生了感情。Character.AI允許用戶在其平台上創建角色，它依賴所謂的大語言模型技術（large language model，LLM），以模仿真人的回應方式，該技術使用大量文字「訓練」聊天機器人。而賽澤則把機器人設定為熱門影集《權力遊戲》中的角色「龍母」丹妮莉絲。訴訟稱，機器人告訴賽澤「她」愛他並與他進行了性對話。加西亞稱，Character.AI將其聊天機器人開發成真實的人、有執照的心理治療師和成年情人，導致自己的兒子對該服務上癮，並深深迷戀聊天機器人，最終兒子不希望生活在該服務創造的世界之外。訴訟還稱，賽澤向聊天機器人表達了自殺的想法，機器人還多次向兒子提起該念頭。加西亞提出了包括非正常死亡、疏忽和故意造成精神痛苦在內的索賠，並尋求金額不詳的補償性和懲罰性賠償。該訴訟也針對Google提告，因Character.AI的創始人在推出產品前曾在Google工作過，而後Google重新聘用了創始人，也獲得了Character.AI技術的非獨家許可。加西亞表示，Google對Character.AI技術的發展做出如此廣泛的貢獻，以至於可以被視為「共同創造者」。對此，Character.AI在一份聲明中表示，「我們對一名用戶的不幸去世感到心碎，並向其家人表示最深切的哀悼。」但否認了訴訟的指控，該公司表示，已經引入了新的安全功能，包括若用戶表達自殘想法，將彈出視窗引導用戶前往預防自殺專線，也將做出一些改變，以減少18歲以下的用戶遇到敏感內容。谷歌發言人則表示，該公司並未參與Character.AI產品的開發。◎勇敢求救並非弱者，您的痛苦有人願意傾聽，請撥打1995◎如果您覺得痛苦、似乎沒有出路，您並不孤單，請撥打1925
聯發科、聯詠等15家獲補助 57億元 IC設計業可望創造4000億投資效益
經濟部產業技術司公布「IC設計攻頂補助計畫」核定名單，通過聯發科技、聯詠科技、創鑫智慧、昇佳電子及瑞昱半導體等15家廠商所提出的11項計畫，總補助金額達57億元，預計將帶動171家上下游廠商投入相關生產，並新增至少1651個就業機會，創造投資效益逾新台幣4000億元。據TrendForce研究顯示，2023年全球前十大IC設計業者營收合計約1,677億美元，年增12%，關鍵在於NVIDIA（輝達）帶動整體產業向上，其營收年成長幅度高達105%。台灣IC設計產業在全球競爭力強勁，包括聯發科、聯詠、瑞昱等三大廠營收皆擠進全球IC設計前八大企業。為鞏固台灣IC設計國際地位，經濟部去年公告「IC設計攻頂補助計畫」、「驅動國內IC設計業者先進發展補助計畫」2項計畫，開放業者申請，今年9月由經濟部及國科會共同召開雙首長會議，近期公告核定名單。產業技術司表示，「IC設計攻頂補助計畫」作為「晶片驅動台灣產業創新方案」的重要一環，目標是推動國內IC設計業者投入先進技術應用晶片的開發，挑戰半導體高階製程，並達到或超越國際領先企業的技術水準。產業技術司指出，此次研發補助的重點是跟上國際頂尖IC設計公司及先進晶片製造技術的發展趨勢，涵蓋從AI晶片的研發到AI應用環境下所需的通訊需求。首先，針對伺服器用的特定AI晶片，這些晶片能協助企業進行大規模語言模型（LLM）等AI技術的訓練，例如，創鑫智慧所開發的大算力晶片，其效能預計可提升超過60倍，媲美全球領先企業的技術水準。在手機端AI應用方面，產業技術司提到，該計畫也持續推動新技術的開發，例如聯發科針對智慧型手機等設備打造的AI核心晶片，旨在滿足快速增長的移動設備AI需求。針對不同產品需求，計畫中還開發了專用的AI晶片，這些晶片具備強大的運算能力，能應對高度運算需求，並且在應用上更具彈性。記憶體方面，產業技術司說，為因應未來AI運算對高速資料處理的需求，國內廠商積極投入開發專為AI設計的高效能記憶體，這類記憶體可提供高速運算效能，特別適用於深度學習、資料中心等需要大量數據處理的應用領域，隨著AI需求不斷增加，這些技術將扮演關鍵角色。另外，產業技術司表示，針對AI應用對於高速通訊的需求，全球通訊廠商將矽光子技術視為關鍵發展項目之一，此次補助計畫也提供矽光子技術支持，期望藉此研發出我國首顆自主技術的矽光子晶片，以應對高速通訊與資料傳輸的挑戰，提升國內在AI通訊領域的競爭力。
聯發科推地表最強AI晶片「天璣9400」 本月兩款手機上市
聯發科（2454）在10月9日端出年度大菜、專為邊緣AI、沉浸式遊戲、極致影像而生的最新旗艦5G Agentic AI晶片－天璣9400，是聯發科技第四代旗艦行動晶片，第二代全大核設計，採用台積電3奈米製程生產，搭載新晶片的大陸品牌手機由vivo打頭陣，10月14日推出最新X200，OPPO的Find X8也宣布將在10月24日推出，台灣玩家最快在11月就能嘗鮮。聯發科於2019年發布首款5G旗艦行動晶片天璣1000後，目前已連續16季位居全球智慧手機系統單晶片市占率第一，9日股價也同聲慶賀，最高一度衝上1275元，最後漲20元、1.63%，收在1245元。聯發科資深副總經理徐敬全在發布會上表示，這次採用PC級的架構，相較於上一代旗艦晶片天璣9300，天璣9400單核性能提升35%、多核性能提升28%；而天璣9400採用台積電第二代3奈米製程，讓功耗較前一代降低40%，也就是更省電，「可以說是天賦拉滿，不必追高頻也一樣強悍。」被稱為「強、慧、猛」的產品，天璣9400也整合聯發科技第八代AI處理器NPU 890，擁有勝於以往的生成式AI性能，也首先提供開發者Agentic AI能力，AI性能和能效有顯著提升，像是大型語言模型（LLM）提示詞處理性能提升80%、功耗節省35%。硬體準備好了，將成為未來AI創新應用的運算基礎，在大陸已與多家APP深入結合，像是可以用圖片解題算數學、拍照翻譯菜單上的外國文字並分析卡路里與價格，在肯德基的外送功能上，只需要最後付款使用手指輸入，其他都能與AI對話討論就完成點菜。在玩遊戲方面，天璣9400整合12核心Arm Immortalis-G925，光線追蹤性能較前一代提升40%，GPU能力更較前一代提升41%峰值性能和節省44%功耗。而生成式AI的玩法，上一代晶片可以用文生圖，而這一代不但可以讓照片動起來，還能做自己的AI生成影片、且不須透過網路上雲端，直接在自己的手機硬體上運算。OPPO高級副總裁段要輝在發布會上表示，最近做過測試，用5G網路、30度的高溫環境，用各家手機玩原神，開啟最高畫質，去壓榨手機的極限性能，對手最新的16pro Max最多只能穩定10分鐘，但用了天璣9400晶片的手機，就能一路穩定到底。因應客戶需求，這晶片也支援三折型的智慧手機，讓手機製造商有設計的靈活性。接下來有不少搭載天璣9400的品牌手機陸續推出，像是vivo會在14日首先發表最新的X200系列，台灣預計在11月中下旬上市；OPPO也在聯發科的發布會上宣布，Find X8將在10月24日推出。日前市場也傳出，三星明年初將發表的新款旗艦機Galaxy S25系列也會採用天璣9400，聯發科過去供應給三星的智慧手機處理器，大多是中階機種，而這將會是聯發科首度切入三星旗艦型手機供應鏈，意義非凡。
輝達GB200鴻海科技日亮相 「這四家」台版卡廠迎商機
鴻海（2317）將於10月8日和9日在台北南港展覽館1館舉行鴻海科技日，聚焦生成式AI、國際化及夥伴關係等，將展現完整AI解決方案和創新科技成果，其中鴻海與輝達合作的AI伺服器GB200量產版將亮相，為市場矚目的焦點。NVIDIA GB200 Grace™ Blackwell NVL2 ，透過Blackwell GPU和Grace CPU為主流大型語言模型推論（LLM）、向量資料庫和資料處理提供無可比擬的效能，為所有資料中心開創運算新紀元。不過，輝達（NVIDIA）新一代顯示卡RTX 50系列規格曝光，儘管因Blackwell良率問題，導致推出時間預估延遲至明年1月CES展前後，仍受市場關注，台板卡廠微星、技嘉、華碩和承啟有望進補。因應新卡推出，市場傳出輝達預計於今年10月停產RTX 40系列高階顯示卡，輝達在AI和電競兩大市場的優勢地位將持續鞏固。市場預期有望為微星（2377）、技嘉（2376）、華碩（2357）和承啟（2425）等台灣板卡廠商創造新的機會。微星在今年4月宣布將以GeForce RTX系列GPU顯示卡產品為主力，8月營收創今年新高；技嘉預期，新平台的推出和顯示卡供不應求，將推動營收獲利增長。承啟作為中國顯卡廠七彩虹的代工廠，顯卡產品出貨力道逐漸增強，隨著消費性電子第四季旺季到來，營運有望逐步升溫。華碩部分，主板及顯示卡歸類為零組件業務，並預估今年將成長5-10%。
抄底撿四寶3／台灣石化績優生長春走斜槓路線 擁抱AI開發LLM還研究機器人
整個亞洲石化業面臨中國大陸的天量傾銷，已造成結構性改變，無一家逃得過這場風暴，連台灣石化業老二、長年的績優生長春集團也不例外，不過這家老字號今年大力轉身擁抱AI，身為傳統到不行的基礎原物料產業，不但參與自建台灣繁體中文的大語言模型，還想跨界做機器人，就是由最愛親自巡工廠的96歲老董、長春集團創辦人林書鴻的帶頭猛進。中國大陸是全球最大的石化與塑化產品消費國，是亞洲各國進軍的目標市場，但中國在2016年將過去只有國營企業才能經營的石化產業釋放給民間，導致投資一股腦湧出，北從大連長興島、南到福建漳州古雷，一路上就有七大石化園區推動煉化一體，石化產能從2015年占全球12%，去年已翻倍增長至25%。產能開出的時間剛好遇到疫情後全球去庫存的景氣低迷時刻，大陸本身經濟也未恢復，導致這些新增產能無處可去，傾銷造成整個亞洲市場價格崩壞，「現在東北亞的國家，很多公司都在討論要怎麼把生產線直接結束掉。」產業人士跟CTWANT記者說，而台化董事長洪福源在6月股東會時感嘆「中國產能太荒唐，都是天文數字」的供給過剩，恐怕到明年都難以解決。中國大陸正在興建的煉油化工廠產量驚人。（圖／新華社）「中國石化業正以前所未有的速度擴張，台灣花30年才能推進100萬噸的產能，中國大陸在2、3年間就直接超車達到200 萬噸。」長期低調的長春集團之大連化工董事長林顯東也看到了石化業的隱憂；身為林書鴻的長子，且做為長春集團常務董事、長捷士科技公司董事長，同時擁有石化與電子兩種領域之管理經驗，他在這場中國低價傾銷風暴中，選擇的應對作法，就是善用AI預測與「斜槓」。長春集團與台大資工系、資管系，以及和碩、長庚醫院、欣興電子等業者，剛在7月共同宣布要開發臺灣繁中大型語言模型（LLM）計畫Project TAME，以70億參數的開源模型Llama-3 70B為基礎，使用5000億個Token和NVIDIA開發者計畫技術訓練而成，希望未來可用於原物料價格預測、企業戰情中心資訊分析和機器人大腦等3大領域。台大團隊與長春、和碩、長庚醫院、欣興電子等業者共同推出Project TAME。（圖／業者提供）就戰情中心來說，長春集團資訊中心將過去2年的內部銷售與財務資料，加上外部的關鍵經濟指標，發現LLM真的可給出人類分析師沒注意到的意見。而高齡96歲的長春集團總裁林書鴻也力挺集團數位轉型，直接買下一台輝達DGX H100放在集團運算中心進行AI訓練，更在2023年10月投入機器人研發，與台大團隊合作，計畫在一年內開發出通用型機器人，結合AI大語言模型，可以聽指令做家事、陪伴老人，更能進入危險的石化工廠出任務。像是台灣大學機械系教授郭重顯的研究團隊，最近推出台灣首創且自主研發的AI機器狗NTU DogBot，93公分長、40公斤重的工作型機器狗Dustin，就可應用於工業巡檢與物品遞送，搭載各式工業用途的感測器，包括音噪、視覺、溫度、氣體等，並結合Line Bot即時訊息回報，今年底希望能學會爬樓梯，2025年至2027年加上防水、防塵的戶外場域應用，可用於長春集團提出的化工廠智慧巡檢需求。左為寵物型機械狗Oliver、右為工作型機械狗Dustin。（圖／記者劉耿豪攝）長春石化資訊中心IDX協理黃至善表示，現在切入機器人產業時機點正好，因為全世界起跑點一樣，石化產業競爭激烈，機器人會是集團數位轉型的好方向，計畫明年6月前打造出機器人原型，聽懂主人指令跟操控手指等細部動作，接下來希望能順應不同地形、在虛擬環境做自主訓練，然後在集團工廠服役。「未來石化業若有危險場域都可以由機器人執行任務，即使機器人爆炸了，由於知識儲存在雲端，可以馬上複製。」黃至善得意地說。
夏普搶進電動車市場 概念車LDK+結合AI在9月中旬亮相
鴻海（2317）旗下子公司夏普（Sharp）宣布，將採用鴻海EV平台研發概念車「LDK+」，預計將9月中旬正式亮相，正式進軍電動車（EV）事業。夏普將在17日於東京舉行的夏普技術展示活動「Sharp Tech-Day’24 “Innovation Showcase”」上發表電動車概念車LDK+。夏普表示，LDK+以鴻海集團研發的EV平台為基礎進行研發，並獲得日本電動車新創公司Folofly的協助。LDK+將車內視為「客廳擴展空間」，搭配夏普自家AI技術「CE-LLM」、AIoT技術及感測器技術。不僅如此，夏普也表示，LDK+後排座位可1向後回轉、且車後方搭載65吋顯示器，可作為劇院、兒童娛樂或遠端辦公空間；同時可依照用戶喜好自動調整空調、亮度。值得注意的是，搭載的蓄電池和太陽能面板能和家裡連結，透過AI為家裡和電動車實現最佳化能源管理，如果房屋停電時，車內電力可以供家裡使用。夏普技術長種谷元隆曾表示，「在實現低碳社會的部分，電動車（EV）的發展有很大的空間，希望藉此提升客戶的便利性。」據了解，夏普液晶螢幕業務低迷，已連續年虧損，8月時夏普已經暫停電視用大型液晶螢幕的生產，接下來的電動車事業，將成為夏普著重發展的項目。
老黃簡報提3次提「他」 APMIC帶AI解決方案反攻美國市場
今年台北國際電腦展COMPUTEX掀起AI教父、輝達（NVIDIA）執行長黃仁勳炫風，他在演講簡報提及的台灣公司股票都大漲一波，有一家軟體公司的名稱出現三次，那就是主打企業自主AI解決方案的台灣新創公司APMIC。APMIC創辦人暨執行長吳柏翰27日表示，旗下的大型語言模型「CaiGunn開講」將引進北美市場，讓企業擁有能力打造自己的AI大腦、人人輕鬆參與AI時代，協助全球企業邁向AI轉型。「CaiGunn開講」，名稱取自台語「聊天」發音，是APMIC團隊打造的在地化大型語言模型與平台框架。吳柏翰介紹，企業人員只要將現有的文章、網站或是文件資料上傳，不需寫任何程式，就能打造出地端的企業AI大腦，不上傳到雲端，所以不怕機密洩漏，每個員工都能一鍵套用、用對話的方式使用AI工具。「CaiGunn開講」已獲得Google、台北市政府、NEC、台塑生醫、中國信託銀行及亞太電信等800多家橫跨健康、製造、金融、航空、零售等產業採用，為企業服務效率提升超過30%，也是2023年全台唯一上榜全球知名開源語言模型平台Hugging Face百大排名的模型。輝達也在27日宣布推出四款全新NVIDIA NIM微服務，讓開發人員能輕鬆建置與部署高效能的生成式AI應用，針對地區需求量身打造，在台灣使用Llama 3-Taiwan 70B NIM微服務，可降低生產環境中運行模型的總成本，並減少延遲。輝達新聞稿提到，像是長庚醫院正在以此建置該院專屬的AI推論服務，集中管理醫院體系內的所有LLM應用；和碩用來開發內外部的應用，將這款微服務與旗下的AI系統整合，提升製造與營運效率。其他包括長春集團、欣興電子，媒體公司，以及線上合約服務公司律果科技與新創公司APMIC等都有在開放模型上進行合作。數據顯示，目前企業做AI生成，用小模型加上RAG準確率只能達到83.9%，若想更精準，就必須花更多的錢、買更大的設備與模型，但APMIC的技術就是用他們「微調」，使用輝達H100的顯卡，達到H200擁有的90%以上的精準度。吳柏翰表示，今年他到美國參加輝達的GTC大會時，發現美國雖然AI發展得早，但缺乏相關的框架業者，而他們已能跟輝達生態圈合作打團體戰，包括硬體、軟體與系統整合等廠商，進軍美國市場。
找不到內部資料怎麼辦？ Gufonet讓你不再擔心被老闆「刮」
AI逐漸改變人類生活，但要怎樣運用在生活與工作之中？其實從AI研發到生活運用，「系統整合」（SI）扮演重要的橋樑功能，讓想不到的生活情景一切成真。在公司上班，經常為了尋找公司內部資料忙的焦頭爛耳，找不到、找太慢還會被老闆「刮」，惹得心情不好。如果能說服公司找系統整合廠商加裝一套Gufonet 的搜尋系統，從此找資料不再是苦差事，提升工作效率還可以透過系統交叉分析，得到更多的策略建議。Gufonet在市場的口碑就是企業控存查找資料的最佳選擇，在於掌握大型語言模式（LLM）的整合技術，能生成專業文本，適合用於商業應用，對華文世界的先進生成式人工智慧語言處理、語意檢索領域有突破性發展。掌握這項技術的「驊宏資通」（6148）表示，Gufonet可以將龐大的資料庫化繁為簡，不必改變資料架構，也依關聯性分類切割，能自動比對增加搜尋效率，擴大資料使用價值，可以說是「一站到位」的決策中心，提升公司精準決策效率。尤其在單一機體有一億筆的運算容量，零人工介入，能支援60種以上檔案格式，AI能生成報告範本、新聞稿，加上知識庫問答，使Gufonet功能更加強大。現在一般的企業內部資料儲存檢索系統多以入口網站的方式登入，再以標韱索引進行查找，程序上是依分類階層進行資料蒐尋，必須輸入精確關鍵字才能縮短尋找資料時間，而且有人工介入的管理成本，連帶產生資安問題，資料庫也沒有AI的運算和生成功能，較缺少系統整合設計。網路化資料最講求資訊安全，Gufonet設定原始碼弱點零檢出的安全等級，資安第三方認證的高標準，最適用於知識管理、企業入口網、客服系統、雲端搜尋行業。就是因為有AI的資料庫運算，不但能快速儲存、搜尋能力，加上字詞比對，以及高標準資安要求，才獲得台北捷運工程局採用Gufonet作為核心打造高效率內部業務系統，在工程大圖收存與跨資料檢索能力獲得公部門的認證。當你在公司上班，有了Gufonet之後，就不會因為找不到資料而煩惱。「讓機器讀懂你的心！」AI增加你的上班效率，也改善生活品質。
劍指谷歌！OpenAI與多家新聞媒體出版商合作 計畫推出AI搜尋引擎「SearchGPT」
美國人工智慧研究實驗室「OpenAI」正在測試一款人工智慧（AI）線上搜尋引擎「SearchGPT」，其將使用生成式AI收集資訊並以對話的語氣回答問題和搜尋結果，幫助用戶更快、更輕鬆地找到他們的查詢內容，目前僅向一小部分用戶開放測試，且尚未透露正式的推出時間，預計「SearchGPT」最終可能會整合到「OpenAI」的「ChatGPT」聊天天機器人中。據科技雜誌《連線》（Wired）的報導，「OpenAI」發言人伍德（Kayla Wood）拒絕向《連線》提供演示新工具「SearchGPT」的詳細資料，但證實該公司已向若干合作夥伴和新聞媒體出版商取得訪問權限，並根據他們的反饋內容改進搜尋引擎的功能，此舉被外界解讀是正面劍指搜尋引擎龍頭「Google」。「OpenAI」的主要投資者微軟（Microsoft）是最早向大眾發布生成式AI搜尋引擎的公司之一，該公司於2023年把AI聊天機器人「ChatGPT」背後的人工智慧技術整合到旗下的網路搜尋引擎「Bing」，以及瀏覽器「Edge」中。微軟的人工智慧搜尋引擎現已更名為「Microsoft 365 Copilot」。隨後，「Google」以及由AI聊天機器人驅動的研究和會話搜尋引擎「Perplexity AI」等多個競爭對手，都向用戶推出了自己的AI搜尋服務。例如「Google」就在搜尋引擎中推出名為AI概述（AI overview）的新功能，替用戶一次整合所有搜尋結果，不需點擊多個連結。而「OpenAI」的「SearchGPT」則看起來與「Perplexity AI」更為相似，其聊天機器人可使用自然語言預測文字回答查詢，並使用網路來源產生答案，引用文字回應中的連結。「OpenAI」在2022年11月首次推出ChatGPT後，許多用戶看到聊天機器人從網路中挖掘和總結資訊的能力，預期AI聊天機器人有可能取代傳統的網路搜尋引擎。然而，大型語言模型（large language model，LLM）的缺點使得聊天機器人的搜尋功能不完全，這些模型所利用的訓練數據通常已經過時數月或數年，因此當不確定答案時，AI聊天機器人就會編造「錯誤的事實」。對此，「OpenAI」的「SearchGPT」可能會使用結合了搜尋檢索和生成能力的自然語言處理架構「檢索增強生成」（Retrieval-Augmented Generation，RAG），來降低聊天機器人的錯答率。透過RAG架構，人工智慧工具將引用可信任資訊，例如首選新聞網站，同時將產生搜尋結果的資料和數據來源。不過這個方法具有潛在的版權侵犯問題。例如「Perplexity AI」就遭到包括《連線》在內的網站或新聞媒體出版商的批評，因為其AI搜尋引擎涉嫌抄襲原創新聞網站的內容，並且刻意忽略資料來源。因此「OpenAI」改進了這項缺失，並對新聞媒體出版商承諾：「SearchGPT」將透過在搜尋結果中特別引用和連結到出版商的內容，讓用戶與出版商建立更多聯繫和瀏覽。據悉，包括沃克斯傳媒（Vox Media）、大西洋月刊（The Atlantic）、新聞集團（News Corp）和金融時報（Financial Times）在內的多家新聞媒體公司，今年都已與「OpenAI」簽署了內容授權協議。
Meta計劃23日發布「最強Llama 3模型」 外媒：將以4050億參數制霸市場
OpenAI開發的ChatGPT為AI聊天機器人競賽揭開序幕，如今，Meta帶上Llama 3新模型加入戰局。美東時間7月12日周五，媒體援引一名Meta Platforms的員工消息稱，Meta計劃7月23日發佈旗下第三代大語言模型（LLM）Llama 3的最大版本。這一最新版模型將擁有4050億参数，多模態模型，這意味着它將能夠理解和生成圖像和文本。去年7月Meta發佈的Llama 2有三個版本，最大版本70B的參數規模爲700億。今年4月，Meta發佈Llama 3Meta，稱它爲「至今爲止能力最強的開源LLM」。當時推出的Llama 3有8B和70B兩個版本。Meta CEO祖克伯當時稱，大版本的Llama 3將有超過4000億參數。Meta並未透露會不會將4000億參數規模的Llama 3開源，當時它還在接受訓練。對比前代，Llama 3有了質的飛躍。Llama 2使用2萬億個token進行訓練，而訓練Llama 3大版本的token超過15萬億。Meta稱，由於預訓練和訓練後的改進，其預訓練和指令調優的模型是目前8B和70B兩個參數規模的最佳模型。在訓練後程序得到改進後，模型的錯誤拒絕率（FRR）大幅下降，一致性提高，模型響應的多樣性增加。在推理、代碼生成和指令跟蹤等功能方面，Llama 3相比Llama 2有極大改進，使Llama 3更易於操控。4月Meta展示，8B和70B版本的Llama 3指令調優模型在大規模多任務語言理解數據集（MMLU）、研究生水平專家推理（GPQA）、數學評測集（GSM8K）、編程多語言測試（HumanEval）等方面的測評得分都高於Mistral、谷歌的Gemma和Gemini和Anthropic的Claude 3。8B和70B版本的預訓練Llama 3多種性能測評優於Mistral、Gemma、Gemini和Mixtral。英偉達高級科學家Jim Fan認爲，Llama 3的推出已經脫離了技術層面的進步，更是開源模型與頂尖閉源模型可分庭抗禮的象徵。不同於OpenAI等開發商，Meta致力於開源LLM，不過，這個賽道也越來越擁擠。谷歌、特斯拉CEO馬斯克旗下的xAI和Mistral等競爭對手也發佈了免費的AI模型。據傳OpenAI正在準備GPT-5模型，有望再次超越業界其他公司，帶來更多強大功能。對此Meta祖克伯向外媒透露，Meta已在考慮Llama 4、Llama 5的開發。
力拼2030減1/3癌症死亡人數 次世代基因定序檢測成關鍵
根據衛福部公布之國人十大死因統計，癌症多年來位居國人十大死因之首，佔總死亡人數四分之一，每年約有超過5萬名國人因癌症死亡，癌症治療是台灣健康議題中極待解決的問題。賴清德總統也喊出健康台灣願景，目標在2030年減少因癌症死亡人數三分之一，顯示政府對癌症早期篩檢、基因檢測與精準醫療的重視。而基因檢測在精準醫療中更扮演了關鍵角色，不僅能識別癌症患者的基因突變、估計治療效期，更能因應腫瘤新衍生的抗藥性，迅速更換治療，從而幫助醫師為患者制定精準的治療方案。隨著次世代基因定序檢測（NGS）正式納入健保，行動基因（ACT Genomics Co. Ltd.）協助將NGS檢測無縫整合到各家醫院的癌症治療計劃中，幫助更多癌症患者獲得更精準的治療，國家健康願景更邁進一步。醫療技術日新月異，標靶藥物治療癌症的效果優於傳統手術和化、放療，先進行基因檢測可找到患者可能的突變基因，更精準地使用相對應的標靶藥物。然而次世代基因定序檢測的項目數量不同，費用也有所差異，自費價格約1到10萬元不等，對癌友而言更是筆不小的負擔。所幸自今年5月1日起，NGS納入健保給付，將以檢測方法、基因位點多寡及病人需求等條件，採取健保定額給付、民眾自付差額方式，大大減輕了患者的經濟負擔，預估每年將有約2萬多名癌友受惠。國際上已有許多利用NGS檢測衍生的生物大數據進行臨床應用，進一步發展創新癌症醫療產品。例如韓國藉此提供公共衛生研究有效的資料和樣本管理系統；日本則成立專門負責醫療研發的資助機構以支援基因研究和數據管理。行動基因技術長陳華鍵表示，行動基因近期將通過與研究機構合作，發展基因檢測結合機器學習的本土疾病風險評估模型，以協助疾病預防與診斷。陳華鍵進一步說明，由於NGS檢測在分析過程中產生大量數據，需要強大的大數據處理能力來發現和再分析疾病。行動基因將持續透過機器學習優化演算法，並導入LLM與Generative AI科技，提升基因檢測的準確性和效率。行動基因目前也在研發深化AI科技的應用，並參與國際研究計畫，如美國癌症研究之友主持的同源重組缺失之生物標記協調專案(HRD Harmonization Project)。近期，行動基因更優化了其癌症基因檢測技術，不僅一次可檢測440個癌症相關基因、13個融合基因和350多種融合基因組合，涵蓋標靶、免疫、荷爾蒙和化學治療評估，檢測結果更於近日縮短至8個工作天，幫助醫療團隊更快擬定出最佳精準治療方案。行動基因研發團隊也持續觀察最新檢測形式，確保提供最具臨床價值的檢測。陳華鍵表示，次世代基因定序檢測納入健保是台灣精準醫療發展的重要里程碑。行動基因作為醫療單位臨床及研究的精準檢測夥伴，致力於技術創新，研發費用更達2023年營業支出的26%，以提供更完善的專業檢測數據。未來將持續與醫療機構緊密合作，輔助臨床判斷與治療策略，共同推動癌症治療和精準醫療的進步與普及，造福更多癌症患者。關心食安、健康的朋友們別錯過~！LINE社群搜尋：健康一把抓加入我們，立刻掌握全家大小的健康與秒懂食安地雷，還有獨家健康小撇步！！【健康一把抓】→https://reurl.cc/qrypl3
輝達建數據中心各縣市爭搶 經濟部長：2030年前有10座資料中心要建置
輝達(NVIDIA)要在台設第二座研發中心與數據中心，各縣市爭搶，經濟部長郭智輝今(5日)呼籲，除輝達外，還有許多數據中心要來，各縣市都有機會。據了解，他上任後積極到各供應鏈拜訪，已掌握2030年前應該還有10座資料中心要設置。他上任18天，期間積極拜訪國內產業與供應鏈，第一線與業者交換，因應AI浪潮，業者表示會籌設更多資料中心，包括外商與本土商。經濟部初步掌握，到2030年前應該還有10座資料中心會建置。至於是本地運算中心，還是要建構大型語言模型(LLM)，目前還不確定。不過資料中心用電量很大，以G開頭的外商公司彰化資料中心相比，其一座每年耗電就高達8.4億度，相當龐大。相對如果是 輝達在高雄的「台北1號」超級電腦中心，每年耗電量約584萬度，衝擊就較小。對於資料中心龐大用電量。郭智輝說， 如果來5到6家數據中心，還可支持。但如果一次來10家，就要考慮怎麼最快支援它們需要的電。台電的規劃是大量增加綠電，會先從光電開始做，並透過儲電、水力抽蓄輔助。他強調蓋新燃煤電廠要6年，光電只要2年，這是最快辦法。但是民眾黨立委張啟楷提醒，風力發電在夏天最需要用電的 6到9月，卻是發電最低，其次太陽能也是不夠穩定的電 。如果要用燃氣新電廠，但四接、五接都還在環評 ，都有珊瑚生態、漁業經濟 、白海豚生態爭議，還不知道。
輝達擴大與中華電信合作 董座股東會宣布「每股配息4.758元」
輝達（NVIDIA）執行長黃仁勳上周抵台後行程備受關注，不僅和台積電（2330）董事長創辦人張忠謀、廣達（2382）創辦人林百里一同逛夜市，也與其他科技大佬會面，其中，中華電信（2412）董事長郭水義、總經理林昭陽也出現在宴客清單中。有消息傳出，「中華電信確定與NVIDIA擴大合作。」據消息來源表示，中華電信已向輝達購買DGX伺服器，未來將藉由開源LLM大型語言模型、檢索增強生成（Retrieval-Augmented Generation，RAG）等資源技術，發展並提供內外部AI應用服務。中華電信公司5月31日舉行113年股東常會，由董事長郭水義主持，承認該公司112年度營業報告書、財務報表及盈餘分配案，並通過公司章程修正案及解除董事競業禁止限制案。關於112年度盈餘分配案，股東會通過配發現金股利每股4.758元，配發金額合計新台幣36,909,930,661元。中華電信表示，112年現金股利維持近100%的配發率，未來仍將繼續維持穩定股利政策。今天中華電開盤127.5元，最高來到128元，不過最終收盤價為127元，跌幅0.78%。
聯發科聚焦AI應用 三大外資目標喊上1300元
IC設計龍頭廠聯發科（2454）日前預估第二季營收將季減9%。外資雖示警中國智慧型手機庫存調整較預期嚴重，但看好聯發科有望在AI轉型路上成要角。三大外資出具最新報告，維持原評等，目標價最高來到1300元。今天（29日）聯發科股價開高震盪，截至發稿上漲0.5%來到1010元。聯發科將在下半年推出新的天璣9400晶片，市場聚焦聯發科AI轉型策略。該晶片擁有更強大的AI運算單元，支援至少7B或13B參數的LLM（大型語言模型），在生成式AI帶動下，有望佔營收比逾5成。美系外資高盛指出，預計聯發科今年營收成長將達到15%左右，管理層尤其對智慧型手機高階市場充滿信心，估將貢獻今年營收年增5成以上，而且聯發科技預計下半年推出新一代Dimentisy 9400，採用台積電N3處理器，對AI ASIC TAM的積極態度逐漸增強，因此調高目標價至1300元，維持買進評等。另一美系外資大摩指出，中國手機庫存調整比預期嚴重，但聯發科也服務於其它新興市場，因此看好下半年隨時都可能出現強勁的庫存補貨，且智慧型手機出貨結構正在向高端市場轉移。大摩預估下半年旗艦款天璣9400可支援更多AI應用，平均售價將達到140美元，因此重申聯發科優於大盤評級，並調高目標價至1288元。大和資本則表示，聯發科第一季的業績強勁，但第二季的前景黯淡，雖然智慧型手機銷量下降，但對聯發科結構性業務的積極看法仍好。並強調，過去兩季供應商積極推動AI智慧型手機的更換需求，導致聯發科捕獲強勁，隨著需求可視性的提高，預計今年收入將以美元計算至少成長15%，因此重申買進評等，目標價1155元。
研華Q1 EPS 2.32元 估Q2挑戰仍嚴峻4/30舉行法說會
工業物聯網廠研華（2395）今（26）日舉行董事會，通過2024年第一季合併財務報告，合併營收為新台幣138.79億元，年減20%，營業毛利為55.48億元，毛利率40.0%，合併稅後淨利為19.93億元，年減33%，第一季合併每股稅後盈餘為2.32元。研華預計於4月30日舉行法說會。研華表示，第一季營收若以美元表達，為4.43億元，年對年衰退22%。就區域別來看，以台灣市場表現最為突出，年對年成長9%；中國市場因軌道交通及半導體設備相關需求回穩，僅個位數衰退，而北美、歐洲、北亞及新興市場則受企業支出縮減影響需求疲弱，營收表現雙位數年減。至於各事業群表現方面，第一季均呈現年對年雙位數衰退。研華財務長暨綜合經營管理總經理陳清熙表示，2024年景氣緩步由谷底回溫，各市場客戶訂單仍偏保守，公司首季營收符合先前淡季預估。接單方面，首季整體接單/出貨比值（B/B Ratio）為0.97，包括北美、中國及歐洲三大區域BB值已築底並穩健回升，其中北美及中國BB值皆較上季成長，分別達0.91及1.0；歐洲BB值則持平於0.97水準。然整體接單金額尚未回歸常態，估計第二季營收成長動能偏緩。研華表示，整體第二季景氣及區域市場之挑戰仍嚴峻，公司也在營運淡季持續內外並進、奠定成長基礎。其中對外擴展Edge AI聯軍陣容，包括四月與高通深化策略合作、與群聯『aiDAPTIV+』 合作增強AI LLM 的能力等，未來將加速邊緣人工智慧生態系形成。內部則持續優化庫存結構及內部流程，營運現金流穩健發展。展望下半年，研華預估，全球工廠自動化、智慧能源及基礎建設升級等轉型佈建將進一步加速，可望帶動相關新專案出貨表現。
繁中守護者1／「不會做才更要做！」解密蔡明介督軍 聯發科為台灣訓練LLM輝達也相挺
「不會做，才更要做！」台灣晶片一哥聯發科技4月9日發表繁體中文語言模型MR BreeXe，以450億參數超越中文版ChatGPT3.5，奪下世界最強的繁體中文大語言模型(LLM)。儘管外界看熱鬧，也有酸民說贏了ChatGPT3.5沒什麼好驕傲，但台灣科技圈人士深知，聯發科努力「緩解了一場迫切危機！」近年全球爭相砸錢啟動的AI及LLM軍備競賽中，以歐美思維為主流，英語稱霸，中文則以中國大陸簡體中文的語意邏輯掛帥，繁體中文相對弱勢，直到聯發科的MR BreeXe出現，緩解了被「邊緣化」的危機。CTWANT記者採訪多位關鍵人士，得知了這場艱辛的技術研發過程，其實是一場文化保衛戰，連輝達聞訊後也上門，將去年底新推的AI超級電腦Taipei -1，交與聯發科訓練模型。業內人士表示，聯發科在1997年從聯華電子多媒體部門分出來後，「拿到的牌都是最差的那一種」，要人沒人、要錢沒錢，主攻的產業都是世界上最競爭最難的，然而蔡明介一路走來的經營理念，就是有一個頂級的公司，才能把人才留在台灣。聯發科從光碟機晶片組開始，一路做到全球行動通訊晶片第二大廠，蔡明介引領技術創新之際，也觀察到AI科技將扭轉局勢，2019年他親自拍板、督軍，成立聯發創新基地，負責AI的前瞻研究，「比很多業者都早發現AI的重要性，將會形成『革命性的轉變，就像一種新的電力。』」聯發科技協理葉家順表示。輝達去年底推出最新的AI超級電腦Taipei-1，讓聯發科第一個做訓練。（圖／翻攝自GoogleMap）「AI最重要的基礎就是大語言模型，聯發科是以技術力為主的公司，要做、就做對世界有影響的技術。」業內人士表示，聯發創新基地最初研究的是自然語言處理(NLP)，是一種人工智慧的分支，可讓電腦理解、產生及處理人工語言，「最一開始的AI研究真是萬事起頭難，常改到死。」2022年6月蔡明介下令基地放棄舊研究，改成全力押寶生成式人工智能GenAI，並啟動首個開源繁中大語言模型，跟一級主管這樣說，「沒有人做，所以我們要做！」聯發科員工跟CTWANT記者說，當時董事長下軍令，但大家都面面相覷，OpenAI當時還默默無名，ChatGPT更是在2022年11月30日才發布，等於沒有任何前例可循，更何況是要做台灣為主的繁體中文系統，幾乎是從零開始。「聽到這個消息，我們的合作夥伴都很關切，頻頻問我們，怎麼做、你會嗎？當然不會呀！」聯發科員工表示，因為大家都知道做大語言模型的難度大、門檻高，一般單位是做不來的，聯發科在研究過程中也「踩了不少坑、撞得頭破血流」，但在其他陣營開發速度陸續放緩後，「這件事反而成了『社會對我們的期望』，得到很多夥伴的協助。」「最難的就是一開始，找不到適合的人才」聯發創新基地負責人許大山是加州柏克萊大學電機博士，曾任台大副教授，被學生廣為流傳的「年年書卷獎的台大電機學霸」。他跟CTWANT記者說，當時聯發科在AI頂級科學家圈內是沒有名氣的，花了很大力氣才能招募到人才，有了成果、上了幾篇國際級的論文，學者們認識我們，後續才比較順利。目前聯發創新基地在台大、劍橋、倫敦都有據點，「成員就像是個小的聯合國。」業內人士說。聯發創新基地負責人許大山。（圖／記者黃耀徵攝）聯發科「MR BreeXe」是以法國AI業者推出的Mixtral 8x7B開源模型為基礎去開發，繼承Mixtral多專家模型特有的節省運算資源、提升速度優勢，再加上聯發創新基地的訓練，在繁體中文測試項目（TMMLU+、MT Bench TW）超越GPT-3.5，並優化台灣常見之地端應用，提升產業界檢索增強生成（RAG）的體驗，還能一口氣處理4萬字的長篇資料，而Mixtral只能四千字。AI龍頭輝達得知聯發科在做繁體中文大語言模型，特別拿出他們去年底才推出最新的AI超級電腦Taipei -1，讓聯發科第一個跑數據、做訓練。截至4月初MR BreeXe正式發表，450億參數，比OpenAI兩年前發表的中文版ChatGPT3.5模型參數規模270億，遠超出一大截。「其實聯發科以繁體中文切入做大語言模型，是『緩解了一個非常迫切的危機』，」成功大學資工系教授黃敬群跟CTWANT記者解釋，以網路搜索來說，使用者14億人、源自中國的簡體資料在世界上的點擊量絕對高過台灣的，像是Google台灣就花了百人團隊去「平衡」，才讓台灣人看到的網頁搜尋符合需求，但到了AI時代，這些人工干預就失靈了。
繁中守護者2／母湯是一種清湯？專家測試8萬字資料Breeze運算跑第一「OpenAI不友善」
全世界最強繁中大型語言模型LLM問世，「MR BreeXe針對中文特殊情境優化，所以速度提升1倍，布建成本下降一半。」聯發創新基地資深技術經理陳宜昌告訴CTWANT記者。目前全世界有中文參數的LLM模型，包括歐美科技業者投資OpenAI的ChatGPT、Google的Gemini，Facebook母公司Meta推出的LLaMA，中國有百度的「文心一言」等，但大多以簡體中文的內容為主。究竟聯發科推出的繁中LLM功力如何？業內專家ihower用數發部的政府報告、管理學講義共8萬多字做壓力測試，結果發現聯發科在Tokenizer (分詞器)上的調整相當「有感」。ihower表示，一樣的文本，若能用比較少的 Tokens 數來表示，推論速度會比較快、成本也會比較划算，畢竟計價也是用Tokens數計算的。「以OpenAI為基準，聯發科的Breeze大約節省50%的Tokens數、運算更快，而Google Gemini大約節省46%，Llama 2甚至比OpenAI差、多增加了20%。」「OpenAI的Tokenizer對繁體中文真的很不友善啊！」ihower說。華碩營運長暨台智雲董事長謝明傑曾表示，OpenAI模型「大部分是英文腦，中文的腦相當少」，繁體中文資料比例低於0.1%，簡體中文資料不超過2%，但以數量來說，也相當於超過繁體中文20倍的量。GPT-4在中文領域的回答仍有侷限性。（圖／記者黃耀徵攝）同樣是中文LLM，為何要另外做出繁體中文的版本？成功大學資工系教授黃敬群向CTWANT記者解釋，因為AI是「生成」，而且不斷「演化」，一般人不會知道內容出自哪裡，就會出現文化衝擊問題，「現在很多大學生的作業、學者論文，甚至是媒體報導的內容，用AI輔助後出現大量中國式用語與邏輯思維，而非台灣行之有年、大量專家學者累積並完成的知識與術語，但使用者可能都沒發現。」如果不喜歡抖音文化，可選擇不看，但在AI時代，因為資料量的差異，中文世界會整個傾斜倒向中國大陸的邏輯思維，所以聯發科做繁體中文模型時「開源」公開程式碼，讓全世界的人去使用，以台灣思維為主的中文知識，才有機會進入AI時代的大腦資料來源。聯發創新基地在台大、倫敦、劍橋都有據點，一起研究AI。（圖／翻攝自聯發創新基地官網）除了解析中文語句的速度快，陳宜昌舉例，如果用Mixtral詢問「母湯」，他會說「是一種中國傳統的食物，通常是一種清湯或魚羹。」但在BreeXe上，就會說這是「台語的諧音梗，源自於沒關係，但在網路流行語中被用來否定、或是不正確的意思。」聯發創新基地負責人許大山跟CTWANT記者說，會取名為BreeXe，除了致敬Mixtral原本「西北風」意思，也希望他像breeze一樣的徐徐微風、廣泛吹進大家的電腦裡，讓人有如沐春風的感覺。一般人可能看不見、摸不著，但是這股以科技人為首的夢想與使命的風已經悄悄吹起來了。
地表最強晶片1／輝達軟硬通吃「老黃像AI傳教士」業者想入教 分析師：有應用就沒泡沫
畫面從宇宙看向地球，然後靠近、聚焦在正中間的台灣，旁白介紹起AI預測颱風的技術，畫面裡有圓山飯店、台北101大樓，還有美麗明亮的台北盆地，長達兩分多鐘的介紹，反覆出現的台灣小島，最後輝達Nvidia創辦人黃仁勳從舞台邊走來，迎接上萬人的掌聲；這影片光是在輝達的官方Youtube頻道上，一周內已接近2700萬次點閱。這不是觀光宣傳影片，而是輝達在GTC開發者大會上宣傳旗下的「Earth-2氣候數位孿生雲平台」，與台灣的中央氣象署、IBM子公司The Weather Company合作，將生成式AI應用在預測天氣上，「我們真的想知道怎麼預測極端氣候，讓人們遠離傷害」黃仁勳說。這段影片，不但為了人類的安全，也是「台灣囡仔」黃仁勳的一份心意，讓台灣站在世界的中心。「我們知道，這場新的工業革命、AI革命，台灣正處在中心的位置」，黃仁勳會後與矽谷的台灣同業吃飯時大喊，「跟我一起說好這個故事。台灣加油！」「所謂科技的傳教士，就是能將這個技術的熱情與影響力擴散給更多領域。」業者向CTWANT記者說，「這次真是AI佈道大會，連我都想入教了」。黃仁勳在美國時間18日舉行的開發者大會，發表地表最強AI GPU晶片，兩個Blackwell，加上一顆Arm架構Grace CPU組成的「超級AI晶片GB200」，AI訓練速度比前代H100快四倍、推理能力優30倍，成本和能源消耗低25倍，已經有許多大型科技廠下訂。其中被點名、馬上就能受惠的Blackwell供應鏈，包括華擎旗下永擎、華碩、鴻海、技嘉、英業達、和碩、雲達科技、緯創、緯穎等企業，外資券商報告也加碼點名，除了晶片製造主角的台積電，包括日月光、欣興、廣達、奇鋐、雙鴻等台廠也有相關訂單；儘管活動已過去一周，但餘威仍持續發酵，被點名的台灣供應鏈被媒體封為「AI十虎」持續在股票市場強強滾，甚至有廠商飆到被列為「注意股」。與會業者表示，難得可在這樣的國際級大展覽上聽到很多台灣腔。（圖／翻攝自輝達GTC臉書）與會業者提到，其實除了目前浮上檯面的伺服器供應鏈，還有很多看點，像是現場展示的包括車用平台、醫療等應用都指日可待，甚至是演講壓軸的機器人領域；與會業者跟CTWANT記者說，「大家應該要關注的是，除了賣硬體，輝達開始推商業軟體業務，未來可能包套販售，是準備好種子開始『撒豆成兵』了。」黃仁勳在國際記者會上提到，Nvidia希望成為AI領域的台積電，替所有想導入AI技術到自家業務的人簡單入手，「就像我們把點子給台積電，製造後我們就能拿走晶片」，推出的AI微服務Nvidia NIM，就是客製化AI時的「副駕駛」，提供NVIDIA 推論軟體（包括 Triton Inference ServerTM 和 TensorRTTM-LLM）驅動的預先建置容器，為語言、語音和藥物發現等領域提供符合產業標準的應用程式介面（API），開發人員就能在自己的基礎設施中快速開發程式，首批客戶包含Adobe、SAP、Cadence等。業內人士向CTWANT記者解釋，簡單來說，就是「整體包到好」，過去買軟體可能像是毛胚屋，還要自己採購家具、或重新裝潢，但現在的趨勢是已經裝好家具的房子，客戶可直接入住，「甚至連門口警衛都幫你安排好了。」「成熟的企業平台坐擁資料金礦，這些資料可以變成生成式人工智慧的輔助夥伴，是各行各業成為人工智慧公司的基石。」黃仁勳表示，輝達其實也是個「軟體公司」，擁有「AI技術、專業知識、基礎設施」這三項條件，足以成為「AI代工廠」，他說，AI對人類的大貢獻便是「縮小技術鴻溝」，一般民眾就算不會程式語言，也能成為指令工程師，就像「我太太跟我說話時，她就在當我的指令工程師」。輝達執行長黃仁勳於GTC展會與技嘉集團總經理李宜泰相見歡。（圖／技嘉提供）有像黃仁勳這樣能言善道的AI教主，2023年一整年，AI概念在全球被炒得如火如荼，不少投資機構擔憂股市泡沫或過熱，特別是輝達股價從去年1月至今漲幅已高達450%。「AI有應用就不是泡沫」，美林證券亞太區硬體科技研究主管鄭勝榮表示，目前是AI發展初期，在主軸為布局基礎建設的軍備競賽下，第一階段以硬體受惠多，台灣供應鏈有多種解決方案和高價值專利權，將迎來5到10年的爆發期。「現在AI產業不只有一種、而是存在很多不同的解決方案，這是為何可以強調整個產業大繁榮的原因，」鄭勝榮表示，台灣科技產業經歷三波大週期循環，第一次是1980年代的PC產業，第二波是2006到2010年的智慧手機，現在是第三波AI浪潮，許多不同的業者都在開發平台，而台灣業者經歷多次的潮起潮落和洗牌，能撐到現在的都是「夠資格的供應商」。安聯投信也提到，2023年被視為深層式AI的元年， AI不僅影響科技產業，也顛覆其他產業，如藥物研發、農業等領域等，暫時未見泡沫化的可能性，且前景亮眼。
輝達新AI晶片地表最強 集邦：2025成主流醫療製造業先得利
輝達（NVIDIA）AI年度盛會「GTC 2024」在台灣時間19日登場，「AI教父」、輝達創辦人黃仁勳親自介紹 「Blackwell」架構平台，被點名的台灣供應鏈在21日股價相對強勁。調研機構集邦科技（TrendForce）表示，在成本與能耗大幅優化的前提下，這次推出的新產品有望在2024年底陸續上市，並於2025年成為市場主流，產業應用的發展核心以醫療、製造兩者為主，汽車產業有機會成為下階段發展重點。據TrendForce觀察NVIDIA GTC趨勢，今年亮點產品為Blackwell AI伺服器架構平台，輔以第二代Transformer引擎與第五代NVLink技術可支援高達10兆參數模型之AI訓練與即時LLM推理，並以此為基礎推出B100、B200與GB200等AI晶片，為市場AI應用預備。產業應用方面，NVIDIA GTC 2024產品服務涉及面向多元，但發展核心仍以醫療、製造兩者為重。以前者為例，NVIDIA此次針對醫療推出20餘項醫療專用生成式AI微服務（Microservices），同時亦更新BioNeMo模型以強化電腦輔助藥物開發；製造方面，則是推出適用於人形機器人的GR00T專案基礎模型，以及透過Isaac平台將生成式 AI 用於製造和物流應用。NVIDIA的基礎工具一般能適用於多元產業，TrendForce認為，聚焦醫療、製造的主因在於智慧化基礎高、轉型誘因強烈，且數據資料雖多且雜，但密閉空間相對好蒐集，加上模擬技術越趨成熟。因此，對於欲打造數據即服務（Data as a Service；DaaS）的NVIDIA而言，能將數據應用有效轉化為高附加價值的解決方案才是優先。在此前提下，隨著自駕車、電動車市場逐漸成熟，往智慧載體演化的汽車產業將有望成為下階段發展重點。由於台股21日開高走高，終場收在20199.09點，上漲414.64點，漲幅2.1%，成交量4860.02億元。做為Blackwell合作夥伴的台灣廠商股價都相對強勢，台積電勁揚26元，終場收在784元、漲幅3.43%，市值重登20兆元關卡；鴻海（2317）股價一度衝上145元，市值突破2兆元，最後收在142.5元、漲3.26%。其他像是台達電（2308）收在338元、漲幅逾6%；英業達（2356）收在56.2元、漲3.50%；廣達（2382）254.5、漲2.21%；推升相關電子類股指數上揚2.47%。