大型語言模型
」 AI 輝達 ChatGPT NVIDIA 蘋果![alt](https://static.ctwant.com/images/cover/47/359047/sm-769621ddac39c7e1e7c3645929283609.jpg)
老黃簡報提3次提「他」 APMIC帶AI解決方案反攻美國市場
今年台北國際電腦展COMPUTEX掀起AI教父、輝達(NVIDIA)執行長黃仁勳炫風,他在演講簡報提及的台灣公司股票都大漲一波,有一家軟體公司的名稱出現三次,那就是主打企業自主AI解決方案的台灣新創公司APMIC。APMIC創辦人暨執行長吳柏翰27日表示,旗下的大型語言模型「CaiGunn開講」將引進北美市場,讓企業擁有能力打造自己的AI大腦、人人輕鬆參與AI時代,協助全球企業邁向AI轉型。「CaiGunn開講」,名稱取自台語「聊天」發音,是APMIC團隊打造的在地化大型語言模型與平台框架。吳柏翰介紹,企業人員只要將現有的文章、網站或是文件資料上傳,不需寫任何程式,就能打造出地端的企業AI大腦,不上傳到雲端,所以不怕機密洩漏,每個員工都能一鍵套用、用對話的方式使用AI工具。「CaiGunn開講」已獲得Google、台北市政府、NEC、台塑生醫、中國信託銀行及亞太電信等800多家橫跨健康、製造、金融、航空、零售等產業採用,為企業服務效率提升超過30%,也是2023年全台唯一上榜全球知名開源語言模型平台Hugging Face百大排名的模型。輝達也在27日宣布推出四款全新NVIDIA NIM微服務,讓開發人員能輕鬆建置與部署高效能的生成式AI應用,針對地區需求量身打造,在台灣使用Llama 3-Taiwan 70B NIM微服務,可降低生產環境中運行模型的總成本,並減少延遲。輝達新聞稿提到,像是長庚醫院正在以此建置該院專屬的AI推論服務,集中管理醫院體系內的所有LLM應用;和碩用來開發內外部的應用,將這款微服務與旗下的AI系統整合,提升製造與營運效率。其他包括長春集團、欣興電子,媒體公司,以及線上合約服務公司律果科技與新創公司APMIC等都有在開放模型上進行合作。數據顯示,目前企業做AI生成,用小模型加上RAG準確率只能達到83.9%,若想更精準,就必須花更多的錢、買更大的設備與模型,但APMIC的技術就是用他們「微調」,使用輝達H100的顯卡,達到H200擁有的90%以上的精準度。吳柏翰表示,今年他到美國參加輝達的GTC大會時,發現美國雖然AI發展得早,但缺乏相關的框架業者,而他們已能跟輝達生態圈合作打團體戰,包括硬體、軟體與系統整合等廠商,進軍美國市場。
![alt](https://static.ctwant.com/images/cover/18/352118/sm-9f747d1fb6cd47e4e762572660d4eb8e.jpg)
劍指谷歌!OpenAI與多家新聞媒體出版商合作 計畫推出AI搜尋引擎「SearchGPT」
美國人工智慧研究實驗室「OpenAI」正在測試一款人工智慧(AI)線上搜尋引擎「SearchGPT」,其將使用生成式AI收集資訊並以對話的語氣回答問題和搜尋結果,幫助用戶更快、更輕鬆地找到他們的查詢內容,目前僅向一小部分用戶開放測試,且尚未透露正式的推出時間,預計「SearchGPT」最終可能會整合到「OpenAI」的「ChatGPT」聊天天機器人中。據科技雜誌《連線》(Wired)的報導,「OpenAI」發言人伍德(Kayla Wood)拒絕向《連線》提供演示新工具「SearchGPT」的詳細資料,但證實該公司已向若干合作夥伴和新聞媒體出版商取得訪問權限,並根據他們的反饋內容改進搜尋引擎的功能,此舉被外界解讀是正面劍指搜尋引擎龍頭「Google」。「OpenAI」的主要投資者微軟(Microsoft)是最早向大眾發布生成式AI搜尋引擎的公司之一,該公司於2023年把AI聊天機器人「ChatGPT」背後的人工智慧技術整合到旗下的網路搜尋引擎「Bing」,以及瀏覽器「Edge」中。微軟的人工智慧搜尋引擎現已更名為「Microsoft 365 Copilot」。隨後,「Google」以及由AI聊天機器人驅動的研究和會話搜尋引擎「Perplexity AI」等多個競爭對手,都向用戶推出了自己的AI搜尋服務。例如「Google」就在搜尋引擎中推出名為AI概述(AI overview)的新功能,替用戶一次整合所有搜尋結果,不需點擊多個連結。而「OpenAI」的「SearchGPT」則看起來與「Perplexity AI」更為相似,其聊天機器人可使用自然語言預測文字回答查詢,並使用網路來源產生答案,引用文字回應中的連結。「OpenAI」在2022年11月首次推出ChatGPT後,許多用戶看到聊天機器人從網路中挖掘和總結資訊的能力,預期AI聊天機器人有可能取代傳統的網路搜尋引擎。然而,大型語言模型(large language model,LLM)的缺點使得聊天機器人的搜尋功能不完全,這些模型所利用的訓練數據通常已經過時數月或數年,因此當不確定答案時,AI聊天機器人就會編造「錯誤的事實」。對此,「OpenAI」的「SearchGPT」可能會使用結合了搜尋檢索和生成能力的自然語言處理架構「檢索增強生成」(Retrieval-Augmented Generation,RAG),來降低聊天機器人的錯答率。透過RAG架構,人工智慧工具將引用可信任資訊,例如首選新聞網站,同時將產生搜尋結果的資料和數據來源。不過這個方法具有潛在的版權侵犯問題。例如「Perplexity AI」就遭到包括《連線》在內的網站或新聞媒體出版商的批評,因為其AI搜尋引擎涉嫌抄襲原創新聞網站的內容,並且刻意忽略資料來源。因此「OpenAI」改進了這項缺失,並對新聞媒體出版商承諾:「SearchGPT」將透過在搜尋結果中特別引用和連結到出版商的內容,讓用戶與出版商建立更多聯繫和瀏覽。據悉,包括沃克斯傳媒(Vox Media)、大西洋月刊(The Atlantic)、新聞集團(News Corp)和金融時報(Financial Times)在內的多家新聞媒體公司,今年都已與「OpenAI」簽署了內容授權協議。
![alt](https://static.ctwant.com/images/cover/86/347986/sm-a18eb2b03d2b9eb0d3171032a7d1cf7a.jpg)
輝達H100顯卡PChome賣139萬秒殺 網直呼:你還嫌貴早完售
近年來全球走入AI世代,而輝達NVIDIA H100 GPU近日在網購平台PChome開賣,售價為139萬,一開賣就秒殺,讓網友直呼,「當你還在那嫌貴的時候,商品早已完售。」據了解,NVIDIA H100 80GB Tensor 核心 GPU PCIe在PChome售價為139萬元。原PO在PTT發文,「不知道什麼時候上架的XD。」而下單還可以折2024元,讓他直呼佛心,「重整才發現已經賣完了QQ。」此文曝光後,網友紛紛留言「AI靠這張」、「未來一戶一張」、「要不是賣完了,不然我一定買」、「能24hr到貨嗎」、「一張一台車賺爛了」、「中國公司買來屯」、「當你還在那嫌貴的時候,商品早已完售」、「這東西塞的進我家電腦裡面嗎」、「聽起來買這個會變成穩賺不賠的投資」。據悉,近日馬斯克在X發文,新推出的AI聊天機器人Grok3會很特別,因為AI用10萬張H100晶片訓練。據悉,H100又稱Hopper,是輝達圖形處理單元,用於大型語言模型,而隨著AI發展逐漸進步,也成為科技公司搶購的資源。
![alt](https://static.ctwant.com/images/cover/90/341590/sm-1b4cf96f9f3a1b5b1fdc1769247b3312.jpg)
輝達建數據中心各縣市爭搶 經濟部長:2030年前有10座資料中心要建置
輝達(NVIDIA)要在台設第二座研發中心與數據中心,各縣市爭搶,經濟部長郭智輝今(5日)呼籲,除輝達外,還有許多數據中心要來,各縣市都有機會。據了解,他上任後積極到各供應鏈拜訪,已掌握2030年前應該還有10座資料中心要設置。他上任18天,期間積極拜訪國內產業與供應鏈,第一線與業者交換,因應AI浪潮,業者表示會籌設更多資料中心,包括外商與本土商。經濟部初步掌握,到2030年前應該還有10座資料中心會建置。至於是本地運算中心,還是要建構大型語言模型(LLM),目前還不確定。不過資料中心用電量很大,以G開頭的外商公司彰化資料中心相比,其一座每年耗電就高達8.4億度,相當龐大。相對如果是 輝達在高雄的「台北1號」超級電腦中心,每年耗電量約584萬度,衝擊就較小。對於資料中心龐大用電量。郭智輝說, 如果來5到6家數據中心,還可支持。但如果一次來10家,就要考慮怎麼最快支援它們需要的電。台電的規劃是大量增加綠電,會先從光電開始做,並透過儲電、水力抽蓄輔助。他強調蓋新燃煤電廠要6年,光電只要2年,這是最快辦法。但是民眾黨立委張啟楷提醒,風力發電在夏天最需要用電的 6到9月,卻是發電最低,其次太陽能也是不夠穩定的電 。如果要用燃氣新電廠,但四接、五接都還在環評 ,都有珊瑚生態、漁業經濟 、白海豚生態爭議,還不知道。
![alt](https://static.ctwant.com/images/cover/58/341458/sm-22b6b5194084b09b2763ef19178fb38e.jpg)
臺大醫院發展AI智慧醫療 數位護理師可望紓解人力荒
臺大醫院遠距照護中心在臺大醫學院副院長何奕倫教授帶領之下,致力於自然語言處理與生成式AI在遠距醫療的研究與應用。中心利用非結構式語音資料,整合生理資訊與電子病歷紀錄,藉由生成式AI的長處,協助遠距醫療的診斷、處置與風險分級預測。生成式AI結合語音、搜尋與生成式臉型等模型,可以實現數位護理師的功能。數位護理師將能分析語音、症狀與生理參數等綜合診斷、根據症狀給予非處方用藥或藥物調整建議,最後將對話過程自動總結,紀錄於電子病歷中。此計畫所開發的數位護理師,除了將對遠距醫療的進行有幫助之外,也可推廣至其他相關的臨床應用情境。臺大醫院影像醫學部AI團隊過去數年在結合心臟內科及臺灣大學的合作下,成功開發且無償捐給國民健康署用來篩檢國人心臟病的AI 診斷平台HeaorNet 成果豐碩,供全世界使用,讓世界看見台灣的貢獻 TAIWAN can help。同時,將進一步共同開發全球首個支援通用人工智慧(GAI)的RIS+PACS系統 - VSRad(Visual Studio Rad)。這個創新平台旨在滿足全球放射科醫生的未被滿足的需求,將基於網頁的整合開發環境(IDE)與專門為世界放射診斷專科量身定製的PACS(影像存檔和通訊系統)和RIS(放射資訊系統)功能相結合。VSRad系統將提供先進的功能,例如:自由文字自動完成、將自由文字轉換為定製的結構化報告、空間分配文字關聯、文字 - 圖像空間關聯 以及 自動背景搜尋相似病例的歷史記錄。這些功能將簡化放射診斷專科的工作流程、減少倦怠 並為 全球放射科醫生提供智能助手,以提高其工作效率和決策過程。胰臟癌是致死率最高的癌症,早期胰臟癌在電腦斷層攝影(CT)上不明顯,因而近四成小於兩公分的胰臟癌在 CT上難以被發現,常因而喪失治療機會。臺大醫院首創AI胰臟癌輔助偵測工具,能提高早期胰臟癌的偵測率。此創新除獲衛福部智慧醫材許可證,也榮獲美國FDA認證為「突破性醫療器材(Breakthrough Device)」,為首獲此殊榮的台灣AI醫療產品。以臺大醫院健康管理中心的亞健康世代長期追蹤資料與全醫療體系整合醫療資料庫的大數據,訓練開源大型語言模型,藉此將可充分運用個人多模式健康醫療資料,並協助醫護人員對各種非傳染性疾病進行動態風險預測並提供建議與臨床決策。臺大醫院早在2020年即導入兩部AI運算主機,建立醫療大型語言模型與多模態語言模型,開發智慧疾病分類編碼系統、報告撰寫助手、風險預測、問答系統等醫療場域落地應用,2024年結合醫療與人工智慧,帶領團隊打世界盃,將台灣醫療的影響力發揮到全球,為智慧醫療開啟嶄新的面貌。
![alt](https://static.ctwant.com/images/cover/45/341045/sm-55ff0e317672a12e9e8082dea799416c.jpg)
輝達擴大與中華電信合作 董座股東會宣布「每股配息4.758元」
輝達(NVIDIA)執行長黃仁勳上周抵台後行程備受關注,不僅和台積電(2330)董事長創辦人張忠謀、廣達(2382)創辦人林百里一同逛夜市,也與其他科技大佬會面,其中,中華電信(2412)董事長郭水義、總經理林昭陽也出現在宴客清單中。有消息傳出,「中華電信確定與NVIDIA擴大合作。」據消息來源表示,中華電信已向輝達購買DGX伺服器,未來將藉由開源LLM大型語言模型、檢索增強生成(Retrieval-Augmented Generation,RAG)等資源技術,發展並提供內外部AI應用服務。中華電信公司5月31日舉行113年股東常會,由董事長郭水義主持,承認該公司112年度營業報告書、財務報表及盈餘分配案,並通過公司章程修正案及解除董事競業禁止限制案。關於112年度盈餘分配案,股東會通過配發現金股利每股4.758元,配發金額合計新台幣36,909,930,661元。中華電信表示,112年現金股利維持近100%的配發率,未來仍將繼續維持穩定股利政策。今天中華電開盤127.5元,最高來到128元,不過最終收盤價為127元,跌幅0.78%。
![alt](https://static.ctwant.com/images/cover/9/340909/sm-18b4d84e193de902d745487fcf99988c.jpg)
「3兆男」只是開始! 外媒分析輝達股價繼續高歌猛進「6年後再翻2.5倍」
近期輝達(Nvidia)執行長黃仁勳來台參加Computex,同時還幫中職球團進行開球,寫下中職開球嘉賓中「身價最高」的紀錄。但有外媒報導指出,如今黃仁勳雖然身價已達到千億美元(折合新台幣約3.26兆元),但這僅僅是開始,多數分析師認為,輝達股價會持續高歌猛進,在未來6年內,公司市值會再翻2.5倍。根據《For Tune》報導指出,在過去的一年中,AI晶片領域的領頭羊輝達市值就飆升200%之多,截至5月31日,輝達的市值約為2.7兆美元,公司市值已經逼近微軟與蘋果。而I/O Fund 首席科技分析師貝絲(Beth Kindig)則預測,在未來數年內,輝達的市值將會再提升270%,公司市值會達到10兆美元。貝絲表示,由於近期AI熱潮,再加上訓練大型語言模型的資料中心很要求晶片,輝達計畫在今年內推出的Blackwell晶片,其效能被視為遠超早期的Hopper晶片。也因為如此,貝絲認為,輝達如今的榮景,只是一個很早期的開始階段。而且貝絲也預估,即便有AMD與INTEL的搶占,但輝達仍然能拿下最大部分的市場份額。至於輝達何時會達到公司市值的里程碑,貝絲推估,這個里程碑將在2030年內達成。
![alt](https://static.ctwant.com/images/cover/14/334814/sm-80faa3abf515eb154088a4d8f08247be.jpg)
不計代價開發通用AI OpenAI執行長:一年燒500億美元也在所不惜
美國人工智慧(AI)開發公司OpenAI執行長奧特曼(Sam Altman)日前在史丹佛大學發表演說時表示,他不計代價要成為首家開發「通用AI」(AGI)公司,即使一年要燒掉500億美元也不在乎,只要找到支付帳單的方法就會全力投入。奧特曼認為在開發AGI上,不管要付出多高代價都是值得。但他拒絕預測需要多少時間才能達成AGI目標。雖然有人因商業考量而擔心OpenAI在開發AGI上會投入過量資金,但他強調自己一點也不在乎要燒掉多少錢。他說:「不管我們要一年燒錢5億美元或50億美元,甚至是500億美元,我都不在,我真的不在乎。只要我們能找到支付帳單的方法,我們就會繼續開發AGI。其代價將是昂貴的。」AGI是研發AI領域裡的終極目標之一,要在各種領域與任務裡,具有能媲美甚至超越人類表現的系統,但其定義模糊。像馬斯克在指控OpenAI的訴狀中,就認為其大型語言模型GPT-4已達到AGI程度。雖然OpenAI的聊天機器人ChatGPT表現讓人驚豔,但奧特曼認為ChatGPT表現並不驚人,充其量是令人有點不好意思。外界認為其說法有點太過自貶,但也可能是其對於OpenAI目前研究計劃仍未能商業化的一種回應。在開發AGI的過程裡,如何讓大眾了解AI的發展程度,和讓包括OpenAI等AI開發商明白到外界對AI的期待,對於促使社會與AI一起共同演進來說是十分重要。奧特曼舉例,若AI是默默地研發而外界對此不了解,這肯定不會被大家接受。跟砸鉅資開發相比,他更擔心社會能否適應其公司在AI上取得的進展,所以AI突飛猛進至令人驚訝程度其實並不適合。因為大家希望AI成果是逐步推出,讓人有能力去駕馭這些系統。
![alt](https://static.ctwant.com/images/cover/31/333431/sm-bcd59d5b39d3cb61d96c5153a7fcdf63.jpg)
聯發科聚焦AI應用 三大外資目標喊上1300元
IC設計龍頭廠聯發科(2454)日前預估第二季營收將季減9%。外資雖示警中國智慧型手機庫存調整較預期嚴重,但看好聯發科有望在AI轉型路上成要角。三大外資出具最新報告,維持原評等,目標價最高來到1300元。今天(29日)聯發科股價開高震盪,截至發稿上漲0.5%來到1010元。聯發科將在下半年推出新的天璣9400晶片,市場聚焦聯發科AI轉型策略。該晶片擁有更強大的AI運算單元,支援至少7B或13B參數的LLM(大型語言模型),在生成式AI帶動下,有望佔營收比逾5成。美系外資高盛指出,預計聯發科今年營收成長將達到15%左右,管理層尤其對智慧型手機高階市場充滿信心,估將貢獻今年營收年增5成以上,而且聯發科技預計下半年推出新一代Dimentisy 9400,採用台積電N3處理器,對AI ASIC TAM的積極態度逐漸增強,因此調高目標價至1300元,維持買進評等。另一美系外資大摩指出,中國手機庫存調整比預期嚴重,但聯發科也服務於其它新興市場,因此看好下半年隨時都可能出現強勁的庫存補貨,且智慧型手機出貨結構正在向高端市場轉移。大摩預估下半年旗艦款天璣9400可支援更多AI應用,平均售價將達到140美元,因此重申聯發科優於大盤評級,並調高目標價至1288元。大和資本則表示,聯發科第一季的業績強勁,但第二季的前景黯淡,雖然智慧型手機銷量下降,但對聯發科結構性業務的積極看法仍好。並強調,過去兩季供應商積極推動AI智慧型手機的更換需求,導致聯發科捕獲強勁,隨著需求可視性的提高,預計今年收入將以美元計算至少成長15%,因此重申買進評等,目標價1155元。
![alt](https://static.ctwant.com/images/cover/8/333408/sm-9775b6535f5bcb87c8e5608505910f13.jpg)
iOS 18預計今年內推出 各大功能全面翻新「堪稱歷代變化之最」
在2024年6月即將登場的蘋果開發者大會,外界預計iOS最新作業系統iOS 18會在這次的展期中登場。雖然目前針對iOS 18的變化並沒有一個明確的定數,但《彭博社》的科技專欄線作家古爾曼(Mark Gurman)認為,這次iOS 18的變革可能可以說是「劃時代」的更新,其中的變化有可能成為「歷代之最」,當中也有不少涉及到AI人工智慧的功能,以及許多傳統的功能將會迎來大幅度的更新。根據《macrumors》報導,他們將目前坊間傳聞有關於iOS 18的全新功能與變革做個整理,方便各位讀者做個初步的理解:AI功能在生成式AI普及的如今,蘋果為了趕上Google、微軟,甚至是挑戰OpenAI等已經具有AI優勢的公司,蘋果先前就宣布要在大語言模型的研究所需的硬體上投資超過10億美元,在iOS 18中也傳聞會內建許多AI功能來增強原有軟體的能力,像是在Apple Music中,蘋果能提供自動生成的Apple Music播放列表,在Pages和Keynote等軟體中,可以提供AI輔助的寫作和簡報的製作功能。但目前蘋果的計畫是讓AI功能直接在本地端的設備上運作,不仰賴雲端伺服器,因此AI功能的問世,可能僅侷限在某些搭載強力晶片的機種上,像是iPhone 16。至於是否會放置生成式聊天機器人進入iOS 18中,目前外界傳聞是會有,但並非是蘋果自家研發,極有可能選擇使用Google或是OpenAI的技術。蘋果正與Google討論將Gemini AI引擎整合到iOS 18的iPhone中,也與OpenAI進行談判,研究如何將OpenAI和Google的AI功能整合到操作系統中。Siri目前已經確定,蘋果會在iOS 18中導入AI,其中最直接影響的,就是蘋果的語音助理Siri,外界傳聞,蘋果會使用大型語言模型(LLMs)徹底改造Siri,古爾曼也提到,蘋果目前正在開發一套軟體,可以改善Siri與Messages之間的互動,這讓Siri有機會以高效的方式完成、回答複雜的語句。除此之外,外界也傳聞,為了讓導入AI的Siri能夠擁有更自然的對話能力,以及改善用戶的使用體驗,未來這項功能可能會允許Siri從每個設備中備份對話訊息到另外一個設備。主螢幕據傳聞在iOS 18中,用戶將擁有更多的選擇來自定義自己的桌面,讓使用者能依照自己的習慣、喜好,創建更多專屬於自己風格的桌面。Apple Maps在iOS 18中,蘋果地圖傳聞會有定義路線的功能,像是用戶可以輸入自選路線給蘋果地圖,而並不會侷限蘋果提供的預設選項,自定義路線將允許用戶可以基於想欣賞風景,還是想趕路來設定前進路線。Notes預計iOS 18的Notes將支援在程式中直接錄製語音備忘錄,錄音可以嵌入到筆記中,目前外件還傳聞未來會支持顯示數學符號,以包括更多類型的方程式到筆記中。與Android用戶的文字通訊Apple 將在「2024年稍後」採用RCS服務標準作為 SMS/MMS 的替代方案。iMessage還是會保留,未來會用於iOS裝置間的預設對話,但 RCS 將以多種方式改善 iPhone 至 Android 的對話。從 iPhone 向 Android 用戶發送照片和影片將不再出現錯誤,且群組聊天的性能將得到提升。功能如跨平台表情反應、已讀通知和即時打字指示也在新增功能的行列中。無障礙功能外界傳聞Apple正為iOS 18和macOS 15開發新一個自適應語音快捷方式的無障礙功能。該項功能將讓用戶創建一個自定義短語,然後選擇一個無障礙設置與該短語連接。說出該短語後,就可以啟動無障礙選項,如 VoiceOver、Voice Control、Zoom 等。兼容性iOS 18 預計將運行在所有能夠運行 iOS 17 的 iPhone 上,包括 iPhone XR、iPhone XS、iPhone SE 2 及更新型號。iOS 18相關日期 將在 6 月 10 日的全球開發者大會上首次亮相。WWDC 之後,iOS 18 將提供給開發者進行測試,公開測試版可能在 7 月某個時間推出。
![alt](https://static.ctwant.com/images/cover/89/333289/sm-b2896ff7448ffdc91c07c9194c1fb373.jpg)
iPhone將引入AI功能? 傳蘋果與OpenAI和谷歌進行談話
據知情人士透露,蘋果已重啟與OpenAI的談判,打算使用這家新創公司的技術來為今年下半年推出的iPhone的一些新功能提供支持。外媒引述知情人士消息報導,兩家公司已經開始討論可能達成的協議的條款,以及OpenAI的功能將如何整合到蘋果的下一代iPhone操作系統iOS 18中。此舉標誌著兩家公司重啟對話。今年早些時候,蘋果曾與OpenAI就一項交易進行過談判,但自那以來,雙方的合作一直很少。與此同時,蘋果據稱還在與Alphabet旗下的谷歌就授權使用後者的Gemini聊天機器人進行談判。有鑑於此,不難看出蘋果還沒有最終決定將與哪家公司進行合作,也不能保證會達成協議。該公司有可能最終與OpenAI和谷歌均達成協議,或者完全選擇另一家供應商。今年早些時候還有報導稱,蘋果在與人工智慧新創公司Anthropic進行討論。蘋果準備在全球開發者大會上推出新的人工智慧軟體和服務。蘋果CEO庫克(Tim Cook)此前承諾,公司今年將在人工智慧領域取得重大突破,而即將發佈的iOS 18被認爲是實現這一目標的重要途徑之一。據了解,Siri預計將成為iOS 18人工智慧改進的受益者之一。此前有消息人士透露,蘋果計劃利用大型語言模型全面革新Siri,使其成爲「終極虛擬助手」。另有媒體報導稱,蘋果正在開發的一項具體功能是改善Siri與訊息應用的交互,例如讓Siri更有效地自動完成句子並回答覆雜問題。去年,庫克表示,他個人使用OpenAI的ChatGPT,但有許多問題需要解決。他承諾,新的人工智慧功能將在非常周到的基礎上進入蘋果的平台。有分析人士指出,依靠合作伙伴將有助於蘋果加速進軍聊天機器人領域,並避開一些風險。通過將生成式人工智慧功能外包給另一家公司,庫克可能會減輕其平台的責任。
![alt](https://static.ctwant.com/images/cover/70/333070/sm-95451d1adc4c77fc93c9aa92f090e1a5.jpg)
輝達在台設亞洲首座AI研發中心!2年聘用400人 經濟部:對我人才素質滿意
AI大廠輝達(NVIDIA)前年來台設首座亞洲AI研發中心,總投資金額243億台幣,至今已僱用400名員工。經濟部技術司26日表示,輝達目前研發順利,也將協助我廠商進行AI應用開發,對我人才素質感到滿意,相信將來會有在台設第二座研發中心考量。輝達是2021年申請人工智慧創新研發中心計畫,經濟部補助67億元,2022年起台灣AI研發中心成立,地點設在台北內湖,同時承諾2027年要僱用到1000名員工。這座亞洲第一個研發中心,主要進行AI晶片研發與GPU圖形處理器,還建立了全台最大的超級電腦「Taipei 1」,日前經濟部代為宣布,「Taipei-1」要免費提供AI算力給產官學研究與新創作研發使用,可幫助我國投入生成式AI、大型語言模型、數位孿生等前瞻研發。經濟部技術司長邱求慧說,輝達在台投資計畫不只設研發中心,還包含分享超級電腦資源給業界,並參與台大、清大的AI人才培育,已有6、700人受惠。另外,讓我研究機關、產業界參與AI技術與產品研發專案,支持中小企業與新創導入AI應用等。技術處官員表示,已對輝達研發中心做了三次驗證,2年來已聘用400人,都符合當初計畫要求。目前輝達對台灣人力素質與成本都表示滿意,相信未來會考慮在台設第二座研發中心。對輝達創辦人黃仁勳選擇台灣,邱求慧說明,主要是台灣在硬體、基礎建設、人才方面都有優勢,人才具高度專業和工作紀律,加上半導體生態體系完整等。輝達研發中心除了帶動對台投資外,官員表示,也具有提升台灣研發能力效益。該中心目前運用GPU技術,與台灣廠商共同進行AI應用開發,聚焦在人工智慧領域,包括鑑別式AI和生成式AI。其他還有與國內ICT業界的研發合作,協助我推動智慧工廠轉型。
![alt](https://static.ctwant.com/images/cover/57/330557/sm-f2a308d56bbbba37e4ceb714fc8ed9a6.jpg)
繁中守護者2/母湯是一種清湯?專家測試8萬字資料Breeze運算跑第一「OpenAI不友善」
全世界最強繁中大型語言模型LLM問世,「MR BreeXe針對中文特殊情境優化,所以速度提升1倍,布建成本下降一半。」聯發創新基地資深技術經理陳宜昌告訴CTWANT記者。目前全世界有中文參數的LLM模型,包括歐美科技業者投資OpenAI的ChatGPT、Google的Gemini,Facebook母公司Meta推出的LLaMA,中國有百度的「文心一言」等,但大多以簡體中文的內容為主。究竟聯發科推出的繁中LLM功力如何?業內專家ihower用數發部的政府報告、管理學講義共8萬多字做壓力測試,結果發現聯發科在Tokenizer (分詞器)上的調整相當「有感」。ihower表示,一樣的文本,若能用比較少的 Tokens 數來表示,推論速度會比較快、成本也會比較划算,畢竟計價也是用Tokens數計算的。「以OpenAI為基準,聯發科的Breeze大約節省50%的Tokens數、運算更快,而Google Gemini大約節省46%,Llama 2甚至比OpenAI差、多增加了20%。」「OpenAI的Tokenizer對繁體中文真的很不友善啊!」ihower說。華碩營運長暨台智雲董事長謝明傑曾表示,OpenAI模型「大部分是英文腦,中文的腦相當少」,繁體中文資料比例低於0.1%,簡體中文資料不超過2%,但以數量來說,也相當於超過繁體中文20倍的量。GPT-4在中文領域的回答仍有侷限性。(圖/記者黃耀徵攝)同樣是中文LLM,為何要另外做出繁體中文的版本?成功大學資工系教授黃敬群向CTWANT記者解釋,因為AI是「生成」,而且不斷「演化」,一般人不會知道內容出自哪裡,就會出現文化衝擊問題,「現在很多大學生的作業、學者論文,甚至是媒體報導的內容,用AI輔助後出現大量中國式用語與邏輯思維,而非台灣行之有年、大量專家學者累積並完成的知識與術語,但使用者可能都沒發現。」如果不喜歡抖音文化,可選擇不看,但在AI時代,因為資料量的差異,中文世界會整個傾斜倒向中國大陸的邏輯思維,所以聯發科做繁體中文模型時「開源」公開程式碼,讓全世界的人去使用,以台灣思維為主的中文知識,才有機會進入AI時代的大腦資料來源。聯發創新基地在台大、倫敦、劍橋都有據點,一起研究AI。(圖/翻攝自聯發創新基地官網)除了解析中文語句的速度快,陳宜昌舉例,如果用Mixtral詢問「母湯」,他會說「是一種中國傳統的食物,通常是一種清湯或魚羹。」但在BreeXe上,就會說這是「台語的諧音梗,源自於沒關係,但在網路流行語中被用來否定、或是不正確的意思。」聯發創新基地負責人許大山跟CTWANT記者說,會取名為BreeXe,除了致敬Mixtral原本「西北風」意思,也希望他像breeze一樣的徐徐微風、廣泛吹進大家的電腦裡,讓人有如沐春風的感覺。一般人可能看不見、摸不著,但是這股以科技人為首的夢想與使命的風已經悄悄吹起來了。
![alt](https://static.ctwant.com/images/cover/40/329040/sm-68d22b3ada6d66cf14cab0232684ee83.jpg)
終獲拜登政府66億美元補助 台積電加碼宣布在美建第三廠共砸650億美元
台積電(2330)將在18日舉行法說會,但8日宣布,已與美國商務部簽署備忘錄,基於《晶片與科學法》(CHIPS and Science Act),TSMC Arizona將獲得最高66億美元的直接補助,台積電同時宣布計畫在TSMC Arizona設立第三座晶圓廠,透過在美國最先進的半導體製程技術來滿足強勁的客戶需求。美國商務部表示,這三座晶圓廠預計將創造約6000個直接的高科技工作機會,以及2萬個建造工作機會、與數以萬計間接供應商和消費端的工作機會,其他14家台積電直接供應商,也計劃在美國建造或擴建工廠。台積電表示,目前在亞利桑那州的第一座晶圓廠於完工方面取得良好進展,第二座晶圓廠則持續建設中,而第三座晶圓廠的設立計畫加入,將使台積電在亞利桑那州鳳凰城據點的總資本支出超過650億美元,成為亞利桑那州史上規模最大的外國直接投資案,也是美國史上規模最大的外國在美直接綠地(greenfield)投資案。台積電董事長劉德音表示,「《晶片與科學法》為台積公司創造了機會,推動這項前所未有的投資,使我們能以在美國最先進的製造技術提供晶圓製造服務。台積公司在美國的營運讓我們能更好地協助我們的美國客戶,這其中包括了數間全球領先的科技公司。我們在美國的營運更將擴大我們的能力,以引領半導體技術的未來進步。」台積電總裁魏哲家表示,「我們很榮幸能夠支持那些身為行動裝置、人工智慧和高效能運算領域的先驅者,無論是在晶片設計、硬體系統或是軟體、演算法及大型語言模型的方面。他們是帶動最先進矽需求的創新者,而這些是台積公司所能提供的。作為他們的晶圓製造服務合作夥伴,我們將藉由提升 TSMC Arizona 在先進製程技術上的產能,來幫助他們釋放創新。」台積電表示,TSMC Arizona的第一座晶圓廠將於2025年上半年開始生產4奈米製程技術,第二座晶圓廠有2奈米製程技術預計於2028年開始生產,第三座晶圓廠預計將採用2奈米或更先進的製程技術進行晶片生產。超微董事長暨執行長蘇姿丰、Apple 執行長 Tim Cook和輝達創辦人暨執行長黃仁勳都發表了祝賀詞。
![alt](https://static.ctwant.com/images/cover/31/324931/sm-87907877edef3ef45476fe188dab3d48.jpg)
全球看見台灣 輝達最強晶片發布會「這一家」鏡頭最多
全球AI晶片龍頭輝達NVIDIA,台灣時間19日在美國舉行萬眾矚目的年度大會「GTC 2024」,創辦人暨執行長黃仁勳介紹新一代AI平台Blackwell,以及建構的GB200晶片,為台積電(2330)4奈米製程;他表示這將成為推動新工業革命的引擎;在長達兩小時的專題演講中,黃仁勳不但用台灣的颱風AI預測影片,讓世界看到台灣,也用影片介紹緯創的智慧工廠。其他被點名的台廠今日股價都相對抗跌。這次推出的GPU晶片,可由2顆B200與現有的Grace CPU組合成GB200 Superchip超級晶片,由台積電4奈米製程客製化製造。Blackwell是全新的平台,支援AI訓練和即時大型語言模型推理,模型可擴展至10兆個參數,而成本和能耗比其前身低25倍,有助於在資料處理、工程模擬、電子設計自動化、電腦輔助藥物設計、量子運算和產生人工智慧方面實現突破,成為輝達創造新興產業的機會。黃仁勳也在大銀幕上介紹台灣的供應鏈,除了台積電之外,包括鴻海(2317)、華擎旗下永擎、華碩(2357)、技嘉(2376)、英業達(2356)、和碩(4938)、雲達科技、緯創(3231)、緯穎(6669)等公司。被點名的公司中,和碩一舉攻上漲停收在100元,緯創漲2.08%、英業達漲0.72%、鴻海收平盤136元。這次輝達發表會上推出的影片,特別宣傳了一下緯創資通,緯創表示,透過輝達NVIDIA Omniverse和NVIDIA Modulus構建數位孿生平台,實現工廠與製造數位轉型,也強化了預測未來生產場景的能力。緯創表示,利用Omniverse 軟體開發平台的功能,建立動態且高效的模擬生產現場,優化製造過程的各個環節,也讓緯創建立新的工廠時,針對先期的layout規劃與工廠建置調整所需的時間,減少約2個月的建廠時間,透過導入Omniverse Simulation技術,緯創工廠的生產線效率也顯著提高51%。黃仁勳也展示「Earth-2氣候數位孿生雲平台」,是與台灣的中央氣象署及IBM子公司The Weather Company合作,將生成式AI應用在預測天氣上,採用輝達CorrDiff的新型生成式AI模型,透過學習高解析度資料集,學習精細的尺度及當地氣候原理,除了能以視覺化建立模擬天氣和氣候,還可以協助用戶在短短幾秒鐘之內發布警告和更新預報。