超級計算機
」 人工智慧微軟擬與OpenAI聯手 開發1000億美元AI超級計算機
微軟和OpenAI欲聯手打造1000億美元AI超級計算機「星際之門」。據外國媒體報導,OpenAI正密切規劃一個雄心勃勃的數據中心項目,旨在建造一台名為「星際之門」(Stargate,以一部科幻電影命名)的AI超級計算機。該計算機將配備數百萬個專用服務器晶片,從而為OpenAI的AI技術提供強大動力。AI超算Stargate項目的耗資是目前一些最大數據中心成本的100倍,微軟將承擔資金投入,最終可能需要多達5千兆瓦電力。它將成為微軟未來六年計劃建造的最大項目之一。微軟和OpenAI將這些超級計算機分五個階段,其中第五階段就是Stargate,雖然這個代號最初是由OpenAI提出的,但據一位參與者透露,它並不是微軟官方使用的項目代號。目前,微軟正為OpenAI開發一個較小的第四階段超級計算機,計劃在2026年左右啓動,該階段的花費遠低於Stargate。據悉,公司高管們計劃最早在2028年啓動Stargate項目,並希望在2030年之前逐步擴大該項目的規模和範圍。而且,該項目預計耗資高達1000億美元,這是目前一些最大數據中心成本的100倍。微軟將承擔項目的資金投入,且項目的大部分成本將用於購買構建超級計算機的關鍵部位「晶片」。據參與者透露,微軟還計劃在該項目中使用輝達製造的AI晶片。一旦Stargate項目得以實施,這臺AI超級計算機將擁有比現有計算資源高出幾個數量級的計算能力,而且星際之門也將成為公司未來六年內計劃建造的最大項目之一,展現了微軟對推動AI技術發展的堅定信心。知情人士稱,AI前景難以預測,即使強大如OpenAI去年也未能交付其向微軟承諾的新模型。因此,微軟是否願意繼續實施Stargate項目,部分取決於OpenAI能否顯著提升其AI能力。儘管如此,OpenAI首席執行長奧特曼(Sam Altman)公開表示,限制AI發展的主要瓶頸是缺乏足夠的服務器資源。而且要運行這樣一個超級計算機,能源供給是大問題。因為它將需要消耗至少數千兆瓦的大量電力,這相當於好幾個大型數據中心所需的電力總和。參與討論的人士指出,到項目最終階段,這台超級計算機可能需要多達5千兆瓦的電力。數據中心運營商Digital Realty的首席技術官Chris Sharp表示,這樣的項目對於實現人工通用智慧是絕對必需的。雖然按照當前的標準,Stargate項目的規模似乎難以想象,但他認為一旦這樣一臺超級計算機建成,其規模和性能所代表的數字將不再讓人感到震驚。該項目尚未獲批且計劃可能變化。迄今為止,微軟已向OpenAI投資逾130億美元,使該新創公司得以利用微軟的數據中心支持ChatGPT及其對話式AI背後的模型。作為交換,微軟獲得了OpenAI技術的祕密和獨家轉售權。同時,微軟還將OpenAI的軟體整合到了Office、Teams和Bing的新AI Copilot功能中。
利潤、股價創紀錄!矽谷科技巨頭卻仍在裁員 業內人士曝主因
經歷了1年的大規模裁員後,美國科技巨頭的裁員潮在2024年的第一個月悄然展開。儘管這些企業銷售額和利潤大幅增長,股價飆升,裁員卻仍在繼續。科技業內人士指出,這種落差反映了該行業面臨的2大挑戰:一方面要改變疫情期間瘋狂的勞動力擴張,另一方面又要積極進軍人工智慧(AI)領域,導致更多人力被AI取代。綜合《紐約時報》、《每日郵報》的報導,利潤創歷史新高的Google,在上個月裁員了銷售、硬體和工程部門中大約1000名員工。無獨有偶,亞馬遜年初也在Prime的影片部門裁減了數百個工作崗位;Facebook母公司Meta則悄悄地精簡了中層管理人員;微軟更是在影片遊戲部門裁員了1900人。據統計,亞馬遜、微軟、Discord和eBay等AI領域的主要投資者在過去1年內就解雇了數萬名員工。 不過根據Google報告稱,該公司2023年第4季獲利207億美元,較前一年成長52%,但員工數卻減少了4%。儘管銷售額和利潤大幅增長、股價飆升,但裁員卻仍在繼續。對此,科技業內人士分析,這種落差反映了該行業面臨的2大挑戰:一方面要改變疫情期間瘋狂的勞動力擴張,另一方面又要積極進軍AI產業,培養相關人才及購買昂貴的圖形處理器(GPU)晶片。從2019年底到2023年,民眾因為疫情,不管是工作還是生活,都只能宅在家,這導致上網時間也大大增加。因此科技公司爭先恐後地跟上消費者需求的爆炸式增長,光蘋果、亞馬遜、Meta、微軟和谷歌的母公司Alphabet,總共就增加了90多萬個就業崗位。然而疫情結束後,他們被迫進行調整。Meta、亞馬遜、微軟、谷歌和蘋果分別在2021年和2022年削減了約11.2萬個工作崗位。但與疫情開始之前相比,它們的規模和利潤仍然大上許多,如今這5家公司僱傭了216萬人,比疫情前增加了71%。科技巨頭們不再每個季度都招聘數千名員工,而是投入數十億美元到人工智慧技術的開發。(圖/達志/美聯社)這導致這些公司不再每個季度都招聘數千名員工,而是投入數十億美元到人工智慧技術的開發,例如蘋果正在招聘AI工程師,並正在開發自己的AI產品,預計於今年晚些時候發布。這些科技巨頭還斥資鉅額購買訓練和構建人工智慧系統所需的昂貴晶片和超級計算機。到今年年底,Meta預計將從晶片製造商NVIDIA購買35萬個專用晶片,每個晶片的成本估計為3萬美元。而這都是因為公司高層認為AI有朝一日可能價值數兆美元。但底下員工卻對此嗤之以鼻,Google軟體工程師Diane Hirsh Theriault在LinkedIn寫道:「目光呆滯的領導人試圖指引出人工智能這個模糊的方向,並同時殺死他們的金雞母。」Google母公司Alphabet的工會也在X平台上發文稱:「今晚,谷歌開始了另一輪不必要的裁員。」根據Layoffs.fyi的數據顯示,自2023年5月以來,AI已導致4600個工作崗位流失,今年迄今已有159家科技公司裁員近41800名員工。然而,最大的科技公司也都在爭相招聘工程師來構建AI系統。根據CompTIA的數據,去年美國有18萬個與人工智慧相關的工作崗位,包括軟體開發、半導體工程和雲計算方面等職位。對此,擁有科技招募平台Dice的DHI集團執行長Art Zeile也表示,「總的來說,這些公司正在減少不成功的產品線或相關部門的員工數量,因為他們希望為人工智慧重新定位。」谷歌首席執行官Sundar Pichai也坦言「現實是,為了創造這項投資,我們必須做出艱難的選擇。」
特斯拉股價跌跌不休!今年已跌24% 華爾街熱議:該踢出科技七雄?
自2022年以來市值一直長期高於社交媒體巨頭Meta的電動車品牌特斯拉,如今卻被前者遠遠甩在身後。Meta股價上周五(2日)收漲20.32%,觸及474.99美元的歷史新高;相較之下,特斯拉股價則在今年一路暴跌,累計跌幅已達約24%。目前Meta的市值已達1.21兆美元,是特斯拉市值的兩倍之多。所謂的美股科技七雄(蘋果、微軟、亞馬遜、谷歌母公司Alphabet、Meta、輝達、特斯拉)在去年曾上演了一輪異常兇猛的漲勢,並在推動美股創下歷史新高的過程中是大功臣。然而,目前不少華爾街人士表示,特斯拉股票最近的暴跌,似乎已開始威脅到了其在這一巨頭組合中的地位。華爾街正熱議該不該把特斯拉「踢掉」。有分析師表示,眼下美股的格局似乎更像是「六雄」(Magnificent 6)。他指出,特斯拉正面臨著很多問題,包括來自中國電動汽車製造商的競爭、降價、利潤縮水等。就連馬斯克自己也曾坦言,Dojo超級計算機是一個遙不可及的目標。從基本面看,借貸成本高漲、政府補貼減少導致需求減弱,以及跨區域的大降價,都是這家電動汽車龍頭正面臨的挑戰。先前舉行的業績會議上,特斯拉CEO馬斯克便曾親自警告稱,儘管已經犧牲利潤降價以吸引消費者,但今年的銷量增長將放緩,這引發了投資者人的擔憂。事實上,在「七雄」的稱呼流行之前,投資者還曾提出過FANG的說法,最初指的是Facebook、亞馬遜、網飛和谷歌,後來又變成了包括蘋果在內的FAANG。不少機構投資者表示,下一個「代替」特斯拉的巨頭,很有可能是一家將AI蓬勃發展的趨勢成功貨幣化的公司。一些人認為,美國通信晶片巨頭博通(Broadcom)似乎是一個不錯的選擇。從市值排名來看,博通目前在全球企業市值榜單中的排名也僅次於特斯拉,兩者的市值差距僅有約250億美元。除了博通外,另一個市場寵兒是AMD,該公司是輝達的主要競爭對手,為人工智慧所需的所有GPU生產晶片,去年的市值躍升了兩倍多。另有分析師表示,雖然AMD的市值與特斯拉相比相形見絀,但它仍可能脫穎而出,因其是當前這輪AI革命的另一大受益者。
擺脫輝達獨霸? 6大科技巨頭群起自研AI晶片
據科技媒體The Information昨天(7日)引述知情人士消息報導,微軟、OpenAI、特斯拉、谷歌、亞馬遜、Meta這六大科技公司正在研發自家的AI晶片,預計會與輝達(Nvidia)的旗艦級微處理器H100 GPU競爭,且可能有助於降低成本及減少對輝達AI晶片的依賴。輝達如今已是當之無愧的「AI算力王者」,A100/H100系列晶片佔據金字塔頂部的位置,但用戶面對輝達的獨霸天下,吃盡了成本高昂的苦頭。據華爾街投行伯恩斯坦(Bernstein)的分析,ChatGPT單次查詢的成本約4美分(約新台幣1.2元),若要將搜尋量增長到谷歌的十分之一,每年將耗費約481億美元的GPU,以及約160億美元的晶片來維持運行。所以無論是為了降低成本,還是減少對輝達的依賴、提高議價能力,科技巨頭們都紛紛下場自研AI晶片。微軟計劃在下個月的年度開發者大會上,推出該公司首款為人工智慧(AI)設計的晶片。事實上,The Information曾報導過,微軟自2019年以來就一直在開發一款代號雅典娜(Athena)的專用晶片,用於為大型語言模型提供動力。該晶片將由台積電代工,採用5nm先進製程,計劃最早於明年推出。有分析師表示,開發類似於雅典娜的晶片可能每年需花費約1億美元,ChatGPT每天的營運成本約70萬美元,大部分來源於昂貴的服務器,如果雅典娜晶片與輝達的產品擁有同等競爭力,每個晶片的成本將可以降低三分之一。OpenAI也正在探索製造自研人工智能芯片,並已開始評估潛在的收購目標。報導稱,至少從去年開始,OpenAI就已討論各種方案,以解決AI晶片短缺問題。OpenAI已與包括輝達在內的其他晶片製造商更密切地合作,以及在輝達之外實現供應商多元化。電車大廠特斯拉則立足於智能駕駛,目前已經推出了兩種自研晶片,分別為全自動駕駛(FSD)和Dojo D1晶片。FSD晶片用於特斯拉汽車上的自動駕駛系統;Dojo D1晶片則用於特斯拉超級計算機Dojo片,它是一種通用的CPU,目的是為了加速特斯拉自動駕駛系統的訓練和改進。谷歌也早在2013年,就已祕密研發一款專注於AI機器學習算法的晶片,並將其用在內部的雲端計算數據中心中,以取代輝達的GPU。這款自研晶片「TPU」於2016年公諸於世,可以為深度學習模型執行大規模矩陣運算,例如用於自然語言處理、計算機視覺和推薦系統的模型。谷歌實際上2020年便已在其數據中心部署了AI晶片TPU v4。不過直到今年4月才首次公開了技術細節。亞馬遜從2013年推出首顆Nitro1晶片至今,AWS是最先涉足自研晶片的雲端廠商,已擁有網路晶片、伺服器晶片、人工智慧機器學習自研晶片3條產品線。AWS自研AI晶片版圖包括推理晶片Inferentia和訓練晶片Trainium。2023年初,專爲人工智慧打造的Inferentia 2(Inf2)發佈,將計算性能提高了三倍,加速器總內存提高了四分之一,可通過晶片間的直接超高速連接支持分佈式推理,最多可支持1750億個參數,這使其成為大規模模型推理的有力競爭者。Meta直到2022年,還主要使用CPU和專為加速AI算法而設計的訂製晶片組合來運行其AI工作負載,但CPU的效率往往不如GPU。後來Meta取消了於2022年大規模推出訂製晶片的計劃,轉而訂購了價值數十億美元的輝達GPU。為扭轉局面,Meta已經在開發內部晶片,並於5月19日公布了AI訓練與推理晶片項目。據介紹,該晶片的功耗僅為25瓦,佔輝達等市場領先供應商晶片功耗的一小部分,並使用了RISC-V(第五代精簡指令處理器)開源架構。
台積電押注矽光子晶片 將成下一波AI風潮
雖然今年全球半導體產業表現受到高利率、通膨壓抑,但全球半導體龍頭廠台積電(2330)正在大舉押注新興半導體領域「矽光子晶片」。據媒體報導,台積電瞄準明年即將到來的矽光子超高速晶片商機。報導稱,台積電不僅正在積極推進矽光子技術,還在與博通(Broadcom)和輝達(Nvidia)等大客戶進行談判,共同開發以該技術為中心的應用。此次合作旨在生產下一代矽光子晶片,相關製程技術涵蓋45nm至7nm,預計最快將於2024年下半年開始迎來大單。台積電副總經理余振華此前表示,若能提供良好的矽光子整合系統,台積電就可以解決AI的能源效率和計算能力的關鍵問題。這將是一個劃時代的轉變。他認為,一個更好、更集成的矽光子系統是運行大型語言模型,和其他人工智能計算應用程式所需的強大計算能力的驅動力。積體電路是將上億個電晶體微縮在一片晶片上,進行各種複雜的運算。矽光子則是積體光路,是在矽的平台上,將晶片中的「電訊號」轉成「光訊號」,進行電與光訊號的傳導。矽光子最大的優勢在於能提升光電傳輸的速度,解決目前電腦元件使用銅導線所遇到的訊號耗損及熱量問題,因此被認為是新一代半導體技術。矽光晶片顯然已成爲半導體行業的一個密集投資領域,不只是英特爾、思科和IBM,輝達也在2021年以69億美元現金收購了跨國計算機網絡產品供應商Mellanox Technologies。眾多科技公司都在關注其在數據中心、超級計算機和網路設備、無人駕駛汽車和國防雷達系統等各個領域的潛在用途。目前,產業內已基本建立了針對數據中心、光纖傳輸、5G網路、光接入等市場的系列矽光通信產品解決方案,其中數據中心光通信是矽光的最大市場。業界分析,高速數據傳輸目前仍採用可插拔光學元件,隨著傳輸速度快速發展並進入800G時代,以及未來進入1.6T至3.2T等更高傳輸速率,功率損耗、散熱管理將會是最大難題。行業人士分析稱,矽光產業是大勢所趨,應用場景的市場空間潛力龐大,但回歸製造業本質,矽光產業的基礎是矽光生態,若要推動兆元產業市場的落地,不僅需要應用端的拉動,更需要底層工藝生態的建設。行業人士指出,目前矽光產業面臨的關鍵問題,在於工藝平台尚不成熟及奈米尺寸矽光技術路徑尚未收斂等等,當中工藝平台的建設至關重要。
微軟AI版Office 365定價曝光 年費10萬美元已有百位客戶掏錢
據科技媒體The Information報導,包括美國銀行、沃爾瑪、福特和愛爾蘭IT顧問大廠埃森哲在內的600多家微軟客戶,預計將試用Microsoft Office 365中的人工智慧(AI)功能,其中至少已有100位客戶已經額外分別爲1000個訂閱帳戶支付了高達10萬美元的年費。在600家客戶分別都支付1000個帳戶的情況下,微軟將獲得6000萬美元的收入。與經典版本相比,AI版本的Office 365價格至少高出了40%,具有自動在Word文檔中撰寫文字和自動創建PPT等增值功能。今年3月,微軟將生成式AI技術集成在產品矩陣中並推出了Microsoft 365 Copilot,並與通用汽車、雪佛龍等29家企業進行了封閉測試。5月時,微軟擴大了測試範圍,邀請全球首批600名企業客戶體驗這一功能,並新增了語義索引,將OpenAI的文本生成圖片模型DALL-E集成在PPT中,快速起草郵件內容等多個智能功能。據知情人士對媒體透露,定價較高的其中一個原因是這些功能通常需要帶有特殊晶片的服務器,比傳統的服務器消耗更多的電力。另外,在微軟早期投資OpenAI時,有一部分是以雲端平台Azure的使用積分實現的。而爲了配合OpenAI,微軟還花費了12億美元建造了一台超級計算機來開發模型,並在今年年初再次投資100億美元,相當於微軟一年現金流的約六分之一。在與OpenAI的交易中,微軟也獲得了將其技術嵌入自家產品的權利,這也成爲了微軟如今將這筆投資變現的來源之一。據報導,微軟一直在權衡AI功能廣泛應用時的兩種潛在定價模式,一種是將這些功能作爲基本的Office訂閱的附加功能來收費,另一種是將AI功能添加到所有企業用戶的Office中,在客戶更新訂閱計劃時全面提高所有訂閱的價格。去年3月,微軟將基本版Office 365的價格提高了20%,現在最普通的訂閱版本每月需要22美元。這意味著目前在該版本購買1000個帳戶的客戶大約要支付26.4萬美元。當然,越大的客戶可能會有相應的折扣。微軟試行推出AI功能,也給其時間來衡量普通Office用戶對人工智慧功能的利用程度,這影響到在微軟服務器上運行模型的能源成本。消息人士說,在未來幾個月,微軟計劃將擴大範圍到目前在等待名單上的另外數百家公司。
美國4月再祭對中半導體出口新禁令 荷蘭打算配合
據彭博社10日引述知情人士說法報導,美國總統拜登(Joe Biden)將進一步收緊半導體製造設備出口中國的限制,並已向美國企業簡要介紹計畫內容,預計最快下個月就會宣布相關限制措施。根據報導,拜登政府已向美國企業簡報最新限制措施,並預告最快下個月推出最新限制措施,以目前17種製造先進半導體的設備受到出口管制來看,若是日本、荷蘭加入抵制行列,限制設備項目將會超過目前的項目兩倍,預計將對應用材料等美國半導體設備商造成影響。在進一步收緊半導體設備出口中國限制的同時,美國政府更是積極爭取盟友支持,已就此事與荷蘭、日本洽談協調配合。荷蘭政府上周表示,打算對半導體技術出口中國實施新限制,以保護國家安全。全球半導體製造設備由美國的應用材料、科磊(KLA)、科林(Lam Research)、日本的東京威力科創(Tokyo Electron)與荷蘭的艾司摩爾(ASML)主宰。美國去年底對中國實施一系列出口限制措施,包括阻止中國取得以美國設備在世界任何地方生產的某些半導體晶片,以限制中國發展超級計算機和半導體開發技術,避免中國透過晶片發展大規模毀滅性武器等軍事系統。中國外交部發言人毛寧9日說,這些限制是「干預限制中荷企業正常經貿往來」的行為。
超級計算機預測人類文明未來!世界末日將在「這年」降臨
專門研討國際政治問題的全球智囊組織「羅馬俱樂部」(Club of Rome)於1973年委託製造的超級計算機「World One」,在最近透過模擬人類文明的發展模式做出了可怕的預測,揭示我們熟知的文明生活在2050年恐將不復存在。據英國《每日星報》的報導,「World One」由頂尖的大學教授團隊於1973年製造,它的一些預測目前已經成真,包括各種自然資源的產量正在衰竭。「World One」還透過全球人口出生率、空氣及水質污染水平,來預測未來人類文明的生活品質。這台超級計算機曾在2020年預測地球的未來,並聲稱狀況「非常緊急」:「如果我們對此無動於衷,生活品質將會降低到趨近於零。」如今他又預測:「當污染變得如此嚴重,會讓人口快速遞減,甚至低於1900年的水平。氣候變遷和過度依賴科技等災難性威脅將使人類難以生存,預計在2040年到2050年,我們在地球上所熟知的人類文明生活將不復存在。」「World One」還悲觀的表示:「清潔能源汽車和降低出生率只是一個微小的改變,這幾乎對人類文明的存續無足輕重。」不幸的是,超級計算機的預測得到了英國第15任皇家天文學家、該國最傑出的天體物理學家和宇宙學家之一里斯(Martin Rees)的支持。
小米推開源碼四腳機器人 CyberDog全球限量1,000台
小米以Ubuntu(Linux) 開源算法為基礎,規劃打造1,000台CyberDog,提供給小米粉絲、工程師和機器人愛好者,並成立「小米開源社區」,進一步與全球開發者分享進展和成果,朝建立機器人實驗室目標邁進,要打造四足機器人伴侶。CyberDog是小米首次涉足全球開源社區及人員的四足機器人,希望結合志同道合的小米粉絲一起競爭或共同創造四足機器人的開發平台,藉由開放原始碼和開源社群維護的方式,改善機器人開發環境,並以定價人民幣9,999(約新台幣43,500元),全球限量1,000台數量發行。小米表示,此開發平台將受益開源碼世界豐富的應用生態系統,及機器人領域技術的相容性,提升其在機器人行業的技術領先地位。因此,小米也透過合理價格合理方式與市場為另一款同級產品Spot一較高下,Spot的售價為74,000美元(約新台幣205萬元)。小米CyberDog搭載開源算法Ubuntu為基礎、NVIDIA人工智慧平台、高性能馬達、11個高精度傳感器等,重量為3公斤。(圖/小米)相較於Spot價格上的優勢,CyberDog在規格及功能上並不馬虎,小米自行開發的高性能伺服馬達提供大輸出扭矩(32牛頓米)、每分鐘220最大轉速以及每秒3.2公尺最快行走速度,能保證高扭矩的同時兼具高速性能,做到靈敏反應,甚至能進行高速運動及後空翻的高難度動作。CyberDog的大腦是搭載人工智慧超級計算機NVIDIA Jetson Xavier NX平台,其中包括384個CUDA內核、48個Tensor內核、6個Carmel ARM CPU和2個深度學習加速引擎。並配備了11個高精度傳感器,時時刻刻待命、主動探測外部細微變化,其中包括觸控感測器、鏡頭、超音波感測器、GPS模組等,以實現更符合生物直覺的環境感知、分析及交互功能。 還有人工智慧交互式相機、雙目超廣角魚眼相機和英特爾(Intel)實感深度模塊,進行視覺演算,這意味著CyberDog可以實時分析周圍環境、創建導航地圖、繪製目的地並避開障礙物,CyberDog能夠跟隨主人並繞過障礙物。為了增加其寵物般的特性,用戶可以使用語音助手通過設置喚醒詞來命令控制 CyberDog。