前沿模型
」
AI擔憂與日俱增？ OpenAI擬建新團隊防範「災難性風險」
隨著快速發展的人工智慧（AI）技術越來越強大，OpenAI正在組建一個新的團隊，旨在最大限度地降低AI帶來的風險。這家以廣受歡迎的聊天機器人ChatGPT而聞名的公司在周四（26日）宣佈，已組建了一個名為準備（Preparedness）的團隊，將分析並試圖防範AI系統潛在的災難性風險。據稱，該小組將分析並試圖防範人工智慧系統從網路安全問題到化學、核和生物威脅等方面，可能造成的潛在「災難性風險」。該團隊還將制定一項政策，旨在幫助公司確定如何降低開發所謂的「前沿模型」的附加風險。前沿模型的定義是能力超過現有最先進模型、能執行各種任務的大規模機器學習模型。長期以來，OpenAI的目標一直集中在構建通用人工智慧（AGI）上，即能夠比人類更好地執行一系列任務的人工智慧。雖然目前的系統不符合這一描述，但該公司表示，需要確保其擁有高性能人工智慧系統安全所需的理解和基礎設施。在全球對AI快速發展的擔憂日益加劇的情況下，此前Open AI執行長阿特曼（Sam Altman）也不斷重申監管AI技術的重要性，同時承認監管失誤的可能性。他表示，全球努力引入AI法規，例如英國計劃在11月舉辦全球AI安全峰會，旨在深入研究尖端AI技術帶來的挑戰，並探索加強國家和國際監管框架的方法。
野心勃勃！這家公司估兩年籌資50億美元 計畫取代OpenAI
據外媒報導，人工智慧研究新創公司Anthropic最新曝光的計劃，預計在未來兩年內籌集多達50億美元的資金，和OpenAI在生成式人工智慧領域展開競爭。Anthropic計劃構建一個被暫時稱為「Claude-Next」的前沿模型，比目前最強大的AI還要強大10倍，但這需要在未來18個月內投入10億美元。OpenAI前研究副總裁Dario Amodei因公司發展方向與其他同事產生分歧選擇自立門戶，2021年，他以公益公司的形式成立了Anthropic，還帶走了OpenAI的一些員工，包括OpenAI的前政策負責人Jack Clark。Anthropic發言人回應媒體稱，正在計劃發佈更多產品，並將很快討論這些產品。Anthropic稱前沿模型是人工智慧自學的下一代算法，提到了其開發的一種名為「constitutional AI」的人工智能訓練技術。在高層次上，constitutional AI會提供一種使人工智慧與人類意圖相一致的方法，讓系統使用一套簡單的指導原則來回應問題和執行任務。Anthropic估計，其前沿模型的每秒浮點運算次數（FLOPS）比當今最大的模型還要大幾個數量級。這種前沿模型可以用來構建虛擬助手，幫助用戶回覆電子郵件、進行研究、藝術創作、書籍創作等等。計畫中還寫道，這些模型可以使經濟的很大一部分自動化，「我們認為，構建出2025或2026年度最佳（AI）模型的公司，將遠遠領先於任何公司，他們無法在隨後的週期中追趕上來。前沿模型的上一代，是Anthropic今年3月推出的聊天機器人產品Claude。它可以執行一系列任務，比如搜索文檔、總結、寫作和編碼，以及回答特定的問題。從這方面看，它與OpenAI 的ChatGPT比較像。但是Anthropic認為，constitutional AI技術將使Claude更加安全、更容易與人交流，且更加可控。如今，Anthropic與OpenAI、Cohere、AI21實驗室等初創公司展開競爭，開發和生產自己的生成式AI 系統。值得一提的是，谷歌也是Anthropic的投資者之一，已承諾向其投資3億美元，獲得該公司10%的股份。根據交易條款，後者同意讓Google Cloud成為其「首選雲端供應商」，兩家公司共同開發AI計算系統。