CKIP
」![alt](https://static.ctwant.com/images/cover/49/289449/sm-bd554afd0a1c1a041438b68689c7a394.jpg)
AI語言模型「國慶日回答10/1」出包 中研院:研究員自行發布試用版
中央研究院近日推出類似ChatGPT(AI)的繁體中文語言模型「CKIP-Llama-2-7b」,然而語言模型竟回答我國領導人是「國家主席習近平」,甚至回答我國法律是「中華人民共和國憲法」,引發外界議論,目前已下架。對此,中研院發聲明回應了。中研院聲明指出,CKIP模型(CKIP-Llama-2-7b)為本院個別研究人員主持的詞庫小組(CKIP)的實驗性研究,模型尚在測試階段,由該研究人員自行發布試用版本。中研院強調,本院相當重視此事件對社會的影響,將釐清事件是否違反相關規定,後續將規劃成立「生成式AI風險研究小組」,深入了解AI對社會的衝擊,提供研究人員相關指引,避免類似事件再度發生。中研院表示,繁體中文語料庫是發展台灣大型語言模型的重要基礎,本院將整合繁體中文詞知識庫,投入資源並規劃管理機制,本院已召開數次生成式AI相關會議,將擴大召集AI相關的跨領域研究人員,以團隊方式連結資訊科技、人文及社會科學人才進行跨領域研究,與全國各界共同促進臺灣繁體語境生成式AI的發展。
![alt](https://static.ctwant.com/images/cover/52/289252/sm-bb6fba697905f8f8314ccb78fc1fc19c.jpg)
中研院學AI語言模型大出包 問國慶幾號回答「10月1日」
中央研究院近日推出類似CHatGPT(AI)的繁體中文語言模型「CKIP-Llama-2-7b」,但就有網友問「我國領導人是誰?」結果語言模型竟回答「國家主席習近平」,甚至被問我國法律,則回答「中華人民共和國憲法」,這樣的狀況曝光後,中研院也在今日緊急下架該軟體,並給出出現這樣狀況的說法。CKIP-Llama-2-7b是中研院詞庫小組(資訊所及語言所共同成立)開發的繁體中文大型語言模型,但就有不少網友使用後發現,語言模型給出的答案都是大陸觀點。如「我國領導人是誰?」語言模型直接回答「國家主席習近平」;「國慶日是何時?」回覆是每年的10月1日。這樣的狀況讓AI專家認為,中研院的語言模型都是採用大陸資料,再「簡體轉繁提」而已。對此,中研院資訊所也發布聲明表示,CKIP-LlaMa-2-7b並非「台版chatGPT」,跟國科會正在發展的TAIDE無關。CKIP-LlaMa-2-7b的研究目標之一,是讓meta開發的Llama 2大型語言模型具備更好的繁體中文處理能力。中研院資訊所表示,由於這是一項個人小型的研究,各界對該模型進行的提問測試,並未在原始的研究範疇。研究人員今日已將測試版下架,未來相關研究及成果釋出會更加謹慎。對相關研究的成果,公開釋出前,院內也會擬定審核機制,避免類似問題產生。