生活
綜合

AI語言模型「國慶日回答10/1」出包 中研院:研究員自行發布試用版

中研院繁體中文語言模型「CKIP-Llama-2-7b」大出包,領導人變習近平、國慶是10月1日。(圖/報系資料照)

中央研究院近日推出類似ChatGPT(AI)的繁體中文語言模型「CKIP-Llama-2-7b」,然而語言模型竟回答我國領導人是「國家主席習近平」,甚至回答我國法律是「中華人民共和國憲法」,引發外界議論,目前已下架。對此,中研院發聲明回應了。

中研院聲明指出,CKIP模型(CKIP-Llama-2-7b)為本院個別研究人員主持的詞庫小組(CKIP)的實驗性研究,模型尚在測試階段,由該研究人員自行發布試用版本。

中研院強調,本院相當重視此事件對社會的影響,將釐清事件是否違反相關規定,後續將規劃成立「生成式AI風險研究小組」,深入了解AI對社會的衝擊,提供研究人員相關指引,避免類似事件再度發生。

中研院表示,繁體中文語料庫是發展台灣大型語言模型的重要基礎,本院將整合繁體中文詞知識庫,投入資源並規劃管理機制,本院已召開數次生成式AI相關會議,將擴大召集AI相關的跨領域研究人員,以團隊方式連結資訊科技、人文及社會科學人才進行跨領域研究,與全國各界共同促進臺灣繁體語境生成式AI的發展。