國際
最新

無中生有!熱門新聞App竟用AI寫「假新聞」推播 前員工還爆:演算法來自中國

美國熱門新聞App被踢爆,它發布的「新聞」許多是透過AI無中生有的「虛構事件」。而該公司前員工表示,AI生成文章的演算法來自該公司的中國辦事處。(示意圖/翻攝pexels)

近年來,「AI人工智慧」成為舉世矚目的話題,無數人正在孜孜不倦的探索著AI可以承擔的工作新邊界,不管繪畫、音樂、寫作似乎都已經陸續被AI征服。然而,目前AI的工作結果仍然取決於人類輸入的資訊與指令,倘若運用AI的使用者心術不正,AI帶來的結果也就荒腔走板甚至有害。近日就有美國熱門新聞App被踢爆,它發布的「新聞」許多是透過AI無中生有的「虛構事件」。而據發布這支新聞App的同名公司前員工表示,該公司使用AI生成文章的演算法,來自該公司的中國辦事處。

據《中央社》報導,2023年平安夜,美國下載量最大的新聞應用程式《NewsBreak》發布一起槍擊案報導,標題為「紐澤西州布里奇頓耶誕慘案,小鎮槍枝暴力升高」。

然而問題是,布里奇頓(Bridgeton)並沒有發生這樣的事件。當地警局12月27日在臉書發布聲明駁斥這篇使用AI寫作的文章純屬「一派胡言」。

該則聲明中寫道:「在耶誕節期間或前後,甚至在最近的記憶中,他們描述的地區都沒有發生過與這則報導類似的事。看來這家『新聞』媒體的AI似乎是寫了小說,可以毫無顧忌地發布給讀者。」

當路透社對這起事件進行追蹤,總部位於加州山景市(Mountain View)、在北京和上海都設有辦公室的「NewsBreak」告訴路透社,他們在2023年12月28日,也就是新聞發布4天後「刪除」了這篇文章。

NewsBreak附上一個網站的連結說:「這條不精確的資訊源自這個內容來源。」並表示:「NewsBreak發現任何不精確的內容,或違反社區標準的行為時,就會立即採取行動刪文。」

網站findplace.xyz營運商並未回覆路透社記者詢問,警方也拒絕提供進一步評論。

近年,美國媒體業併吞嚴重,地方媒體紛紛倒閉,使用AI算法大量生成文章的NewsBreak隨即填上空缺。NewsBreak自詡為「所有地方事的首選來源」,稱單月用戶超過5000萬,發布來自主要媒體的授權內容,包括路透社、福斯新聞、美聯社和有線電視新聞網(CNN)的內容,也透過網路撈取地方新聞或新聞稿取得訊息,在AI協助下改寫。

自2021年以來,NewsBreak至少有40起使用AI工具的案例影響到其致力服務的地區。2024年1月、2月和3月共有3次,總部位於科羅拉多州的食物銀行「Food to Power」表示,NewsBreak報導的食物分發時間有誤,讓他們不得不將趕來的人們拒之於門外。1月30日他們曾發電郵向NewsBreak抱怨,但至今沒有收到回覆。

路透社採訪7名前NewsBreak員工,其中5人表示,NewsBreak這個應用程式使用的AI演算法,大部分工程工作是在中國辦事處進行。