無中生有！熱門新聞App竟用AI寫「假新聞」推播　前員工還爆：演算法來自中國

近年來，「AI人工智慧」成為舉世矚目的話題，無數人正在孜孜不倦的探索著AI可以承擔的工作新邊界，不管繪畫、音樂、寫作似乎都已經陸續被AI征服。然而，目前AI的工作結果仍然取決於人類輸入的資訊與指令，倘若運用AI的使用者心術不正，AI帶來的結果也就荒腔走板甚至有害。近日就有美國熱門新聞App被踢爆，它發布的「新聞」許多是透過AI無中生有的「虛構事件」。而據發布這支新聞App的同名公司前員工表示，該公司使用AI生成文章的演算法，來自該公司的中國辦事處。

據《中央社》報導，2023年平安夜，美國下載量最大的新聞應用程式《NewsBreak》發布一起槍擊案報導，標題為「紐澤西州布里奇頓耶誕慘案，小鎮槍枝暴力升高」。

然而問題是，布里奇頓（Bridgeton）並沒有發生這樣的事件。當地警局12月27日在臉書發布聲明駁斥這篇使用AI寫作的文章純屬「一派胡言」。

該則聲明中寫道：「在耶誕節期間或前後，甚至在最近的記憶中，他們描述的地區都沒有發生過與這則報導類似的事。看來這家『新聞』媒體的AI似乎是寫了小說，可以毫無顧忌地發布給讀者。」

當路透社對這起事件進行追蹤，總部位於加州山景市（Mountain View）、在北京和上海都設有辦公室的「NewsBreak」告訴路透社，他們在2023年12月28日，也就是新聞發布4天後「刪除」了這篇文章。

NewsBreak附上一個網站的連結說：「這條不精確的資訊源自這個內容來源。」並表示：「NewsBreak發現任何不精確的內容，或違反社區標準的行為時，就會立即採取行動刪文。」

網站findplace.xyz營運商並未回覆路透社記者詢問，警方也拒絕提供進一步評論。

近年，美國媒體業併吞嚴重，地方媒體紛紛倒閉，使用AI算法大量生成文章的NewsBreak隨即填上空缺。NewsBreak自詡為「所有地方事的首選來源」，稱單月用戶超過5000萬，發布來自主要媒體的授權內容，包括路透社、福斯新聞、美聯社和有線電視新聞網（CNN）的內容，也透過網路撈取地方新聞或新聞稿取得訊息，在AI協助下改寫。

自2021年以來，NewsBreak至少有40起使用AI工具的案例影響到其致力服務的地區。2024年1月、2月和3月共有3次，總部位於科羅拉多州的食物銀行「Food to Power」表示，NewsBreak報導的食物分發時間有誤，讓他們不得不將趕來的人們拒之於門外。1月30日他們曾發電郵向NewsBreak抱怨，但至今沒有收到回覆。

路透社採訪7名前NewsBreak員工，其中5人表示，NewsBreak這個應用程式使用的AI演算法，大部分工程工作是在中國辦事處進行。