深偽技術
」 小玉 換臉 調查局 羅致政 網紅
網紅小玉「賣換臉A片」判囚5年入監 法院再判賠6女185萬元
百萬網紅小玉（本名朱玉宸）偕同助理莊炘睿，用AI深偽技術「DeepFake」軟體，將多位網紅、藝人雞排妹、前立委高嘉瑜、立委黃捷等女性的臉合成色情影片，並藉此海撈逾1200萬元。今年5月，他遭判刑5年定讞，已發監服刑；其中66名被害女子提出民事訴訟，求償500萬元，高等法院判決朱和莊須連帶賠償185萬元。全案可上訴。朱玉宸、莊炘睿在2020年至2021期間，先由朱玉宸在推特（Twitter）、Telegram創建名為「台灣網紅挖面」等粉絲團與群組，開放以註冊會員的方式，可付費購買利用「Deep Fake」AI技術合成的換臉A片，2人也因此賺取共計1338萬4766元之不法所得。檢警單位於2020年底年底接獲多名被害人報案，進行深入追查後，檢方認定共119人受害，包含網紅白癡公主、蕾拉、奎丁等等，也有部分女性政治人物遭違法合成。檢方依《個人資料保護法》、加重誹謗、妨害風化等罪嫌，對朱玉宸、莊炘睿2人提起公訴。一審認為，朱玉宸破壞善良風俗，嚴重影響被害人身心名譽，也考量2人坦承犯行，並試圖與被害人和解賠償損害，判刑5年6月；而5名被害人強調，這造成傷害是一輩子的，檢方也認為量刑過輕提起上訴。由於朱玉宸是主謀，二審遂在83件對他提出加重誹謗罪的案件，各判7個月徒刑，未提出加重誹謗罪的36例案件，則各判6個月。合議庭裁定合併執行5年，其餘1年8個月得易科罰金。助理莊炘睿則在二審因83件有提出加重誹謗罪的案件，被各判5月，未提出加重誹謗罪的36例案件，各判4個月，定應執行刑為4年6個月，得易科罰金最高法院則在今年5月間維持二審見解，將朱玉宸犯下的不得易科罰金之刑判刑5年定讞，得易科罰金之刑判刑1年8月；莊炘睿則判刑4年6月，得易科罰金。朱玉宸在5月29日入監服刑，不少被害人也提出民事訴訟，要求進行賠償。其中，有6名被害人求償，主張自己有大量粉絲、具影響力，換臉影片流傳於網路，容易遭人誤認她們拍攝性隱私影片，也侵害她們的名譽權，故要求朱玉宸、莊炘睿連帶賠償6人各500萬精神慰撫金。高院審理時，由於6名被害人並未提出有關其身分、經歷、社會廣知程度及資力等相關證明，但參酌她們均為直播主或 YouTuber，高院便跟 據朱玉宸上傳之換臉影片數量，分別是3、3、4、5、10、11部影片，分別批准賠償20萬、20萬、20萬、25萬、50萬、50萬，總計判賠185萬元。
小玉賣換臉片遭判5年 前「反骨女神」曾求償100萬：一毛也沒拿到
小玉（朱玉宸）因販賣換臉A片遭判5年，多名女網紅及政治人物受害，人數達百人，而前反骨男孩成員Aries艾瑞絲也受害，2年前跟小玉求償100萬，但她1日說，「一毛賠償也沒拿到。」艾瑞絲2年前對小玉求償200萬。（圖／報系資料照）艾瑞絲在社群平台Threads發文，「我是一毛賠償也沒拿到，而且查他跟他的共犯的資產就要繳各500$，每年都要查，每年都要繳，民事申請強制執行4000$，還有我跑那麼多趟刑事民事法院的車資，我的心力與時間，就已經承受極大傷害了，還要不斷付出，我沒辦法了」據悉，小玉5月被最高法院判5年定讞，他在入監時說，「謝謝大家關心，請大家以我為戒，不要犯罪，因為不知道後面會付出什麼代價這樣，呼籲正在犯罪或是正在準備犯罪者，看到我現在的下場，真的不要去走這個路，壞路不要走。」據了解，朱玉宸藝名小玉，受弟弟YouTube頻道啟發也開始拍片，2018年3月，小玉頻道達100萬訂閱，是台灣第12位百萬YT創作者，2021年用深偽技術製作換臉色情影片，在網路上販賣被起訴，許多臺灣知名人士受害。
網紅「小玉」賣變臉A片賺千萬判5年！ 黃喬歆慘變「女主角」嘆：判得超級輕
網紅小玉（朱玉宸）利用「深偽Deep Fake」技術，將知名人物剪接變造成A片主角牟利，不少女性公眾人物身受其害，小玉則被判5年徒刑定讞。日前，中天綜合台節目《小明星大跟班》播出「冤枉啊！這樣也有我的事？明星跑法院是告人還被告」，受害人之一的女星黃喬歆談到此事，則認為法官判太輕，「我就有站出來，想讓法官知道這件事的嚴重性。」節目中，黃喬歆表示，「警局跟我聯絡，我看了那個影片真的像到不像話，但一審結果判得超級輕，還可以易科罰金，我就覺得這樣不行，所以上訴的時候，我就有站出來，想讓法官知道這件事的嚴重性。」而後在她得知責罰後，認為法官判太輕，根本不成比例，「最後才改判5年，受害人數那麼多，我自己就被做了4支影片，還有人被做到8支，但判決不是應該要1支1判嗎？否則你做我1支、10支都是判5年。」對此，在場的律師則指，「覺得判太輕，可以以告訴人的身分，申請檢察官上訴來爭取更高的刑度，那這是當時台灣的第一件，現在經過修法，一個行為最高就可以判到7年。」「小玉」朱玉宸因為賣變臉A片賺了1200萬，受害人包括雞排妹、龍龍、蕾拉、高嘉瑜、黃捷等，一審小玉被判5年6月，可易科罰金，二審改判6年8月，其中5年不能易科罰金，本月9日最高法院駁回上訴定讞，小玉於5月29日報到入監。小玉於5月29日報到入監。（圖／報系資料照）
綠委緋聞1／羅致政遭疑為性愛片主角 調查局鑑定：影片非深偽造假
競選連任的民進黨新北市7選區立法委員羅致政、遭媒體爆料疑為性愛片男主角，相關影片一度在網路瘋傳，羅致政否認自己是男主角，指控影片是深偽造假，且為境外網軍介選抹黑的伎倆，不過據了解，新北市調查處已掌握鑑定結果，認定相關影片不是深偽造假，由於民進黨總統候選人賴清德曾為此事替羅致政喊冤，且目前距離總統及立委大選只剩下不到一周時間，勢必對選情造成一定影響。羅致政1964年出生，畢業於政治大學外交系，獲美國加州大學洛杉磯分校政治學博士學位，返台後擔任東吳大學政治系系主任、副教授，曾任民進黨發言人、蔡英文競選新北市市長時的政策部主任兼發言人、民進黨政策會執行長、國際事務部主任等要職。2011年羅致政獲民進黨提名、參選新北市板橋東區立委，不幸敗北。2016年羅致政捲土重來，放下學者身段，持續和基層搏感情成功當選。2020年競選連任成功，為該選區首位連任成功的立委。羅致政曾11度榮獲公民監督國會聯盟評鑑優秀立委，堪稱綠營政治明星，羅的太太是知名歌手陳亮吟。黎智英來台成立的《壹傳媒》2017年7月爆料，指羅致政在5天內2度與辦公室副主任上摩鐵，羅致政隔天出面說明，表示已向家人完整說明事件始末，並已得到信任與諒解，家人沒有原不原諒，就是信任他，信任他沒有做這件事。但性愛影片疑雲仍不時纏著他，後來羅在2020年立委選舉連任成功，顯示許多選民相信他的清白。調查局使用多工具、多模型分析爭議影片，搭配人為觀察與查證，綜合研判影片是否偽造。（圖／項程鎮攝）然而某國外情色網站2024年1月1日上傳多部性愛影片，隔天《毅傳媒》改名的《壹傳媒》刊登新聞，指上述性愛片主角疑似羅致政，羅氣急敗壞，2024年1月2日深夜向新北市調查處提告並完成筆錄，1月3日轉交新北地檢署，由調查局負責鑑定。新北市調處1月3日曾表示，影片的真偽分析大概耗時約1天，結果最快當天就能出爐，待完成後將一併移送新北地檢署繼續偵辦，至於是否公布影片鑑定結果，則需看檢方決定。另外，調查局曾召開記者會指出，已加強發掘疑似使用深度偽造技術之爭議影片，並使用多工具、多模型分析爭議影片，搭配人為觀察與查證，輔以該局深度偽造影片檢測流程進行分析，綜合研判影片偽造之可能性，以速辦速移原則進行偵辦，適時公布結果。調查局強調，一旦發現不法或接獲報案，將在48小時內「速辦速移」到各地檢署，如果事證明確，速度還會更快，有心人士如想利用深偽技術干擾選舉，調查局一定會嚴辦、速辦到底。只是本案爆發至少一星期，檢調都未對外公布結果，使得相關謠言滿天飛，既不利當事人選情，也讓外界質疑檢調辦案能量，有關機關應盡速對外說明，化解民眾疑慮。民進黨總統候選人、副總統賴清德，曾指羅致政是深偽影片受害者，不過調查局鑑定影片非假造。（圖／報系資料照）
綠委緋聞2／羅致政涉性愛片檢調遲不公布鑑定結果 拖延作法坐實非深偽
2024年元旦網路上瘋傳疑似政壇人士的性愛影片，有媒體指稱影片男主角疑為民進黨立委羅致政，羅致政憤而提告。有消息人士爆料指出，調查局鑑定結果顯示，影片並非深偽造假。由於本案爆發已超過1星期，但新北地檢署、調查局及新北市調處，對於影片鑑定結果至今仍諱莫如深，不少法界人士痛批，如此更坐實影片不是深偽造假，難怪檢調機關不敢公布結果。消息人士指出，上述疑似羅致政性愛影片2024年1月1日流出後，就有不少深偽專家利用相關軟體測試，結果就像目前傳出的調查局鑑定報告一樣，都認定不是深偽造假。新北市調查處2024年1月3日曾誇口說，耗時1天就能辨別分析影片的真偽，最快當天就能出爐。調查局也曾召開深偽影片記者會強調，接獲報案48小時內，就能「速辦速移」到各地檢署，如果事證明確，速度還會更快，不讓有心人士利用深偽技術干擾選舉。法務部長蔡清祥在視訊會議會要求全國檢察長，應立即澄清不公平的報導，羅致政案將成重要指標。（圖／最高檢提供）然而新北市調查處2024年1月2日深夜，就接獲羅致政報案，且刊登相關報導、由《毅傳媒》改名《壹傳媒》總編輯璩美鳳，也在2024年1月4日提交相關證物給新北市調處，至今已經過了好幾個1天和好幾個48小時，新北地檢署和新北市調處仍未公布結果，也讓外界懷疑檢調隱匿鑑定結果。最高檢察署2024年1月6日發布新聞稿指出，法務部長蔡清祥在最高檢察署召開全國檢察長選舉查察視訊會議時指出，對於外界有些報導不盡公平，也不是完整真實面貌，要堅定立場，在不違反偵查不公開的前提下，以嚴謹的態度，該澄清就立即澄清。可是新北檢和新北市調查處至今未公布本案鑑定結果，已引發諸多揣測。行政院副院長鄭文燦指網路流傳的「開房間影片」經過剪接，刑事局鑑定為「無法判斷深偽可能」。（圖／民眾提供）根據最高檢察署擬具《辦理選舉查察案件Q&A》第3大項「假訊息」的第3題指出：檢警調接獲深偽影音假訊息案件，應即送調查局或刑事警察局進行鑑識，經鑑識後判斷有深偽可能性者，檢警調應立即「發布新聞澄清」、「協助迅速下架」（包括向財團法人臺灣網路資訊中心（TWNIC）聲請停止解析該網站），並「追查幕後主嫌」。以2023年10月爆發的行政院副院長鄭文燦「開房影片」真偽鑑定為例，竟拖延長達1個月，在民意代表和外界不滿聲浪高漲下，受理報案的台北市警察局中正第一警分局，才在2023年11月27日說明，刑事警察局透過價值新台幣2000萬元買的2套軟體加設備，鑑定結果為「無法判斷深偽可能」，其中一套軟體認定影片是真的，另一套軟體則認定6成是假的，因此鑑定結果為「無法判斷」。不料2024年1月1日爆發的疑似羅致政性愛影片，檢調機關對影片是否偽造仍採拖字訣，不對外公開。消息人士指出，調查局鑑定結果顯示並非深偽影片。檢調機關有義務跟人民說清楚、講明白，以具體行動澄清司法機關辦案只講是非、嚴守中立，才能贏得人民的掌聲。
羅致政捲不雅影片風波喊「中國介選」 游淑慧問出事就介選「沒賴皮嗎」
民進黨新北立委第七選區候選人羅致政昨天驚爆有不雅影片外流，羅痛批是深偽影片、政治力介選，民進黨總統候選人賴清德更直指陸方介選，國民黨台北市議員、立委候選人游淑慧則在臉書上回應，「出事就賴介選，果然賴皮」。羅致政傳出有不雅影片外流，羅昨列出5點聲明，強調影片深偽造假、境外網軍操作介選、譴責選舉造謠抹黑、呼籲勿傳播，否則有嚴重觸法的問題、籲檢調單位主動儘速徹查，嚴懲不法。賴清德則順勢表示，羅是影片受害者，質疑又是大陸介選。游淑慧說，羅致政連夜發聲明稱是影片深偽技術，賴清德則洗腦是對岸介選，但「沒關係啦」，因為現在綠營也只能這樣扯，『中國介選』已經成為民進黨一切惡的遮羞布、萬靈丹。游淑慧質疑，若是對岸出手，幹嘛只搞羅致政？羅又不是2024年選戰中的重要人物，此外，陸方何必費事搞出那麼多段還加上對話，這種東西，搞一段影片，偽造起來就很費工了，難道陸方真的「笨到分不清楚」，羅致政不是2024主角，介選他沒太大意義嗎？游淑慧也語帶嘲諷的問賴清德，似乎把羅致政看得太重要了，羅致政一旦出事就「賴介選」，果然是「賴皮」。
小玉靠深偽色情片獲利千萬元 二審加重判他應關5年
網紅「小玉」朱玉宸利用深偽技術，將知名人物剪接變造成色情片主角牟利。朱玉宸一審被判5年半，他的助理莊炘睿也遭判3年8個月，兩人均得易科罰金。二審審酌影像難以完全消除，加上2人不法獲利達千萬元，認為一審判決過輕，因此改判朱玉宸應關5年，另1年8月得易科罰金，而助理則被判4年6個月，可易科罰金，全案可上訴。二審台灣高等法院認為一審對朱玉宸與其助理的判決過輕，28日時對兩人的原判決作出改判。根據二審台灣高等法院28日發佈的資料，朱玉宸利用深偽技術，剪接變造色情影片的119名受害者中，有36人沒有提起妨害名譽告訴，不過原審時法院將這36人的部分，與另外83個成立加重誹謗罪的犯罪事實，以相同刑度論處，此判決明顯不當。另外二審指出影像在網路上的流傳無遠弗屆，難以完全消除，因此朱玉宸與助理對受害者造成的傷害，難以恢復原狀。加上本案查獲的影片數量龐大，2人不法獲利達千萬元之多，因此二審認為原審對朱玉宸的5年6個月徒刑，以及對助理莊炘睿3年8個月，均可易科罰金的判決過輕，應予以撤銷改判。二審合議庭認為2人濫用換臉軟體，並利用被害人名氣，將被害人的面部等特徵合成於色情影片，並上傳供人付費觀看，此舉不但破壞社會善良風俗，更嚴重侵害人性尊嚴及名譽，並對被害人造成精神上的傷害。因此案朱玉宸為主謀，二審遂在83件對他提出加重誹謗罪的案件，各判7個月徒刑，未提出加重誹謗罪的36例案件，則各判6個月。合議庭裁定合併執行5年，其餘1年8個月得易科罰金。至於助理莊炘睿則在二審因83件有提出加重誹謗罪的案件，被各判5月，未提出加重誹謗罪的36例案件，各判4個月。定應執行刑為4年6個月，得易科罰金，全案可上訴。
網紅小玉賣換臉謎片 二審出庭鞠躬道歉求輕判
前百萬訂閱網紅「小玉」朱玉宸涉嫌夥同莊姓助理，利用AI深偽技術DeepFake軟體，將多位女性名人的臉合成在AV女優身上，再製成色情影片牟利1338多萬元，事件爆出後引起社會譁然，一審依違反《個資法》共119罪判處朱男5年6月、莊男3年8月，得易科罰金198萬元、132萬元。二審上訴後，小玉14日在高院法庭上鞠躬道歉，希望獲得輕判，合議庭訂在12月28日宣判。小玉過去出庭後，向社會大眾道歉，稱「我已經坦承犯行，向被害人致上非常誠摯的歉意」。（圖／報系資料照）小玉一審判決後表示，「有反省」並跟部分被害人達成和解，認為一審判太重因此上訴二審。今日小玉步出法院，再一次鞠躬道歉，他表示再一次跟所有被傷害的人、社會大眾說一聲不好意思、對不起，並在高等法院庭上鞠躬道歉，希望法官可以減輕量刑。他過去被發現從2020年7月起，利用DeepFake技術，將立委高嘉瑜、高雄市議員黃捷、藝人雞排妹、網紅「白癡公主」、「奎丁」、「蕾菈 」等名人的臉，以移花接木方式合成色情影片，招攬網友加入粉絲團後向註冊者收取800到1900元不等的會員費，另也可單次或集資購買及瀏覽，私密聊天室也會不定期舉辦「票選」、「集資」活動選出對象後，再由小玉與助理製作合成性愛片上傳牟利，共有119人受害者被製成色情影片，其中高嘉瑜、黃捷、雞排妹等83人提告。※《CTWANT》提醒您：刑法第235條第1項：「散布、播送或販賣猥褻之文字、圖畫、聲音、影像或其他物品，或公然陳列，或以他法供人觀覽、聽聞者，處二年以下有期徒刑、拘役或科或併科三萬元以下罰金。」。
陳雪甄睽違15年與温昇豪合作 《深網》揭青少年網路性犯罪內幕
犯罪影集《深網》由陳雪甄與温昇豪主演。過往悠遊於導演和表演指導兩個身份之間的陳雪甄，近年因演出恐怖電影《粽邪》更加受到觀眾矚目，回憶起15年前首次演出連續劇就是和温昇豪合作，她語帶興奮之情說：「依然有一種熟悉感，就像是與多年未見的哥哥重逢，相處起來很放鬆愉快！」陳雪甄也透露，過往很少演出感情戲，這次在劇中有較為親密的曖昧戲份，但因為對手戲演員是温昇豪，絲毫不覺得尷尬。温昇豪則認為陳雪甄是很用心的演員，很開心能再度共演，但在演出親密戲時可以感受到陳雪甄的緊張感，「我就在現場跟她說不要緊張、放輕鬆！」陳雪甄飾演追查一連串青少年相關案件真相的刑警。（圖／HamiVideo）劇中，陳雪甄與温昇豪攜手辦案，追查網路性犯罪的幕後黑手，必須研究色情網站，還要加入網路聊天室使用「色色」露骨詞彙。對此，温昇豪坦言演出時要克服心理障礙，「看到台詞時的確會有點不舒服，因為這些詞彙要用嘴巴講出來其實不太容易，這點心理上面是需要克服的！」陳雪甄表示自己在拍攝前為了解類似案件而做了不少功課，看了許多相關紀錄片的她，感嘆有許多青少年在網路上被誘拐詐騙後求助無門。在現實擁有9歲孩子的陳雪甄也說難免會擔心孩子受到網路犯罪的影響，「時代不同了！大人們要試著多了解年輕人的事物，多理解才能提前預防受騙。」她也認為家長要用健康的態度，適時給孩子性教育，「以免在網路上亂看，學到更奇怪的事情。」温昇豪飾演身分神秘的心理學家。（圖／HamiVideo）劇中有許多少女被不肖人士用「深偽技術（Deepfake）」製造散播不雅片，在受威脅後被當作寵物豢養，從此必須對線上出價者予取予求。如今AI換臉技術越來越成熟，身為演員的陳雪甄被問到是否會擔心工作機會被AI技術取代？她認為不只是演員需要擔心此事，「所有人都要擔心，如今在面對網路世代和AI科技，不能盲目相信，但不見得是全然不好。」她甚至說未來很有可能直接用AI技術拍攝電影，但她認為真人表演依然無可取代，「AI的背後要有參數資料庫，演員的創造力還是很重要，而且表演這件事沒有標準答案，無法用數據取代。」劇情探討青少年的網路性犯罪，從警探、家人、校方和心理學家等各種角度觀察一連串青少年涉入的霸凌、自殺和性侵等案件，堪稱為「影集版N號房」。女主角陳雪甄飾演追查案件的刑警，她原本企圖找出導致女學生自殺的霸凌兇手，卻意外發現如同「N號房」般的網路煉獄，並遇到由温昇豪飾演的神秘心理學家，兩人從互相猜忌到彼此信任依賴。《深網》將於12月8日在Hami Video獨家首播。
「影集版N號房」揭色情網站內幕 陳雪甄攜温昇豪追網路性犯罪
陳雪甄與温昇豪在犯罪影集《深網》中分別飾演刑警、心理學家，兩人劇中攜手辦案追查網路性犯罪的幕後黑手，必須研究色情網站，還要加入網路聊天室使用「色色」露骨詞彙，温昇豪坦言演出時要克服心理障礙：「看到台詞時的確會有點不舒服，因為這些詞彙要用嘴巴講出來其實不太容易，這點心理上面是需要克服的！」該劇探討青少年網路性犯罪，從警探、家人、校方和心理學家等各種角度觀察一連串青少年涉入的霸凌、自殺和性侵等案件，堪稱為「影集版N號房」，女主角陳雪甄飾演追查案件的刑警，她原本企圖找出導致女學生自殺的霸凌兇手，意外發現如同「N號房」般的網路煉獄。陳雪甄因演出恐怖電影《粽邪》受到矚目，她回憶15年前首次演出連續劇就受到温昇豪照顧，相隔多年再度合作，她語帶興奮之情說：「依然有一種熟悉感，就像是與多年未見的哥哥重逢，相處起來很放鬆愉快！」她也透露，過往很少演出感情戲，這次在劇中有較為親密的曖昧戲份，但因為對手戲演員是温昇豪，絲毫不覺得尷尬。温昇豪表示陳雪甄是很用心的演員，很開心能再度共演，但在演出親密戲時也感受到陳雪甄的緊張感，「我就在現場跟她說不要緊張、放輕鬆！」陳雪甄（右起）和温昇豪、李京恬在《深網》中一起抽絲剝繭尋兇。（圖／HamiVideo提供）這次陳雪甄則在拍攝前為了解類似案件做了不少功課，看了許多相關紀錄片，她感嘆有許多青少年在網路上被誘拐詐騙後求助無門，她在現實中是9歲孩子的媽媽，難免也會擔心孩子受到網路犯罪的影響，「時代不同了！大人們要試著多了解年輕人的事物，多理解才能提前預防受騙。」她也認為家長要用健康的態度適度給孩子性教育，「以免在網路上亂看，學到更奇怪的事情。」《深網》劇中許多少女被不肖人士用「深偽技術（Deepfake）」製造散播不雅片，受威脅後被當作寵物豢養，從此必須對線上出價者予取予求，如今AI換臉技術越來越成熟，身為演員的陳雪甄被問到是否會擔心工作機會被AI技術取代，她認為不只是演員需要擔心此事，「所有人都要擔心，如今在面對網路世代和AI科技，不能盲目相信，但不見得是全然不好！」她甚至認為未來很有可能直接用AI技術拍攝電影，可是她認為真人表演依然無可取代，「AI的背後要有參數資料庫，演員的創造力還是很重要，而且表演這件事沒有標準答案，無法用數據取代！」犯罪影集《深網》將於12月8日在Hami Video首播。
2023年度「代表字」出爐！ 美權威字典指AI時代難辨真假
2023年即將進入尾聲，最具代表今年的「詞彙」也已經出爐，據外媒報導，因隨著「真」與「假」之間的界線模糊，加上深偽技術（deepfake）影響，讓全球在去年底深受AI浪潮洗禮，所以「真實的（Athentic）」便成為今年的年度詞彙。根據《BBC》報導，美國權威字典《韋氏字典》（Merriam-Webster）總編輯彼得（Peter Sokolowski）表示，「雖然『真實』是一種令人嚮往的品質，但是它卻很難被定義，而且還存在著爭議。」彼得補充，這個詞在今年因為「『真』和『假』之間的界限」變得越來越模糊，因此受歡迎程度有所上升。2022年底OpenAI推出人工智慧聊天機器人ChatGPT，讓全世界一瞬間受AI浪潮洗禮，這更激發人們對文、圖像及影片「真實性」的興趣。而社交媒體X（前身為Twitter）創辦人馬斯克，就曾表示，「人們應該在社群上更加『真實』」。排名在Athentic後的詞彙為「deepfake」（深偽技術），由於AI的盛行，使得影片或照片皆可以透過人工智慧修改與合成；第3名為「rizz」（charisma的縮寫，有魅力的）及「indict」（起訴）。rizz一詞最早是由Twitch（美國影片串流媒體服務平台）主播Kai Cenat、Silky和Duke Dennis於2021年創造，這個詞在網路上被大量的使用，帶有「#Rizz」的影片更超過75億次的觀看量。而「indict」則是美國前總統川普（Donald Trump）在法律案件中被起訴之後，這個詞就大量被搜尋。2022年的年度詞彙為「煤氣燈操控」（Gaslighting），因同名劇作影響力強大，衍生出「心理操縱」及「情感控制」的意思。在假訊息時代，《韋氏字典》就發現Gaslighting一詞熱搜度暴增1740%。它不僅用在感情關係，就連政治人物也經常使用這樣的手法，因此更廣義地說，Gaslighting泛指「為了自身利益，嚴重誤導他人的行為」。
賴清德在社群平台談藍白合？ 調查局呼籲勿亂傳深偽影片
藍白合不合近日成為社會關注焦點，調查局發現，社群影音平臺出現疑似有各總統候選人之深偽影片，其中有關熱蒐「賴清德回應藍白合」之深偽影片，內容為副總統賴清德強調：藍白兩個都是適任的國家領導人，無論誰正誰副，就可以是成為對的一組等語。調查局強調，已立案並報請彰化地檢署指揮偵辦，積極溯源追查偽造來源。深度偽造(Deepfake)技術日趨成熟，且各式深偽影片廣泛流竄於網路各社群平台，調查局在社群影音平臺發現「賴清德回應藍白合」之深偽影片，內容如下:「我要特別強調，不管藍或白，都是臺灣的主流民意，所推選出來的候選人，非但能夠守護國家的安全，也有辦法提出完整國政藍圖，兩個都是適任的國家領導人，所以兩個對的人，無論誰正誰副，就可以是成為對的一組」。調查局指出，上開影片係不明帳號透過剪輯及變造方式，將近日總統候選人賴清德接受新聞媒體採訪影像與聲音，置換成針對時事議題所發表之立場與看法，並將變造影片上傳至影音社群平臺，向不特定群眾轉傳散布，意圖影響選民判斷及投票意願。經調查局技術檢測發現，該深偽影片聲音模糊有雜訊，影像部分亦不真實自然，再經鑑識軟體分析影像及聲音後，該影片遭惡意變造合成判斷指數 高達 98.1%，具深偽技術痕跡。調查局強調，該深偽影片若持續遭大量轉傳散布，恐使國民眾誤信，進而影響113年總統及立委二合一選舉公平性，調查局已立案、並報請彰化地檢署檢察官指揮偵辦，積極溯源追查偽造來源。調查局提醒民眾，各式深偽影片廣泛流竄各社群平台，調查局正積極蒐證調查，國人如意圖使候選人當選或不當選而散布、播送候選人之深度偽造影音，將觸犯《總統副總統選舉罷免法》第90條、或《公職人員選舉罷免法》第 104條，民眾務必提高警覺，小心查證，切勿任意轉傳散布，以免誤蹈法網。
詐騙令全球年損失破1兆美元！ 「這3個國家」被騙得最慘
非營利組織全球反詐騙聯盟（Gasa）的董事總經理亞伯拉罕（Jorij Abraham）於18日公布2022年8月至2023年8月間，全球因詐騙而損失的總金額約為1.02兆美元，其中新加坡受害者的平均損失最多。據《asiaone》報導，非營利組織全球反詐騙聯盟（Gasa）和資料服務供應商ScamAdviser的聯合研究，是對來自43個國家的4萬9千多人進行調查，參與者會被問及遇到的詐騙類型以及因詐騙而損失的金額等問題，然後再根據該國的人口推斷出數據。研究發現，新加坡的詐騙受害者平均損失最多，每位受害者平均損失4,031美元（約新台幣13萬元），瑞士則位居第二，平均損失3,767美元（約新台幣12萬元），奧地利排名第三，損失為3,484美元（約新台幣11萬元）。亞伯拉罕指出，新加坡警察部隊 (SPF) 於2月發布的數據顯示，新加坡的詐騙受害者在2022年的損失總計高達6,607億美元，高於2021年的6,32億美元。而全球最常見的手法包括，涉及線上購物、身分盜竊和投資的詐騙，亞伯拉罕也說，詐騙者目前正在試著採用更複雜的手法來行詐，因此用來辨認詐騙的傳統方法可能不再有效。例如，網購的消費者在檢查評論區時，還會看到很多假評論；「浪漫詐騙」通常會避免露臉，但現在可以使用深偽技術行詐。對此，亞伯拉罕則表示，雖然民眾提高意識是好事，但在基礎設施層面上，政府還須要採取更多措施來保護消費者，例如阻止詐騙網站。
安心亞現身挺警政署「反詐召集令」 12名人共演反詐情境宣導劇
為提升民眾識詐免疫力，警政署今天舉辦「反詐召集令」記者會，現場邀請戲劇女神安心亞、藝人蔡昌憲、金曲歌王王宏恩等人出席，同時藉由記者會首次發布反詐騙短曲《你麥擱騙啦 Babe》，透過創新視覺、聽覺及名人力挺，期能有效提升、深植全民識詐、反詐騙意識。警政署反詐宣導出新招，今日下午在台北車站一樓大廳多功能展演區，舉辦「反詐召集令：麥擱騙啦！防詐5不，反詐騙專線165」記者會，邀請包括安心亞、蔡昌憲、金曲歌王王宏恩以及超人氣明星IP「柴語錄」等人到場力挺；同時也首次發布反詐騙短曲《你麥擱騙啦 Babe》，由曾經入圍金曲獎的歌手徐哲緯，偕同音樂創作人盧子翔創作，以洗腦式的簡單旋律、詼諧歌詞，將反詐意識深植人心。本次反詐記者會由行政院領軍，由行政院政務委員羅秉成率領行政院打擊詐欺辦公室、內政部長林右昌、及各部會長官、北部12個警政單位、藝人、柴語錄及刑事局吉祥物刑事Bear一同參與。推動反詐騙「五不」原則，即不接、不聽、不點、不傳、不信，希望透過盛大記者會活動宣導、培養提升全民反詐騙意識。內政部林右昌部長表示，此次針對老、中、青3代製拍3系列共12支反詐主題影片及創新反詐曲，期能拋磚引玉，引起社會各行各業重視，攜手各地方政府也一同合作反詐，警民持續創意發想，將識詐及反詐觀念觸及各個層面，推廣至家庭、學校及社會每個角落，也象徵百工百業共同反詐之決心。警政署指出，有鑒於全球許多國家在疫情後面臨新型態網路電信詐騙案件大幅攀升，造成民眾高額財損引起各國重視；為強化全民反詐騙意識，行政院112年7月份滾動式修正並核定「新世代打擊詐欺策略行動綱領1.5」，其中在「識詐」面由內政部主責，而警政署因應層出不窮且不斷翻新的詐騙手法，發想影片宣導主題，包括AI深偽技術、投資詐騙、愛情交友詐騙、假買家、假賣家、假公務員詐騙、車手與收簿手責任、防詐金融圈存、詐欺刑責提升、網路社群堵詐快速通關機制、攔阻、詐騙後求助管道等主題，提供民眾快速辨偽、提升反詐知識守荷包，避免落入詐騙集團各式話術及手段。另外，警政署強調近來祭出各種宣傳方式，以期達全民識詐及詐騙減害效果，如民眾需要更多資訊請上內政部警政署刑事警察局官網、臉書「165全民防騙」及YouTube頻道查詢。
「深度偽造」假訊息干擾大選？ 調查局長：48小時內嚴辦速辦
二合一大選將屆，調查局為防範有心人士利用「深度偽造」(Deepfake）技術，影響選舉結果，今天下午在法務部召開記者會，調查局長王俊立強調，一旦發現不法或接獲報案，將在48小時內「速辦速移」到各地檢署，如果事證明確，速度還會更快，他也特別警告有心人士，如想利用深偽技術干擾選舉，調查局一定會嚴辦、速辦到底。調查局指出，2017年「深度偽造」(Deepfake）技術問世，取名自「深度學習」(Deeplearning）和「偽造」 (Fake ），代表結合電腦視覺與深度學習的技術，得供電腦對多媒體進行人工智慧 (Artificial Intelligence，AI）學習，製作出高度逼真的虛假影音，近來深度偽造技術日趨成熟、製作門檻降低及成品的高擬真性，也淪為有心人士的犯罪工具，因此立法院今年初曾增修《刑法》及《犯罪被害人權益保障法》相關條文，最重可判有期徒刑7年。面臨即將到來的總統及立委二合一選舉，立法院今年6月公布修正版的《總統副總統選舉罷免法》第90條、及《公職人員選轝罷免法》第104 條，未來意圖使候選人當選或不當選而散布、播送候選人之深度偽造影音，最重處7年以下有期徒刑。調查局已加強發掘疑似使用深度偽造技術之爭議影片，並使用多工具、多模型分析爭議影片，搭配人為觀察與查證，輔以該局深度偽造影片檢測流程進行分析，綜合研判影片偽造之可能性，以速辦速移原則進行偵辦，適時公布結果。另外，調查局為加強調查能量，亦加強與友軍單位及社群平臺合作，查處國人在地協力對我國進行認知作戰案件，積極阻斷假訊息傳播源頭。對於涉嫌違法案件，將報請六都檢察署之「AI 生成、或深度偽造（Deepfake ）假訊息案件處理中心」指揮偵辦，達到「立即澄清」、「迅速下架」、「溯源追查主嫌」的目標，保護選舉公平性及維護社會穩定性。調查局使用多工具、多模型分析爭議影片，搭配人為觀察與查證，綜合研判影片是否偽造。（圖／項程鎮攝）
分手後散布前女友不雅片 男遭逮辯自己有「綠帽癖」
吳姓男子和女友分手後，把交往期間拍下的性愛影片、裸照上傳雲端，再把連結傳給追蹤女友IG的粉絲，甚至貼到Dcard「西斯版」和網友交換私密片，女子得知此事後崩潰報警。吳男坦承自己有「綠帽癖」，高雄地院依違反個資法、散布猥褻物品罪判吳男8月，可上訴。2021年5月吳男和女友交往，期間2人拍下大量性愛影片和裸照。2022年1月分手後，吳男申請3個IG帳號，把私密影片及照片的下載連結傳給多位女友IG的男性追蹤者。吳男甚至將連結貼到Dcard「西斯版」，吸引「同好」觀賞，網友們甚至私訊吳男，交換彼此的私密影片、照片。吳男前女友事後收到粉絲警告，趕忙報警處理。警方前往吳男住處搜索時，當場查扣存有性愛影片及照片的手機、平板電腦。警方發現，吳男將不少性愛影片及照片存在LINE相簿中，同步至雲端，立刻查扣相關證物。吳男當場坦承犯行，還說自己是「NTR」（綠帽癖），透過散布自己和前女友的性愛影片及照片讓他人觀看，藉此獲得快感。法官認為，吳男不尊重前女友的隱私，恣意將猥褻影像上傳至網路，揭露前女友的性生活個資供不特定人觀覽，破壞社會善良風俗及前女友對他的信任。此外，數位檔案一經上傳網路，即能迅速散布，事後難以確保網路上的檔案均能悉數刪除，亦有遭他人利用深偽技術（Deepfake）重製的可能，造成女子身心受創甚深，最後依違反個資法、散布猥褻物品罪判吳男8月，可上訴。
假的！「Deepfake」成新詐騙術 警籲防詐勿受騙上當
一切都是假的！網紅小玉傳出接受客製，將名人的臉以電腦技術替換入謎片，藉此獲利千萬，一審遭判刑5年6月，警方指出，這種名為「深偽（Deepfake）」的技術應用，電腦可以透過學習合成影像，以換臉、變聲替換或操縱現有的媒體內容，雖然刑法已修訂增列「妨害性隱私及不實性影像罪章」處罰規定，卻已結合AI成為詐團騙人的新招術，提醒民眾要特別注意防詐。台北市刑大指出，早期「深偽」主要用在模仿政治人物，有心人利用它來散布假訊息，但這項技術現已普及，軟體甚至能在網路下載、教學，應用範圍逐漸擴展至其他領域，包括娛樂、新聞、社交媒體，乃至詐騙集團。警方分析深偽技術，發現已有3類詐騙手法被應用。包括一、電話詐騙：模仿家人、朋友或其他知名人士的聲音，再向受害者騙取金錢及個資。二、視訊詐騙：深偽可合成擬真影片及語音，或結合視訊功能騙人，近期大陸便發生某科技公司老闆，接到好友視訊，向他借款台幣1873萬餘元，老闆匯款後，驚覺好友的影像竟然就是AI合成。三、恐嚇詐騙：個人肖像遭詐騙集團移花接木，用以合成不雅照片，再向當事人恐嚇勒索，今年3月便曾有多位國內知名大學教授，收到類似的合成照片與恐嚇信息的騷擾。北市刑大表示，深偽技術與詐騙手法結合並持續進化，呼籲民眾面對科技的進步帶來的犯罪威脅，最重要的是保持警惕和懷疑的心態，不輕易相信或分享未經驗證的內容，並審慎對待來自陌生人及親朋好友有關金錢的請求，在瀏覽各式資訊時，也應檢查來源的可信度，化被動為主動，確保信息真實可靠。警方強調，接獲任何可疑的詐騙訊息，無法立刻確認時，可即刻撥打警政署165反詐騙專線或前往鄰近派出所諮詢。
「末日自拍」2000萬次瀏覽 AI生成揭示地球最後模樣
人們對世界末日這詞並不陌生，不少科幻片也曾以世界末日作為題材，而國外則有位網友以世界末日作為核心概念經營社群平台，使用人工智慧（AI）模型生成末日的駭人景象圖片，分享至個人社群帳號，多則內容特殊的影片，大幅度提升了他的知名度。這位TikTok「Robot Overloards」博主標榜每日會更新AI合成圖，來展示未來的景象。其中他最多人觀看的影片「末日最後一張自拍」如今已更新至第4集，這幾則讓人毛骨悚然的影片，在過去1週有超過2000萬次的瀏覽量。他過往「神的長相」、「人類沒有統治地球的樣子」、「金字塔如何建成」、「尼斯湖水怪真面目」等影片也得到不少關注。據悉，他使用的是非盈利AI研究組織OpenAI，在今年4月推出的AI製圖模型，DALL-E的升級版DALL-E 2，在這製圖模型輸入敘述文字，便能產出相應的圖像，如今升級後不僅讓產出的圖像更為逼真，還能讓使用者進行圖片編輯。然而他目前使用的這套製圖模型尚未公開發表，處於開發人員限制使用階段，據外媒報導有100萬人正在其等候名單。據Open AI表示，「我們限制了DALL-E 2生成暴力、仇恨、生成成人圖像的能力」。對於深偽技術（Deepfake）風險，Open AI還表示，會使用先進的技術來防止它生成真實人物的真實面孔，包括公眾人物的面孔。
高嘉瑜、雞排妹等119人受害 小玉「換臉謎片」爽賺千萬…判決出爐
本名朱玉宸的26歲百萬訂閱網紅小玉，涉嫌利用AI深偽技術DeepFake軟體，將立委高嘉瑜、高雄市議員黃捷、藝人雞排妹、網紅「白癡公主、奎丁、蕾菈」等名人的臉，合成在謎片女優身上，製成色情影片牟利1338萬餘元，共119人受害，小玉與助理莊炘睿認罪道歉，新北地院今依散布猥褻影像、加重誹謗、違反個資法等罪，判小玉有期徒刑5年6月，助理徒刑3年8月，仍可上訴。審理時，小玉坦承犯行，向被害人致上非常誠摯的歉意，指出他至今都沒有復出，就是因為做了很多反省。檢方起訴指出，為吸引更多粉絲或追蹤者加入與關注，增加網路流量，小玉自2020年7月起，在「台灣網紅挖面」的推特帳號及粉絲團，上傳並播放片長約30秒的合成換臉謎片，招攬網友加入粉絲團。2021年2月起，小玉另在YouTube建立「盜臉駭客」頻道，也在頻道上傳及播放合成的換臉謎片，依無限瀏覽不同長度的換臉謎片，向註冊者收取800到1900元不等會員費，另也可單次或集資購買及瀏覽。檢警調查，許多粉絲為了收看網紅性愛片，加入小玉經營的私密聊天群組，線上瀏覽完整的色情片；私密聊天室也會不定期舉辦「票選」、「集資」活動，選出某位網紅後，再由小玉與其助理製作合成性愛影片上傳牟利，犯罪所得1338萬餘元，共有119人受害，小玉也遭到受害人高嘉瑜、黃捷、雞排妹等83人提告。
「天眼」坐鎮！17LIVE打造「綠色直播」 網路霸凌、腥羶色無所遁形
網路霸凌的猖獗，日前因YouTuber「小玉事件」鬧出滿城風雨再次聚焦，更顯得10月「國際反霸凌月」議題之刻不容緩。其實網路霸凌尤好發於「網路直播」上，亞洲最大影音串流平台17LIVE為遏止歪風，致力推動綠色直播環境，不僅是台灣直播平台最早與iWIN建立網路業者自律框架，並獲得iWin 網路安全內容防護機制的合作夥伴，並推出優良主播手冊，教育宣導主播正確直播觀念。尤其獨創「SkyEye天眼監控系統」，保障直播主與觀看者的權益，營造友善的網路伊甸園，讓霸凌銷聲匿跡。抵禦網路霸凌 17LIVE打造「綠色直播防火牆」炒得沸沸揚揚的「小玉事件」，網紅利用深偽技術「換臉」變造不雅影片，讓上百公眾人物深受其害；而中國網紅日前在直播時，更因網友慫恿下灌下農藥，釀成悲劇，這兩樁事件皆發生在「國際反霸凌月」的10月，形式雖不同，卻共同凸顯「網路霸凌」正以各種樣貌無孔不入的侵入現實生活，稍有不慎，皆可能造成難以挽回的傷痛。為抵禦這股令人膽寒的「網路霸凌風暴」，近年「綠色直播」浪潮也起而抗衡，就要還給網路一處真正的無汙染的數位園地。近幾年拜數位科技的躍進，「直播」早已深入你我作息的日常，未來影響力只會有增無減。所謂「綠色直播」，便是指直播環境下，並無裸露或不雅內容之傳遞，當然，這包含的不單是直播主而已，規範的範疇更涵蓋觀賞者，雙向的霸凌皆不應該，而為打造乾淨的綠色直播空間，17LIVE早已超前部署，除了參與iWIN多方利害關係人諮詢會議，與iWIN溝通修正用戶服務規範條款，推出優良主播手冊，教育宣導主播正確直播觀念，更建立抵禦網路霸凌、性騷擾的利器，便是「SkyEye天眼系統」。透過AI監控，能有效避免LIVER遇上用戶不理智的謾罵或威脅等被霸凌的風險。(此為示意圖，非LIVER當事人)「天眼」即時監控 違規LIVER「驅除出境」17LIVE早於2015年便獨創SkyEye技術團隊，宛如網路治安MIB般，以「天眼」巡弋著直播環境的風吹草動。「SkyEye天眼監控系統」主要功能，是24小時監察所有LIVER於開播時是否有違反17LIVE用戶協議及社會法律的規範，維持兼有娛樂性但卻不汙穢的環境給用戶，如若發現LIVER於直播時，作出違反用戶協議及社會法律規範的行為時，「SkyEye」為了維護大眾用戶權益，該LIVER最嚴重將會被「驅除出境」，也就是帳戶永久封鎖，被踢出17LIVE，當然更無法取得該帳號之分潤。17LIVE台灣品牌暨企業溝通部副總經理凃佩君就表示，像是露點、性挑逗、霸凌、吸毒、自殺等行為，為避免他人仿效，都會直接被處以最重懲罰，也就是封鎖帳號，等於被放逐出17LIVE的直播世界。其中，吸毒除了封鎖帳號，也會封鎖裝置，該裝置無法創建新帳號，17LIVE更會將側錄畫面提供並配合檢警辦案；而疑似自殺行為者也將立即協助報警處理。即便是次一等的不良示範，如LIVER於直播間做出喝酒、抽菸等行為，當下則會關播，連續三次犯規又屢勸不聽，也會面臨帳號封鎖的嚴重後果。「天眼」能把關用戶與LIVER的不當言論，提供用戶們一個有互動性、即時性、娛樂性的健康平台。AI把關用戶言論 消弭霸凌機會當然，網路霸凌的形成，絕對不僅是不肖直播主單方面的興風作浪，有更多時候，隱於螢幕外的觀看者，更容易扮演著霸凌者、甚至塑造直播間「集體霸凌」的恐怖氛圍，這時「SkyEye天眼」發揮的AI監控功能就格外重要。舉凡用戶只要在留言時，言語涉及恐怖、暴力、威脅、噁心、騷擾或侵害別人等內容時，都會被系統判定為違規。導入人工智慧的AI技術，審查團隊24小時的即時監控，為的就是營造綠色直播的善意空間，讓LIVER與用戶皆能放心互動，無須擔憂突來的擦槍走火汙染直播環境。除此之外，17LIVE再為保險上鎖，官網還有「吹哨者機制」，提供24小時運作的電子郵件信箱(support@17.LIVE)，作為17LIVE、LIVER與用戶的第一線橋梁，若有不法情事，團隊都能立即處理。在直播大時代浪潮的推波助瀾下，太多網路平台衍伸的亂象不僅令人瞠目結舌，許多霸凌悲劇更讓人心痛，「SkyEye天眼監控系統」利用AI人工智慧、即時偵測、24小時監控、緊急處理小組甚至法務專家，織成一張名為綠色直播的「天網」，確保內容無虞，提供用戶們一個有互動性、即時性、娛樂性的健康平台，也是呼應國際反霸凌月的精神，還給大家清淨的網路空間。