騙子用「AI模仿女兒聲音」索千萬贖金　美國媽差點信：哭法都一樣

近日一名美國媽媽接到一通電話，說她的15歲女兒被綁架，對方要她拿出100萬美元（約台幣3052萬元）的贖金，詐騙集團用AI軟體模仿女兒聲音，而因為實在太像，連哭法也一樣，讓她差點相信，但女兒其實人沒事。

據《azfamily》報導，女子德斯蒂法諾（Jennifer DeStefano）接到一通陌生電話，當她接起來，電話那頭是15歲女兒的哭喊聲。德斯蒂法諾急問，發生什麼事。女兒說，「媽媽我搞砸了。」當德斯蒂法諾聽到女兒的一連串哭泣聲，她的困惑轉為恐懼，因為外出滑雪的女兒可能發生意外。

一位男人在電話那頭說，「把妳的頭往後仰。」德斯蒂法諾表示，等等，現在是什麼狀況。男人指出，「聽著，妳女兒在我這，如果妳要報警，我就餵她毒品，把她送到墨西哥。」女兒又說，「媽媽，救救我。」德斯蒂法諾在這時，相信女兒遇到麻煩，因為聲音根本就是女兒，連語氣轉折和哭的方式都一樣。

詐騙集團先跟德斯蒂法諾要100萬美元（約台幣3052萬元）贖金，之後又讓步變成5萬美元（約新台幣15.2萬元）。之後，德斯蒂法諾跟詐騙集團講話時，請友人報警，她在4分鐘後聯繫上女兒，發現女兒其實很安全，這讓她氣壞了。據了解，德斯蒂法諾的女兒都沒說話，電話那頭的聲音是AI創造出的分身。亞利桑那州立大學教授甘巴提（Subbarao Kambhampati）說，語音複製技術正在迅速改進。「一開始它需要很多的樣本，現在用一些方法，在3秒鐘就可以達到目的，可以很接近你的聲音。」

甘巴提表示，AI的深度學習技術目前幾乎沒有受到監督，它是一種新玩具，可能朝好的方面發展，也有另擔憂的用途。FBI鳳凰城辦公室的助理梅奧（Dan Mayo）說，語音複製技術會讓騙子在社群上找獵物。報導指出，目前尚不清楚有多少人接到類似詐騙電話，梅奧表示，「相信我，聯邦調查局正在調查這些人。」德斯蒂法說，當她知道是詐騙後，坐下來哭了，因為這個詐騙是多麼的真實。