AI換臉技術(shù)被用于制造虛假視頻或進行詐騙的事件有哪些?

看到很多關(guān)于AI換臉技術(shù)的討論,但同時也擔(dān)心這種技術(shù)被用于不法用途。有沒有人遇到過或者聽說過AI換臉技術(shù)被用于制造虛假視頻或進行詐騙的情況?具體的場景是怎樣的?

請先 登錄 后評論

1 個回答

扶搖

 1. 假冒名人詐騙:2023年10月,一詐騙團伙被提起*,因其假冒演員“靳東”獲取受害人信任,再以投資、公益、戀愛等各種理由索要錢款,共詐騙多名被害人共計*30余萬元。

2. 假冒熟人詐騙:在一起案例中,郭先生的朋友突然打來微信視頻*,說自己在外地投標(biāo),需要430萬的保證金,想借郭先生公司的賬戶走一下賬。這位“朋友”隨即將錢打到了郭先生的賬戶上,并且截圖讓郭先生確認。雖然還未等來銀行的通知信息,但郭先生還是先把錢轉(zhuǎn)了過去。結(jié)果,跟他視頻的,是用AI換了臉的騙子,佯裝成郭先生的朋友來騙錢。

3. 多人變臉詐騙:近期,香港發(fā)生一起規(guī)模巨大的AI“深度偽造”詐騙案,詐騙金額高達2億港元。詐騙者通過公司的YouTube視頻和從其他公開渠道收集公司高管的音視頻資料,再利用Deepfake(深度偽造)進行視頻生成,形成多人視頻會議的畫面結(jié)果。這家跨國公司香港分公司職員,收到英國總部要求進行視頻會議,視頻中對方都顯示了與以往相同的容貌,職員根據(jù)會議指令前后轉(zhuǎn)賬了15次,共計2億港元。

4. 數(shù)字人盜臉帶貨:有不法分子利用“AI換臉”軟件,*生成虛假的換臉淫穢視頻,在*社交軟件上進行傳播,能夠吸引較多關(guān)注,并從中牟利。

5. 陜西西安AI換臉詐騙案:陜西西安財務(wù)人員張女士與老板視頻通話,老板要求她轉(zhuǎn)賬186萬元到一個指定賬號。轉(zhuǎn)賬之后,張女士按照規(guī)定將電子憑證發(fā)到了公司財務(wù)內(nèi)部群里,然而出乎意料的是,群里的老板看到信息后,向她詢問這筆資金的來由,這時張女士意識到被騙并報警。 

請先 登錄 后評論