新華社旗下《瞭望新聞周刊》今期專題報導，以題為「惕！“AI換臉”詐騙出現涉政苗頭」指出，已有多宗AI（人工智慧）詐騙事件，利用「換臉」及擬聲技術，冒充領導幹部行騙增，「一些領導幹部由於工作原因出鏡率相對較高，這為騙子提供了豐富的面部識別素材；在電視、廣播新聞中也可以找到一些領導幹部的大段同期聲，這令『偽造成本』更低」，提醒民眾高度警惕。
《瞭望新聞周刊》報導指，北方省分警方近日發布一宗利用「AI換臉」的「涉政詐騙」案件。不法分子模擬偽造的是受害人認識的領導幹部。「換臉」後騙子在微信視訊通話中提出，其朋友有一筆工程保證金需要借用受害人公司的對公帳戶。僅10多分鐘交流，受害人就轉帳數百萬元人民幣。
國網信息通信產業集團安全科研專家趙明明表示，「只需提取最少10個字、最多32個字，就可以合成其聲音」。
《天津日報》報導引述天津科技大學人工智能學院副院長張賢坤指，「AI換臉擬聲」非新技術，但隨著人工智慧技術的不斷發展和完善，特別是電腦運算力的提升，現在的「換臉」效果更加逼真，在電影、電視、廣告和遊戲領域得到了廣泛的應用。
報導指，中國在2020年和2021年分別頒布的「民法典」、「個人信息保護法」都對生物識別資訊作出規定。最高人民法院2021年發布的「關於審理使用人臉識別技術處理個人信息相關民事案件適用法律若干問題的規定」，以及2022年12月多部門聯合發布的「互聯網信息服務深度合成管理規定」也進一步做出規範。
天津師範大學法學院焦艷玲教授認為，有這麼多法律規定，利用AI換臉擬聲違法的情況仍屢屢發生，「反映出核心問題並不在立法層面，而在於法律的執行層面以及公民的意識層面」，必須加大對違法行為的預防和監管。
新聞來源：棱角編輯部
