有親建制社交媒體專頁,上周六(26日)散播一段 AI Deepfake(深度偽造)技術製作的片段,聲稱是流亡港人羅冠聰、劉祖迪和劉珈汶的緊急視像會議「對話流出」,指身在英國的三人,討論如何應對英國修訂《引渡法》。
《棱角》調查發現,該條深度偽造片段取用三人的新聞訪問,以及組織的倡議的片段製作,再經一個既存專門散佈不實資訊,針對香港公民社會的虛假戶口網絡,傳播到各親建制的 Facebook 社交平台專頁,惟效果不彰,有網民亦留言指出是 AI 片段,不置可信。
此前《棱角》曾報導,至少有一個社交媒體網絡針對香港公民社會及傳媒,抹黑《蘋果日報》創辦人黎智英、大學講師、民調機構,以至傳媒人等,跟中共的認知作戰模式非常相近。
劉珈汶指今年 3 月時,已有另一親建制 Facebook 專頁製作 Deepfake 片段假冒她,但今次片段質素更高,提醒外界對此類國家級抹黑保持警惕。劉祖迪則指,片段標誌 AI 技術開始被濫用於針對香港異見人士。
東京大學先端科技研究中心客席研究員唐若凌指,影片是意圖通過塑造誤導性敘事、心理操控及資訊滲透三大攻擊模式,結合社交媒體與 AI 放大假訊息傳播,侵蝕香港及離散社群的信任與民主。
她認為,港人社群需要提升媒體素養及建立社群監察網絡,以應對資源匱乏的防禦挑戰。
(編按:劉祖廸為《棱角》執行總監,本次報導中,劉僅提供其訪問影片及相片以供查證。)
《棱角》調查:虛假戶口助傳播
《棱角》調查發現,原片於星期六香港時間上午 10 時 12 分上載於只有 4,400 多追蹤者的「黃腦膠戰」專頁,至今只被分享 52 次,共六千次觀看。
首先傳播是一個有 1,200 追蹤者的戶口 Yiu Hung 以及 Kelly Lam,於 11 時 03 分傳去各個藍絲群組,但回響不大,僅 Save HK (救救香港)有較多回應,其中已有人質疑是否 AI 影片。
Yiu Hung 及「黃腦膠戰」疑為一個專門散佈不實資訊,針對香港公民社會的虛假戶口網絡節點(Node)。
Yiu Hung 自 2020 年起已制作及散播各種針對香港公民社會的圖片,最近一張是針對記協及區家麟。
而 2023 年成立的「黃腦膠戰」,則主力製作針對黎智英、黃色經濟圈,以及被警方國安處通緝的港人圖片。
Yiu Hung 亦有轉載「hkwisdom 天機」,一個 2022 年成立的建制派網媒。
《棱角》查證,網媒的運營公司是藍色經濟共享集團有限公司,同名的網頁顯示,負責人為建制派「網紅」,音樂教師高松傑;而「hkwisdom 天機」的合作伙伴,亦只有高松傑有份成立的網絡紅人工作者協會。
網媒平時會有生活題材,由年輕人主持節目,但亦有大量宣揚中國述事的影片。
AI 影片進行認知作戰
東京大學先端科技研究中心客席研究員唐若凌指,這些影片是意圖通過塑造誤導性敘事、心理操控及資訊滲透三大攻擊模式,結合社交媒體與 AI 放大假訊息傳播,侵蝕香港及離散社群的信任與民主。
她分析,這種策略不單純是散布謊言,而是要分化社會共識、削弱公眾對信息來源及被牽涉各方的信任。
「這種手法特別體現在偽造政治人物或社運人士的言行影像,以抹黑形象或挑起矛盾,是現代資訊戰的重要武器。」
而當虛假影片精準且大規模地針對特定受眾投放,將大幅增加假訊息傳播的效率與效果,形成前所未有的資訊操控能力。
當人們無法達成「事實是什麼」的共識,理性的討論和社會凝聚力就會瓦解;當民眾無法輕易辨別真假信息時,對媒體、機構和公共資訊的信任將大幅下降。
「雖然目前某些虛假信息策略效果有限,但未來對社群的影響將更加深遠和複雜。」
她認為,AI 技術進步將使虛假信息的製造成本降低,憑藉其能夠高度仿效真人形象與聲音,製作幾乎無法分辨真假、情感衝擊強烈的假影片或錄音,成為認知作戰中的主要工具,而欺騙性亦大大增強。
認知作戰是以人類認知、感知和決策機制為戰場,通過操控信息來影響目標群體的心理和社會行動。
AI 在加拿大及台灣影響選舉
這類網絡早在今年加拿大大選,已被加拿大政府注意到在干預選舉。
《棱角》曾報導,保守黨候選人鄭敬基(Joe Tay)成為中國的跨境鎮壓行動目標,被人有組織地在社交媒體抹黑。
研究失實資訊傳播的學者麥基爾大學(McGill University) 資訊研究學院數據探勘敎授 Benjamin Fung 當時分析,這種操控及放大不實資訊的行動涉及更多人工智能,針對香港人社群下手。
李紫楓(Sze-Fung Lee)亦曾撰寫報告,指如「今日正言」一類專頁,經常被港澳辦及中聯辦轉載,不少作者與國家黨媒如新華社有關聯,「或是國家機器一部分」。
此前《棱角》亦曾報導,有來自中國的虛假戶口扮成英國本地人,翻查該些帳戶,發現到兩個明顯網絡嘗試煽動反港人移民情緒。
其中一個持續針對香港公民社會及傳媒,抹黑《蘋果日報》創辦人黎智英、大學講師、民調機構,以至傳媒人等,至今仍然運作,跟中共的認知作戰模式非常相近。
其中 Yiu Hung 正是後者的網絡節點之一,經常轉載「今日正言」及「籃舌頭」等專頁,所刊載的圖片亦一致。
唐若凌亦分析台灣經驗,指台灣持續面對複雜的假訊息攻勢,尤其是 2024 年選舉時出現各種陰謀論和偽造影片,意圖動搖人民對政府和制度的信任。
「這種情況揭示了一個關鍵問題:打擊虛假信息需要大量資源,但現實情況是大型科技平台正在削減相關預算和功能,獨立事實查核組織面臨資金短缺,而惡意影響力量卻能輕易利用先進技術製造和傳播虛假內容。」
「這不僅是『每人有自己的真相』的問題,而是社會失去共同認同基本事實的能力。」
她認為,由於香港政府並不會積極做事實查核,或打擊虛假信息,香港在地及離散社群更需要採取多層面的自發防禦策略,故社群的媒體素養教育至為關鍵,以提高辨識虛假信息的能力。
「此需要長期的人力與信任基礎,亦要建立持續的社群監察網絡。」
Facebook 的母公司 META 2020 年曾稱會移除通過合併、替換或疊加內容,使其看似真實的人工智能或機器學習的產影片,但今年的社群守則,則只會移除與選舉或人口普查相關的政治內容,而在重要公共事務上具有顯著誤導公眾的風險者,只可能會在內容上添加信息標籤,或拒絕將其作為廣告提交。
如何分辯 AI Deepfake 影片?
近兩三年,美國已發現有大量 Deepfake 影片針對前總統拜登,以及現任總統特朗普,由類似今次事件的舊片套上 AI 人聲,以至各種換臉等,均影響美國人對社會及民主的判斷。
麻省理工學院媒體實驗室(MIT Media Lab)指出,現時要分辨是否 AI Deepfake 影片,最好是留心臉部表情及口型是否自然,以及嘴部、額頭、眉毛及臉頰是否較模糊。
現時的 AI 仍無法非常細緻處理如眨眼、視線變化或臉部抽蓄等動作細節,而臉部邊緣處的髮絲或會出現不連貫的狀況。
根據美國西北大學凱洛格商學院(Kellogg School of Management, Northwestern University) Matthew Groh 與麻省理工學院(MIT)帶領的研究指出,人類對分辨文字轉語音(Text-to-speech)及沒有字幕的影片,仍有 74% 準繩度,故今次事件中,一般人較容易及有信心分辨出影片非為真實。
Matthew Groh 認為,讀者首先應相信自己直覺,再考慮新聞脈絡,推斷該些片段是否可信。
AI Deepfake 片段稱三人需逃英
劉珈汶向《棱角》確認,她在上周六收到通知,指有親建制專頁傳播該條片段。
劉珈汶、劉祖迪及羅冠聰都能夠找出被用作 Deepfake 的原始影片,屬新聞片段及組織的倡議影片。
劉是《追新聞》2023 年 6 月 1 日的訪問,而羅冠聰是2022 年 3 月 13 日「香港民主基金會 HKDC」就香港 47人案 228 首次提堂周年的影片。
劉祖迪《追新聞》是 2023 年 7 月 5 日,在英國國會跟前職工盟總幹事蒙兆達,就國安處懸紅通緝的簡報會。
片段中,劉祖迪和劉珈汶稱因應英國修訂《引渡法》,要「買定機票先」、「執定嘢先」,羅冠聰更稱「我死 X 咗佢算啦」。
片段中發言者的聲音與口型並不吻合,而在另一畫面中處於待機狀態的人,畫面會重覆口型開合,而其嘴部、額頭及臉頰均較模糊。
劉珈汶說此為國家支持的假訊息行動,旨在誹謗、混淆視聽、恐嚇民眾。
時事評論員黃世澤稱已就事件報案,指根據英國《網上安全法 Online Safety Act》,社交平台有責任保障用戶免於非法內容傷害。
(編按:劉祖廸為《棱角》執行總監,本次報導中劉僅提供其訪問影片及相片以供查證。)
棱角編輯部