有親建制社交媒體專頁，上周六（26日）散播一段 AI Deepfake（深度偽造）技術製作的片段，聲稱是流亡港人羅冠聰、劉祖迪和劉珈汶的緊急視像會議「對話流出」，指身在英國的三人，討論如何應對英國修訂《引渡法》。
《棱角》調查發現，該條深度偽造片段取用三人的新聞訪問，以及組織的倡議的片段製作，再經一個既存專門散佈不實資訊，針對香港公民社會的虛假戶口網絡，傳播到各親建制的 Facebook 社交平台專頁，惟效果不彰，有網民亦留言指出是 AI 片段，不置可信。
此前《棱角》曾報導，至少有一個社交媒體網絡針對香港公民社會及傳媒，抹黑《蘋果日報》創辦人黎智英、大學講師、民調機構，以至傳媒人等，跟中共的認知作戰模式非常相近。
劉珈汶指今年 3 月時，已有另一親建制 Facebook 專頁製作 Deepfake 片段假冒她，但今次片段質素更高，提醒外界對此類國家級抹黑保持警惕。劉祖迪則指，片段標誌 AI 技術開始被濫用於針對香港異見人士。
東京大學先端科技研究中心客席研究員唐若凌指，影片是意圖通過塑造誤導性敘事、心理操控及資訊滲透三大攻擊模式，結合社交媒體與 AI 放大假訊息傳播，侵蝕香港及離散社群的信任與民主。
她認為，港人社群需要提升媒體素養及建立社群監察網絡，以應對資源匱乏的防禦挑戰。
獨立研究員李紫楓亦提出，中國可能利用深偽技術作為資訊戰（IO）工具，針對香港社群進行操控，例如製作虛假的第一人稱視頻或政治犯證詞，此類操作可能結合社交媒體放大效應，影響香港本地及離散社群，以誤導公眾或破壞信任。
雖然當前案例顯示，低質量 Deepfake 影片僅在親建制 Facebook 群組中傳播，未廣泛擴散，但亦可能為未來更大規模行動作試驗。
（編按：劉祖廸為《棱角》執行總監，本次報導中，劉僅提供其訪問影片及相片以供查證。）
《棱角》調查：虛假戶口助傳播
《棱角》調查發現，原片於星期六香港時間上午 10 時 12 分上載於只有 4,400 多追蹤者的「黃腦膠戰」專頁，至今只被分享 52 次，共六千次觀看。
首先傳播是一個有 1,200 追蹤者的戶口 Yiu Hung 以及 Kelly Lam，於 11 時 03 分傳去各個藍絲群組，但回響不大，僅 Save HK （救救香港）有較多回應，其中已有人質疑是否 AI 影片。
Yiu Hung 及「黃腦膠戰」疑為一個專門散佈不實資訊，針對香港公民社會的虛假戶口網絡節點（Node）。
Yiu Hung 自 2020 年起已制作及散播各種針對香港公民社會的圖片，最近一張是針對記協及區家麟。
而 2023 年成立的「黃腦膠戰」，則主力製作針對黎智英、黃色經濟圈，以及被警方國安處通緝的港人圖片。
Yiu Hung 亦有轉載「hkwisdom 天機」，一個 2022 年成立的建制派網媒。
《棱角》查證，網媒的運營公司是藍色經濟共享集團有限公司，同名的網頁顯示，負責人為建制派「網紅」，音樂教師高松傑；而「hkwisdom 天機」的合作伙伴，亦只有高松傑有份成立的網絡紅人工作者協會。
網媒平時會有生活題材，由年輕人主持節目，但亦有大量宣揚中國述事的影片。
AI 影片進行認知作戰
東京大學先端科技研究中心客席研究員唐若凌指，這些影片是意圖通過塑造誤導性敘事、心理操控及資訊滲透三大攻擊模式，結合社交媒體與 AI 放大假訊息傳播，侵蝕香港及離散社群的信任與民主。
她分析，這種策略不單純是散布謊言，而是要分化社會共識、削弱公眾對信息來源及被牽涉各方的信任。
「這種手法特別體現在偽造政治人物或社運人士的言行影像，以抹黑形象或挑起矛盾，是現代資訊戰的重要武器。」
而當虛假影片精準且大規模地針對特定受眾投放，將大幅增加假訊息傳播的效率與效果，形成前所未有的資訊操控能力。
分析指是次 Deepfake 未有重大影響力
獨立研究員李紫楓（Sze-Fung Lee）跟《棱角》分析後，認為今次資訊操縱行動（IO）主要針對香港倡議圈，意圖激起對引渡法修訂的恐懼與焦慮。
然現有數據顯示，深偽影片主要在親建制的 Facebook 群組中流傳，互動率極低（原帖僅有147次點讚、評論及分享，總觀看次數 8200 次）。雖然有跡象顯示試圖突破同溫層，但成效不彰，部分留言更指出這是人工智能生成的影片，顯示其影響力有限。
通常深偽影片的傳播，始於代理賬戶、意見領袖（KOL）賬戶或灰色媒體頁面（擁有大量追隨者並疑似與香港／中國官方有關聯的賬戶／頁面）發佈的帖子，隨後在不同頁面被分享。
其中，KOL 及灰色媒體頁面在放大傳播方面扮演重要角色。
「然而，今次行動未見由主要 KOL 或灰色媒體頁面推廣。相反，影片主要由一批賬戶在親北京群組內分享，且多數分享集中在影片首次發佈後的兩小時內（香港時間 11:03 至 11:59）。這顯示相關賬戶可能存在協作，但證據尚未確鑿。」
許多傳播賬戶特徵常見於垃圾或代理賬戶：缺乏個人身份信息，例如無學校、工作、流行文化喜好或定位簽到的記錄，頭像多使用物品、風景圖片，且公開帖文僅限於親中內容。
然而，需注意的是，並非所有參與賬戶均為垃圾/代理賬戶，部分賬戶看似真實用戶。
從部署策略看，行動更似為未來操作的初步測試（alpha test），旨在試探反應。
其低調傳播模式及有限影響力，顯示其目的可能在於測試技術或社群反應，而非大規模推廣。
「值得注意的是，Facebook上的影片，特別是在親北京群組發佈的內容，常會在 WhatsApp 等私人老年群組中進一步傳播。這些群組的傳播數據難以追蹤，但確實在一定程度上影響離散社群的看法。」
難分事實 影響深遠
唐若凌亦指，當人們無法達成「事實是什麼」的共識，理性的討論和社會凝聚力就會瓦解；當民眾無法輕易辨別真假信息時，對媒體、機構和公共資訊的信任將大幅下降。
「雖然目前某些虛假信息策略效果有限，但未來對社群的影響將更加深遠和複雜。」
李紫楓提到，該「深偽」影片質素極低，更接近「廉價偽造」（cheapfakes）。影片中語音與口型不同步，合成語音聽起來怪異且不自然，面部表情亦有明顯延遲與重複：例如表情停頓或重複。
傳播者似僅在自身同溫層內放大敘事，未能有效影響更廣泛的受眾。
唐若凌分析，AI 技術進步將使虛假信息的製造成本降低，憑藉其能夠高度仿效真人形象與聲音，製作幾乎無法分辨真假、情感衝擊強烈的假影片或錄音，成為認知作戰中的主要工具，而欺騙性亦大大增強。
認知作戰是以人類認知、感知和決策機制為戰場，通過操控信息來影響目標群體的心理和社會行動。
AI 在加拿大及台灣影響選舉
這類網絡早在今年加拿大大選，已被加拿大政府注意到在干預選舉。
《棱角》曾報導，保守黨候選人鄭敬基（Joe Tay）成為中國的跨境鎮壓行動目標，被人有組織地在社交媒體抹黑。
此前《棱角》亦曾報導，有來自中國的虛假戶口扮成英國本地人，翻查該些帳戶，發現到兩個明顯網絡嘗試煽動反港人移民情緒。
其中一個持續針對香港公民社會及傳媒，抹黑《蘋果日報》創辦人黎智英、大學講師、民調機構，以至傳媒人等，至今仍然運作，跟中共的認知作戰模式非常相近。
其中 Yiu Hung 正是後者的網絡節點之一，經常轉載「今日正言」及「籃舌頭」等專頁，所刊載的圖片亦一致。
唐若凌亦分析台灣經驗，指台灣持續面對複雜的假訊息攻勢，尤其是 2024 年選舉時出現各種陰謀論和偽造影片，意圖動搖人民對政府和制度的信任。
「這種情況揭示了一個關鍵問題：打擊虛假信息需要大量資源，但現實情況是大型科技平台正在削減相關預算和功能，獨立事實查核組織面臨資金短缺，而惡意影響力量卻能輕易利用先進技術製造和傳播虛假內容。」
「這不僅是『每人有自己的真相』的問題，而是社會失去共同認同基本事實的能力。」
香港需要獨立實查核機構
她認為，由於香港政府並不會積極做事實查核，或打擊虛假信息，香港在地及離散社群更需要採取多層面的自發防禦策略，故社群的媒體素養教育至為關鍵，以提高辨識虛假信息的能力。
「此需要長期的人力與信任基礎，亦要建立持續的社群監察網絡。」
李紫楓亦同意，社群需要一個獨立並在海外營運，獲國際事實查核網絡（International Fact-Checking network, IFCN）的認證的事實查核機構。
李紫楓又指出中共的資訊戰、認知作戰近年更多轉為利用民主社會裡本來就具爭議性的議題，放大當中的問題和情緒，將社會、政治更兩極化。
「試圖營造出香港人對英國政府感到失望的氛圍，過去香港人所做的努力與對英國的貢獻皆被否定，香港人已沒有利用價值，將被棄如敝屣，香港人是「棄卒」等 — 撇除deepfakes 影片本身技術極為低劣以外，內容、敘事、和策略的本質是正中香港人的弱點。」
「英政府修改逃犯條例一事本來就在海外港人社群牽起一陣恐慌和反彈，惡意行為者（malign actors）利用機會，放大這些爭議和恐懼，如果被更擁有更高明的手段的人操縱這場影響力作戰，效果恐怕不止如此。」
去年李紫楓亦有一份報告，指中國可能利用深偽技術作為資訊戰工具，針對香港社群進行操控，例如製作虛假的第一人稱視頻或政治犯證詞，以誤導公眾或破壞信任。
「如今這些預測似乎正逐步成為現實。」
Facebook 的母公司 META 2020 年曾稱會移除通過合併、替換或疊加內容，使其看似真實的人工智能或機器學習的產影片，但今年的社群守則，則只會移除與選舉或人口普查相關的政治內容，而在重要公共事務上具有顯著誤導公眾的風險者，只可能會在內容上添加信息標籤，或拒絕將其作為廣告提交。
如何分辯 AI Deepfake 影片？
近兩三年，美國已發現有大量 Deepfake 影片針對前總統拜登，以及現任總統特朗普，由類似今次事件的舊片套上 AI 人聲，以至各種換臉等，均影響美國人對社會及民主的判斷。
麻省理工學院媒體實驗室（MIT Media Lab）指出，現時要分辨是否 AI Deepfake 影片，最好是留心臉部表情及口型是否自然，以及嘴部、額頭、眉毛及臉頰是否較模糊。
李紫楓提到，今次影片中語音與口型不同步，合成語音聽起來怪異且不自然，面部表情亦有明顯延遲與重複（例如表情停頓或重複）。
現時的 AI 仍無法非常細緻處理如眨眼、視線變化或臉部抽蓄等動作細節，而臉部邊緣處的髮絲或會出現不連貫的狀況。
根據美國西北大學凱洛格商學院（Kellogg School of Management, Northwestern University） Matthew Groh 與麻省理工學院（MIT）帶領的研究指出，人類對分辨文字轉語音（Text-to-speech）及沒有字幕的影片，仍有 74% 準繩度，故今次事件中，一般人較容易及有信心分辨出影片非為真實。
Matthew Groh 認為，讀者首先應相信自己直覺，再考慮新聞脈絡，推斷該些片段是否可信。
AI Deepfake 片段稱三人需逃英
劉珈汶向《棱角》確認，她在上周六收到通知，指有親建制專頁傳播該條片段。
劉珈汶、劉祖迪及羅冠聰都能夠找出被用作 Deepfake 的原始影片，屬新聞片段及組織的倡議影片。
劉是《追新聞》2023 年 6 月 1 日的訪問，而羅冠聰是2022 年 3 月 13 日「香港民主基金會 HKDC」就香港 47人案 228 首次提堂周年的影片。
劉祖迪《追新聞》是 2023 年 7 月 5 日，在英國國會跟前職工盟總幹事蒙兆達，就國安處懸紅通緝的簡報會。
片段中，劉祖迪和劉珈汶稱因應英國修訂《引渡法》，要「買定機票先」、「執定嘢先」，羅冠聰更稱「我死 X 咗佢算啦」。
片段中發言者的聲音與口型並不吻合，而在另一畫面中處於待機狀態的人，畫面會重覆口型開合，而其嘴部、額頭及臉頰均較模糊。
劉珈汶說此為國家支持的假訊息行動，旨在誹謗、混淆視聽、恐嚇民眾。
時事評論員黃世澤稱已就事件報案，指根據英國《網上安全法 Online Safety Act》，社交平台有責任保障用戶免於非法內容傷害。
（編按：劉祖廸為《棱角》執行總監，本次報導中劉僅提供其訪問影片及相片以供查證。）
棱角編輯部
