主頁 政治 認知作戰 | AI Dee...

認知作戰 | AI Deepfake 劉珈汶再現 稱呼籲投票 疑針對長者

香港政府在大埔宏福苑大火後,決意繼續本周日(7日)舉行立法會選舉,出盡法寶繼續宣傳。《棱角》再次發現,有人工智能(AI)生成的前區議員、香港民主委員會(HKDC)高級國際倡議幹事劉珈汶的 Deepfake (深度偽造)片段在網上及較多長者的地區以及親北京 WhatsApp 群組流傳,稱她呼籲港人投票。
劉珈汶表明「多謝國家機器咁睇得起我覺得我個樣幫手到催票」,批評政府在災難級火災之後仍然堅持繼續選舉,將國安任務凌駕民生,甚至將尋求問責聲音壓下,「實在想像唔到選民仲有咩動力去投票。」
劉跟《棱角》確認,原始片段來自今年 2 月「海內外香港人民意研究計劃」的呼籲登記影片,亦慶幸今次有留言迅速留意到是 AI Deepfake 影片。有研究員指,由於香港人口老化,年青人亦相對能夠分辨到 AI 影片,必然是向未有足夠 AI 認知的老年人入手。
而發佈者則是一個去年 7 月開設的香港戶口,其 Threads 及 Instagram 除呼籲支持選舉外,沒有任何內容,其帳戶亦符合早前《棱角》發現的代理戶口(Proxy Account)規律,以英文名、港人姓氏、及一組數字組成。
| AI Deepfake 再現 針對老年人行動

該段影片在香港時間周五(5日)下午 1 時 28 分首次出現於 Threads,由一個@henrywong1994056,從未有發佈任何帖文的香港戶口發出,該戶在香港時間晚上 10 時至 11 時仍有發文。

劉珈汶向《棱角》表示,她在英國時間周四(4日)已知悉再有 Deepfake (深度偽造)片段較多長者的地區以及親北京 WhatsApp 群組流傳,稱她呼籲港人投票。

東京大學先端科技研究中心客席研究員唐若凌(Athena Tong)指,由於香港人口老化,年青人亦相對能夠分辨到 AI 影片,必然是向未有足夠 AI 認知的老年人入手,「特別市民以及選舉結果會比較大比例來自老年人。」

她指,香港政府現時更不會支持事實查證機構,香港亦無一個健康的公民社會支持查證。與台灣相比,香港的事實查證機構面對更少的曝光及認知度,加上機構負責查證者多來自新聞行業,在現時香港新聞自由受限,難以培育新一代的記者及事實查證者,去應對 AI 年代的失實及意圖瞞騙他人的資訊。

「AI 正高速發展中,或然再過僅僅 3 至 4 年,普通人已經可以用生成式 AI 製作難辨真假的圖片及影像,我們還有土壤去培育新一代的記者及事實查證者嗎?」

她亦認為,國際間現時針對媒體教育及對 AI 的認知集中在年青人,需要更針對更容易被影響的群體,阻止別有用心者惡意利用 AI 施行認知作戰。

曾為《棱角》分析前兩次針對劉珈汶 Deepfake 影片的獨立研究員李紫楓(Sze-Fung Lee)7 月時已提及,一旦在 WhatsApp 等私人老年群組中進一步傳播,傳播數據將難以追蹤。李紫楓亦指出,今次影片的質素大有進步,是一個警號,需要快速應對,擬定策略去處理針對港人的認知作戰。

|劉珈汶:實在想像不到選民有何動力投票

劉珈汶向《棱角》強調,她在上月 20 日才發文呼籲杯葛選舉,「所以即使我係叫大家出嚟投票,都係呼籲大家出嚟投白票,將社會對更權嘅不滿顯化!」

她亦不理解這次的資訊操作意欲為何,因留言已即時留意到為 AI 片後5,但她擔心是在較多長者的地區及親北京 WhatsApp 群組中廣傳,「這類難分真假的 AI 片,對他們而言,很容易會當成真實(片段)。」

「政府喺呢場災難級火災之後仍然堅持繼續選舉,將國安任務凌駕民生,甚至將尋求問責嘅聲音壓落嚟,我實在想像唔到選民仲有咩動力去投票。我相信依加只要係有良知嘅香港人都會識分緩急輕重,唔需要有人煽動。」

棱角編輯部

支持我們:https://points-media.com/supports/