主頁 中國 跨境鎮壓 | OpenAI...

跨境鎮壓 | OpenAI 確認新型認知作戰 借 ChatGPT 生成粵語內容抹黑香港社運人士 親建制專頁再傳流亡港人Deepfake片

人工智能公司 OpenAI 在本年 10 月發布的公共威脅報告中指出,發現一個小型網絡利用 ChatGPT 生成大量廣東話社交媒體帖文及評論,主要針對香港社運人士,包括《蘋果日報》創辦人黎智英、羅冠聰、周庭等,旨在抹黑並將他們描繪為罪犯或叛徒,並散播支持《港區國安法》的訊息,屬一種新型態認知作戰(Cognitive Warfare)和隱蔽影響力行動(Covert Influence Operation)。
《棱角》分析後發現,這些由 ChatGPT 生成的廣東話內容存在明顯的語法錯誤,部分語句帶有濃厚的書面語痕跡,顯示製作人可能並不熟悉廣東話。報告印證此前《棱角》的調查,指至少有一個網絡偽裝成香港人,以廣東話帖文抹黑黎智英、大學講師、民調機構及傳媒人等。
《棱角》亦再次發現有 AI 深度偽造影片(AI Deepfake)針對流亡海外的港人羅冠聰、劉祖迪和劉珈汶。這些影片聲稱他們擔心引渡協議,並重覆使用 7 月 26 日曾流傳的片段。與之前的 AI 生成內容類似,影片中的廣東話發音存在錯誤,如將「入境」說成「落境」。
部分傳播這些影片的代理賬戶(Proxy Account)網絡早在 2019 年便已註冊,但直至 2023 年才開始活躍。這些賬戶常以日本或韓國性感女性的形象吸引追蹤者,但發布的內容卻集中於反美及反香港民主運動的訊息,並將內容轉發至一些擁有大量追蹤者,疑似與香港/中國官方有關聯的「灰色媒體」頁面,可視為「灰色作戰」(Grey Zone)的一部分。
這些帳戶亦同樣轉發一個聲稱會「讓各界人士說出事實的觀點」的親中網絡媒體 Facebook 專頁「hkwisdom 天機」帖文。《棱角》留意到「hkwisdom 天機」其中一個帖文留言, 11 人中有 8 人都是同樣為亞裔女性頭像帳戶,該些帳戶亦只有公開發布有關反美、針對香港民主運動的帖文。
獨立研究員李紫楓(Sze-Fung Lee)分析指出,偽裝成性感女性是認知作戰的常見手法。李紫楓表示,從兩次深度偽造影片來看,人工智能似乎無法準確處理香港人日常生活中廣東話與英語混用的「語碼混合」(Code-Mixing)情況,部分句子的語氣和發音聽起來不自然,且語音與口型不同步,接近「廉價偽造」(cheapfakes)。
流亡港人劉珈汶向《棱角》透露,與上次相比,這次的 AI 偽造影片在畫面及聲音上都更為流暢和逼真。
Chat GPT 被用以生成 X 平台針對流亡港人廣東話帖文

該段被 Open AI 點名為 ChatGPT 生成的內容,講述鍾翰林及許智峯分別獲得英國及澳洲政府批出「所謂政治庇護」,指兩人為作為「通緝犯嘅亂港罪行絕對係不容辯駁嘅實施 …(這些人士的共同點)係將所有危害國安嘅罪行美化成所謂『爭取民主』」,並指「只要仲未贖清罪責,唔理係一日定係一世都係通緝犯 …『政治難民』亦絕非逃避罪責嘅『免死金牌』」。

帖文將「鍾翰林」錯植為「鐘翰林」,回覆中更有一個戶口稱支持他們:「呢兩個人有勇氣出嚟講真話,至少比起香港而家一片噤聲嘅環境要光明得多。」

然而,片段中廣東話明顯「語意不通」,亦有 AI 生成的痕跡,疑似是由不諳廣東話的人將書面語內容導入 ChatGPT 改寫成廣東話,造成廣東話口語及書面語之間文白夾雜情況:例如「講到底『不就係』諗住逃避罪責」、「再睇反許智峯文中嘅『文字設計』」等。

東京大學先端科技研究中心客席研究員唐若凌指,一整批 AI 生成戶口中會有留言改稱支持,或是為令交流更像真及有機(Organic),唯一敗筆是不記得換更像真的戶口。

針對流亡港人 Deepfake 再現 對白同現破綻

《棱角》追蹤發現,一個在今年 9 月 30 日一個使用「芝麻街」為頭像的 Facebook 帳戶發布新一段片長約 1 分鐘、主題與羅冠聰早前被新加坡拒絕入境相關的 deepfake「急 call 密會」對話影片,當中一句錯將「入境」講成「落境」(「點知喺新加坡落機先唔畀『落境』,仲拘留我好 X 耐」)。

影片跟上次一樣,劉的片段是《追新聞》2023 年 6 月 1 日的訪問,而羅冠聰是2022 年 3 月 13 日「香港民主基金會 HKDC」就香港 47人案 228 首次提堂周年的影片

劉祖迪《追新聞》是 2023 年 7 月 5 日,在英國國會跟前職工盟總幹事蒙兆達,就國安處懸紅通緝的簡報會。

《棱角》追查傳播鏈 疑跟上一次傳播屬同一組織

這個「芝麻街」頭像 Facebook 帳戶疑似是最近新註冊,頁面上僅公開發布該段影片,並無其他互動跡象。該段影片在無人按讚的情況下,截至周五(10 日)已錄得逾 2,900 次瀏覽,以及被分享 60 次。

《棱角》記者再循分享的傳播鏈發現,將該 deepfake 影片轉發的帳戶,主要集中在「芝麻街」頭像及另外三名使用低畫質亞裔女性為頭像的帳戶,於首次發布的 3 小時內轉發至「撐警大聯盟(盟友討論區)」、「我撐何君堯議員」、「愛港之聲(討論區)」、「監察李家超政府群」、「關愛香港,情繫中華!」及「時聞香港」等,甚至會同一個帳戶在一個 Facebook 多次分享。然而,相關帖文皆未有在群組中引起強烈迴響。

記者再發現,這些亞裔女性頭像帳戶,配上常見的港式英文名及姓氏,最早於 2021 年開始活躍,且互相有留言互動,其中一個帳戶更多達 1,200 人追蹤,疑為代理賬戶(Proxy Account)網絡節點(Node)。然而,這些帳戶疑非「真人」帳號,她們頭像所用的相片畫質明顯被多次壓縮,其中一個頭像更確認是盜取自一名韓國模特兒的 Instagram 帳戶

另外,這些帳戶圖文並茂在 Facebook 公開發布有關反美、針對香港民主運動的帖文,例如「#醫管局員工陣線 #發起罷工#置市民病情不顧」、「#職工盟 #證據確鑿 #搞大三罷 #癱瘓香港 #支援黑暴」、「巴以衝突,西方雙標,抹黑中國打壓新疆,支持以色列攻打加沙,美國支持種族滅絕」等。

帳戶亦同樣轉發一個聲稱會「讓各界人士說出事實的觀點」的親中網絡媒體 Facebook 專頁「hkwisdom 天機」的帖文,例如「終於審完,將佢哋繩之於法」(醫院及口岸炸案)、「特朗普正pk」(美國政府針對兩間晶片廠的對華銷售徵收 15% 營收稅)、「美國佬知道賴嘢」(中美元首就 TikTok 「不賣就關」商討賣盤協議)等留言。

《棱角》留意到,在帖文中留言的 11 人中,有 8 人都是同樣為亞裔女性頭像帳戶,帳戶亦只有公開發布有關反美、針對香港民主運動的帖文。

《棱角》查證,2022 年成立的網媒「hkwisdom 天機」,其運營公司是藍色經濟共享集團有限公司,同名的網頁顯示,負責人為建制派「網紅」,音樂教師高松傑;而「hkwisdom 天機」的合作伙伴,亦只有高松傑有份成立的網絡紅人工作者協會。

網媒平時會有生活題材,由年輕人主持節目,但亦有大量宣揚中國述事的影片。

(編按:劉祖廸為《棱角》執行總監,本次報道中未有參與。)

棱角編輯部

支持我們:https://points-media.com/supports/