800萬個深度偽造：威脅已升至國家安全層面
深度偽造（Deepfake）技術的威脅正在以指數級速度增長。據估計，2025年全球共享的深度偽造內容約為800萬個，而2023年這一數字僅為50萬。兩年間16倍的增長，加上AI生成技術的持續進步，已經將深度偽造從一個技術擔憂提升為切實的國家安全威脅。
深度偽造已被用於多種惡意場景：偽造政治人物的言論影響選舉、創建虛假的企業高管視頻進行金融詐騙、製作未經同意的個人影像進行勒索，以及生成虛假新聞動搖公眾信任。2024年香港發生的一宗深度偽造視頻騙案——不法分子利用AI偽造跨國企業高管的視頻通話騙取2億港元——更是讓全球為之震驚。
深度偽造威脅的規模與增長
- 2023年：約50萬個深度偽造內容在網上傳播
- 2025年：約800萬個——兩年增長16倍
- 主要威脅：選舉干預、金融詐騙、個人勒索、虛假新聞
- 技術演進：實時深度偽造視頻通話已成為可能
- 檢測困難：AI生成內容的品質持續提升，人眼越來越難以辨識
全球首個政府主導的檢測標準
面對這一日益嚴峻的威脅，英國內政部於2月初正式公布了一項雄心勃勃的計劃：與微軟、學術研究機構以及國際刑警組織合作，開發全球首個深度偽造檢測評估框架。這不僅僅是一個技術項目，更是一個旨在建立國際標準的治理倡議。
該計劃的核心是英國政府資助的「深度偽造檢測挑戰賽」（Deepfake Detection Challenge），已經吸引了超過350名參與者，包括來自五眼情報聯盟（美國、英國、加拿大、澳洲、紐西蘭）的情報和安全專家，以及主要科技公司的研究人員。挑戰賽的目標是系統性地評估和比較現有深度偽造檢測技術的有效性，並建立可量化的性能基準。
微軟的關鍵角色
微軟在這一框架中扮演着核心技術合作夥伴的角色。這並非偶然——微軟在合成媒體檢測領域有着長期的投入。其Video Authenticator工具是最早的商用深度偽造檢測產品之一，而微軟研究院在AI生成內容識別方面也有大量的研究積累。
微軟的參與為這個框架帶來了幾個關鍵優勢：豐富的企業部署經驗（能確保框架在實際場景中可行）、跨平台的技術整合能力（可將檢測功能嵌入Teams、Outlook等廣泛使用的企業工具），以及強大的雲計算基礎設施（支持大規模的即時檢測）。
檢測框架的關鍵組成
- 技術基準：建立標準化的深度偽造檢測性能評估指標
- 數據集：策劃多語言、多場景的深度偽造樣本庫
- 測試協議：設計可重複的測試流程和報告格式
- 認證機制：為符合標準的檢測工具提供官方認證
- 國際互認：推動五眼聯盟國家間的標準互認
技術挑戰：一場不對稱的軍備競賽
深度偽造檢測面臨着一個根本性的挑戰：這是一場不對稱的軍備競賽。生成端的AI技術進步速度極快，每一代新模型都能產生更逼真的合成內容；而檢測端則需要不斷追趕，每次生成技術的升級都可能使現有的檢測方法失效。
目前的檢測技術主要依賴幾種方法：分析影像中的微小統計異常（如不自然的眨眼模式或光線反射）、檢測AI生成內容中的頻譜特徵，以及利用數碼水印和內容來源驗證。然而，沒有任何單一方法能夠提供可靠的通用檢測能力。英國框架的價值在於，它試圖建立一個系統化的方法來評估和整合這些不同的技術。
對香港的啟示：金融樞紐的深度偽造防線
作為國際金融中心，香港面臨着特別突出的深度偽造風險。2024年的2億港元深度偽造騙案僅是冰山一角——金融服務、商業交易和政府通訊都是深度偽造攻擊的高價值目標。
英國的框架為香港提供了一個值得關注的參考模型。香港可以考慮在以下方面採取行動：加入或對接國際深度偽造檢測標準，避免標準碎片化；將深度偽造檢測納入金融機構的合規要求；在企業和政府部門推廣深度偽造識別培訓；以及利用香港的技術人才優勢，參與全球深度偽造檢測技術的研發。
在AI生成內容日益以假亂真的時代，「眼見不再為實」正在成為新常態。建立有效的檢測和認證體系，不僅關乎技術安全，更關乎社會信任的根基。