數位科技資訊
MPBus.COM

AI生成影片湧現社群平台!Sora引爆深偽技術危機,這些破綻你發現了嗎?

近期TikTok瘋傳一則婦女受訪談糧食券的影片,經查證竟是AI生成的深偽內容。專家警告:OpenAI的Sora工具問世後,社群平台假影片數量激增300%,民眾該如何辨識這些足以亂真的數位幻象?

去年十月,TikTok出現一則引發熱議的影片:畫面中亞特蘭大婦女對著電視台記者侃侃而談,自爆將糧食券換現金的違法行徑。然而真相是——這位婦女不存在,採訪從未發生。這支由**#AI**生成的假影片,在美國政府計畫削減糧食券福利的敏感時刻,成功煽動數百則充滿種族歧視的激烈評論。

AI假影片分析 圖:AI生成的虛構新聞畫面,注意記者的微表情不自然與背景模糊等破綻

這正是OpenAI最新影片工具Sora的「傑作」。使用者只需輸入簡單指令,就能創造出逼真的虛構場景。當這項技術遇上總統大選與社會福利議題,立刻成為散播假訊息的完美溫床。TikTok、Facebook、Instagram等平台在兩個月內湧現數千支類似造假內容,其中不乏偽造名人發言或捏造犯罪事件的惡意操作。

仔細觀察那支糧食券影片,其實暗藏玄機:受訪婦女眨眼頻率異常、髮絲邊緣有輕微像素錯位,但這些細節在手機小螢幕上幾乎無法辨識。更諷刺的是,影片下方竟出現「留言『DETOX』獲取排毒茶配方」的詐騙手法——連造假都講求KPI的數位荒謬劇。

社群媒體假訊息示意 圖:Facebook上流傳的AI生成逮捕現場畫面,注意警車車牌模糊與肢體動作不協調

目前多數平台尚未強制要求AI內容標註浮水印,使得辨識難度大增。因此資安專家提出「3C辨偽法則」:

  1. Check背景細節:注意街景招牌文字是否合理
  2. Confirm肢體動作:觀察人物手指數量與動作流暢度
  3. Compare資訊源:多方查證重大爭議性內容

隨著Meta、Google等科技巨頭加速開發AI影片工具,這場數位真偽攻防戰才剛揭開序幕。下次看到太過戲劇化的社群影片時,不妨先冷靜思考:這會不會是某個AI工程師早餐時隨手創造的平行宇宙?

贊(0)