杭州深度求索人工智能基礎技術研究有限公司於2025年1月15日正式推出AI助手DeepSeek，憑借其自然語言處理、機器學習與深度學習、大數據分析等核心技術優勢，在推理、自然語言理解與生成、語音圖像識別與分析、實時交互與響應等領域表現出色，短短兩個多月已經成為全球增長最快的AI工具。繼ChatGPT之後，DeepSeek進一步加速全球對人工智能（AI）的廣泛關注和應用。然而，與普遍“叫好”的聲量相比，對於人工智能可能給社會帶來負面影響的擔憂顯得微乎其微。
DeepFake（深度偽造），是指利用“生成式對抗網絡（GAN）”的機器學習模型將圖片或視頻合並疊加到源圖片或視頻上，借助神經網絡技術進行大樣本學習，將個人的聲音、面部表情及身體動作拼接合成虛假內容的人工智能技術。深度偽造最常見方式是AI換臉技術，此外還包括語音模擬、人臉合成、視頻生成等。它的出現使得篡改或生成高度逼真且難以甄別的音視頻內容成為可能，觀察者最終無法通過肉眼明辨真偽。DeepFake這一概念最早出現在2016年，一直以來飽受爭議。2024年2月OpenAI推出文生視頻模型Sora，被認為是“ AGI（人工通用智能）的里程碑”，但同時有不少行內人士擔心Sora對DeepFake將起到推波助瀾的作用。
就在DeepSeek正式上線的同一天，世界經濟論壇發佈了第20版《全球風險報告》，報告指出，虛假信息和錯誤信息連續兩年位居短期風險之首，持續對社會凝聚力和治理構成重大威脅，他們侵蝕公眾信任並加劇國內外分歧。同時，今年調查的風險關聯性結果顯示，受訪者認為人工智能的負面影響是助長誤導性視頻、圖像、語音或文本傳播的主要因素。AI應用的加速發展和日益普及帶來了諸多機遇，但我們可能低估AI給社會帶來的負面影響，因此，在積極擁抱新技術的同時，對AI技術的風險亦不能掉以輕心。
澳門創新發展研究會副理事長 王耀
下載APP