2025年作為全球關鍵選舉年，從歐洲的荷蘭、愛爾蘭，到世界各地的多場重要選舉，都出現了AI深偽技術干預選舉的案例，引發各界對於民主機制受損的擔憂。圖為兩個主播均為AI深偽的，Wolf News也是虛構的媒體。（圖片來源：公用领域 Graphika報告書）
【看中國2025年10月31日訊】（看中國記者楊天資編譯/綜合報導）人工智慧（AI）技術的快速發展，為社會帶來前所未有的便利與變革，卻也同時開啟了一扇扇潛在風險的大門。其中，AI深偽（Deepfake）技術的濫用，已對全球民主政治，特別是選舉的公正性構成日益嚴峻的挑戰。2025年作為全球關鍵選舉年，從歐洲的荷蘭、愛爾蘭，到世界各地的多場重要選舉，都出現了AI深偽技術干預選舉的案例，引發各界對於民主機制受損的擔憂。歐盟作為全球AI監管的先驅，其《人工智慧法案》（AI Act）旨在應對這些風險，但這項開創性的立法在實際執行與約束力上，仍面臨諸多質疑與挑戰。
AI深偽對歐洲選舉的衝擊
在2025年10月的歐洲選舉中，AI深偽內容已在多個國家造成實際影響。在荷蘭和愛爾蘭的國會大選中，多起AI深偽事件浮出水面，顯示出這項技術對選民認知和民主信任的潛在破壞力。
在愛爾蘭總統大選期間，網路上曾流傳一部由AI生成的深偽影片，該影片假冒愛爾蘭國家廣播公司（RTE）的新聞報導，以AI合成其中一名候選人康諾里（Catherine Connolly）的影像，並錯誤地發布其退選聲明。這段看似真實的虛假內容迅速傳播，迫使康諾里公開澄清並嚴厲譴責此行為是「誤導選民、破壞民主的可恥行為」。這起事件不僅凸顯了深偽技術的欺騙性，也揭示了其在選舉關鍵時刻可能造成的巨大混亂和對候選人聲譽的損害。
荷蘭國會大選也未能倖免於AI深偽的干擾。在選舉期間，一個Facebook帳號散布了多張AI生成的圖片，這些圖片對特定候選人進行了攻擊和抹黑。阿姆斯特丹大學與梅因斯大學的研究進一步證實了AI內容在荷蘭選舉中的滲透程度。在約2萬篇與荷蘭選舉相關的社群貼文中，超過400篇是由AI生成的內容，其中超過120篇的源頭可追溯至與自由黨有關的帳號。阿姆斯特丹大學人工智慧與社會學教授佛瑞塞（Claes de Vreese）形容，這「可能是歐洲選舉首次面對AI技術全面整合」的挑戰。這項研究結果令人警惕，它表明AI不僅僅是個案干擾，而是可能被有組織地用於影響選舉結果的工具。
除了直接的深偽內容，研究人員也警告，AI聊天機器人對選舉的影響不容小覷。當使用者向AI聊天機器人詢問「應該投給誰」時，這些工具可能會產生「高度扭曲且兩極化的荷蘭政治版圖」的建議。由於大多數選民往往在投票前幾天才做出最終決定，這種潛移默化的影響可能對選舉結果產生決定性作用。荷蘭資料保護局（DPA）曾於10月21日提醒選民，不要向AI聊天機器人尋求投票建議，正是出於對此類隱性干預的擔憂。
AI深偽技術對選舉的影響是多層面的。它不僅製造虛假資訊，混淆視聽，還能煽動情緒，加劇社會分裂。更深層次的是，當選民無法辨別資訊真偽時，將會對媒體、政治人物乃至整個民主體制產生信任危機。這種信任的崩潰，將對民主社會的穩定和運作帶來長遠而深遠的負面影響。
歐盟《人工智慧法案》：監管的雄心與現實
面對AI深偽對民主進程日益增長的威脅，歐盟於2024年8月1日正式實施了其開創性的《人工智慧法案》（AI Act），成為全球首部全面性的人工智慧監管專法。該法案旨在應對AI衍生的風險，包括由AI驅動的不實訊息，並確保基本權利、安全和倫理原則。這部法案將AI系統依據風險程度分為多個層級，並對供應商和部署商課予特定的透明度義務。
《人工智慧法案》的核心是其「風險分級」管理模式，將AI系統分為「不可接受風險」、「高風險」、「有限風險」和「最小風險」四個層級，並針對不同風險等級施加不同的監管要求。其中，「意圖影響選舉或公投結果的AI系統」被明確歸類為高風險，這意味著此類AI系統的提供者和部署者將面臨一系列嚴格的義務，包括進行風險評估、確保數據品質、實施人為監督、提供透明度資訊等。該法案還要求OpenAI的ChatGPT、Google的Gemini等高度複雜的通用型AI模型（General Purpose AI, GPAI）遵守一系列義務，其中包含降低對民主造成的「系統性風險」。這些通用型AI模型被要求揭露用於訓練模型的受版權保護數據資訊，並確保其輸出內容的透明度。
值得注意的是，《人工智慧法案》具有「域外效力」，這表示即使AI系統的開發商或提供者不在歐盟境內，只要其AI系統的輸出在歐盟境內被使用，就必須遵守該法案。此舉旨在確保所有在歐盟市場運作的AI產品和服務都符合歐盟的規範標準，避免因地理位置差異而產生監管漏洞。違規者可能面臨高達3,500萬歐元或前一財政年度全球年度營業額7%的巨額罰款，旨在提供強大的嚇阻力。
約束力不足與實施挑戰
儘管歐盟《人工智慧法案》被譽為全球AI監管的里程碑，但其在實際執行與約束力方面仍面臨諸多批評與挑戰。這些挑戰不僅源於AI技術本身的複雜性與快速演進，也與監管框架的設計和實施機制有關。
首先，執行困難是法案面臨的一大難題。歐盟各成員國之間監管框架的差異，以及法案中缺乏明確的統一監管機構，使得跨國平台上的透明度執行充滿挑戰。當各國選舉登場時，監管部門往往只能從旁觀察，難以即時有效介入。此外，AI技術的快速演進也使得法規難以跟上，新的深偽技術和傳播模式不斷出現，可能迅速超越現有法規的覆蓋範圍。例如，加密的直接訊息服務被用於散布假訊息、網紅（influencers）參與政治宣傳，以及數位競選資金來源不透明等新興趨勢，在現有法規框架下難以有效監管。
其次，罰款的嚇阻力有限。雖然法案規定了高額罰款，對大型企業可能具有一定的嚇阻作用，但對於小型參與者或在監管寬鬆地區運營的實體而言，其嚇阻力可能不足。更重要的是，罰款主要屬於「事後」措施，僅在違規發生後進行處理，而非預防深偽內容的產生和傳播。這種被動的監管方式，難以從源頭上遏制AI深偽的濫用。
第三，全面實施的延遲引發了擔憂。儘管部分條款已於2024年8月生效，但法案的全面實施日期定於2026年8月2日。在AI技術飛速發展的背景下，這段時間差可能導致法案在完全生效前就已顯得過時，無法有效應對最新的技術挑戰。
第四，與其它法律的潛在衝突也是一個問題。例如，《人工智慧法案》中的透明度義務可能與《數位服務法案》（Digital Services Act, DSA）產生衝突，因為生成式AI模糊了DSA中介服務類別的界線，這可能導致法律適用上的混亂和執行的不確定性。
第五，高額的合規成本可能阻礙產業發展。法案的嚴格監管措施可能導致高昂的合規成本，特別是對中小企業而言，這可能構成巨大的負擔，甚至阻礙創新和競爭力。有聲音指出，OpenAI執行長Sam Altman曾表示，若AI監管過於嚴格，可能考慮撤出歐洲市場，這反映了產業對過度監管的擔憂。歐盟的「規則主義」（rule-based extremism）監管模式，與美國相對寬鬆的監管方式形成對比，可能使得歐洲AI產業在創新競爭中處於劣勢。
第六，風險判定的模糊性也影響了法案的約束力。儘管法案將「旨在影響選舉結果」的AI系統視為高風險，但實際執行上，要證明AI系統的「意圖」或其對選舉造成「重大損害」的因果關係極為困難。AI系統帶來的問題具體取決於使用者、地點和目的，這使得難以進行統一的風險分類。例如，用於微定位政治廣告或深偽內容生成的AI應用，如果無法明確證明其「意圖」，可能就無法被歸類為高風險或被禁止的系統。
最後，執行與資源不足也是法案面臨的現實挑戰。儘管歐盟設有《數位服務法案》（DSA）等框架，但執行機構普遍面臨資源和技術專業知識不足的問題，難以應對快速變化的技術和平台影響力。此外，大型科技公司也可能對歐盟的監管努力採取抵制態度，使得法規的執行面臨阻力。
綜合來看，AI深偽技術對歐洲乃至全球選舉的影響已是不可逆轉的現實，歐盟的《人工智慧法案》雖然是前瞻性的嘗試，但在實際操作中仍面臨諸多挑戰，其約束力被認為有待加強。要有效應對AI深偽對民主的威脅，需要一個多層次、跨領域的綜合應對策略：
AI深偽對民主選舉的干預，不僅是對技術的考驗，更是對人類社會智慧和韌性的考驗。歐盟的經驗提供了一個重要的借鑒，它提醒我們，儘管立法是關鍵一步，但有效的監管必須是動態的、全面的，並能不斷適應技術和社會的變化。只有如此，才能在確保AI技術發展的同時，捍衛民主的基石。
