[비즈한국] 假新聞已不再僅僅是簡單的“言論問題”。它摧毀一個人的聲譽，煽動對特定群體的仇恨，動搖選舉和公共輿論，有時甚至引發實際的暴力和社會衝突。過去，人們傾向於將虛假資訊視為媒體倫理或個人名譽權受損的問題。然而，在數字平臺與生成式AI相結合的今天，假新聞的傳播速度更快、手段更精細，有時甚至複雜到無法驗證的程度。
最近，YouTube頻道“橫豎研究所”代表金世毅被法院下令拘留。他涉嫌針對演員金賽綸和金秀賢散佈虛假事實及侵害名譽等罪名，法院以存在毀滅證據和潛逃之虞為由，簽發了逮捕令。這一事件難道僅僅是一位YouTube網紅的個人出格行為嗎？從歐洲的視角來看，核心問題在於：不僅在於個人說了什麼，更在於這些言論透過什麼樣的平臺結構被放大，以及在什麼樣的演算法和盈利模式下被反覆消費。
歐盟在2018年的《虛假資訊應對行動計劃》（Action Plan against Disinformation）中，將虛假資訊定義為對民主的威脅。這是因為人們意識到虛假資訊正在破壞公共輿論的信任，扭曲選舉，並加劇社會分裂。因此，歐洲的對策並不僅止於“誰製造了假新聞”，而是進一步追問“誰放大了它”、“什麼樣的推薦系統將其推送到更多人面前”、“平臺在明知危險的情況下是否放任不管”。
阻斷平臺傳播假新聞的最前線“DSA”
其核心法律即歐盟的《數字服務法》（DSA，Digital Service Act）。DSA要求線上平臺承擔減少非法內容和社會風險的責任。為了遵守DSA，YouTube、X、Facebook、Instagram和TikTok等超大型線上平臺必須定期評估和緩解系統層面的風險，包括虛假資訊、選舉操縱、仇恨言論、兒童保護以及消費者損害等。
重點在於，DSA並非那種由國家直接刪除所有問題內容的審查模型。歐洲模式的核心在於平臺的系統責任。其重點關注演算法展示了什麼、廣告系統傳播了什麼樣的政治與商業資訊，以及研究人員和公民社會是否能夠驗證平臺資料。
歐盟已經開始實際執行該法。2025年12月5日，X因違反DSA透明度義務被處以1.2億歐元（約2094億韓元）的罰款。這是一個象徵性的事件，因為它標誌著平臺已難以再以“言論自由”為由逃避責任。對於違反DSA的行為，最高可處以全球年營業額6%的罰款。對於大科技企業而言，這已成為一個無法再僅視為“聲譽風險”的重要事件，演變成了實質性的法律與財務風險。
AI尋找危險訊號，人類進行判斷
這裡有趣之處在於技術的作用。歐洲並未試圖僅透過法律來解決假新聞問題。相反，它正在建立一個法律、技術、公民社會、媒體和研究機構協同運作的架構。假新聞應對技術現已超越了簡單的內容過濾，需要追蹤AI生成的影象與語音、Deepfake影片、被篡改的截圖、惡意編輯、機器人網路以及重複性的敘事操縱。問題在於，僅靠人類事實核查員無法跟上這種速度。因此，歐洲的技術應對方案正向“人機協作”模型發展，即“不是由AI直接判斷並刪除，而是由AI尋找危險訊號，由人類專家進行判斷”。
典型的專案是vera.ai。vera.ai是一個旨在探測線上虛假資訊和操縱內容的歐盟支援研發專案。該專案旨在分析文字、影象、影片、音訊等多種格式的內容，並實現Deepfake檢測和多語種驗證。重要的是，這項技術並非為了取代記者和事實核查員，而是為了輔助他們的驗證工作。AI快速捕捉可疑內容，人類核查員則負責判斷語境和意圖。該專案已於2025年10月31日正式結束，但其成果為各歐洲國家提供了重要的基準點。
AI4TRUST也有著類似的方向。該專案開發了一套系統，能夠近乎實時地監測社交媒體和新聞媒體，篩選出極具虛假資訊可能性內容，並將其交給專家評審。虛假資訊的製造速度遠超人類。當機器人、自動化賬號、生成式AI和組織性行動結合在一起時，其傳播速度是人類手動檢查所無法企及的。AI4TRUST瞄準的正是這種“速度差”。如果人類無法確認所有資訊，那麼就需要一種由AI先行過濾訊號、人類進行最終判斷的體系。
TITAN則展示了另一個方向。TITAN不是一個直接提供事實核查結果的工具，而是一個基於AI的蘇格拉底式輔導工具，旨在幫助使用者培養自我提問、懷疑和判斷的能力。這充分體現了歐洲應對假新聞的哲學：虛假資訊問題無法僅透過刪除來解決。一旦刪除的內容可能會在其他平臺上再次出現，陰謀論有時越被反駁越堅固。如果不能改變公民接受資訊的方式，問題就會重複。這就是TITAN與教育、公民社會及公共機構掛鉤的原因。
這種潮流也體現在初創企業市場中。挪威的Factiverse是一家提供基於AI的事實核查及資訊驗證解決方案的初創公司。北歐的公共電視臺和媒體機構在面對選舉、政治辯論、YouTube影片等浩如煙海且難以逐一人工核查的內容時，正在應用Factiverse的技術。例如，當政治相關YouTube影片每天產出成百上千小時內容時，AI能夠提取發言、拆分論點，並將可驗證的陳述與來源聯絡起來。對於媒體而言，無需觀看所有影片，即可專注於高風險或需要核查的發言。
義大利的IdentifAI則專注於Deepfake和生成式AI內容探測。該公司開發了一項技術，用於辨別生成式AI製造的影象、影片和錄音是出自真人還是經過人工操縱。據報道，2025年該公司吸引了500萬歐元（約87億韓元）規模的投資，並正積極進軍歐洲和美國市場。這表明假新聞應對市場不再僅僅停留於公共專案或市民團體活動，正向網路安全和媒體信任基礎設施市場擴張。
歐洲該領域之所以成為初創企業的機遇，理由很明確。第一，法規正在創造市場。DSA不僅要求超大型線上平臺和搜尋引擎履行內容刪除義務，還要求進行系統風險評估、演算法透明度公示、廣告庫披露、研究人員資料訪問、內容舉報與處置體系建設。這使得平臺很難再宣稱對虛假資訊“不知情”或“僅由使用者上傳”。正如歐盟委員會對X處以罰款的案例所見，應對虛假資訊已不再是道德建議，而是合規與財務風險問題。在此過程中，合規解決方案、風險監測、演算法審計、廣告透明度管理、內容來源認證、Deepfake探測、事實核查自動化等新市場正在形成。
第二，媒體和公共機構的需求正在增長。涉及選舉、戰爭、衛生危機、移民、氣候變化等社會矛盾激烈的話題，虛假資訊傳播越快。特別是俄羅斯入侵烏克蘭、新冠疫情、歐洲議會選舉、難民與移民爭議，證明了虛假資訊可能超越線上傳聞，演變為國家安全、公共衛生、選舉信任和社會整合的問題。歐洲數字媒體觀察站（EDMO）等機構連線事實核查員、研究人員、媒體和媒介素養專家的原因也在此。媒體難以人工核查海量的社交媒體內容，而公共機構則需要在危機時刻快速掌握虛假資訊的傳播途徑和影響範圍。因此，對自動監測、多語種事實核查支援、虛假資訊網路分析、選舉與危機應對儀表盤的技術需求必然會增加。
第三，企業也正在成為虛假資訊的直接受害者。虛假傳聞、操縱影片、虛假評論、品牌仿冒、針對競爭對手的資訊操縱直接損害了企業的聲譽和消費者信任。隨著生成式AI的普及，甚至能以極低成本製造企業CEO的虛假聲音、被篡改的採訪影片、虛假新聞稿和虛假客戶評價，使得企業的溝通風險變得更加嚴峻。對於企業而言，應對虛假資訊已不再是公關團隊的事後澄清工作，而成為與品牌保護、網路安全、投資者關係、消費者信任管理相關聯的風險管理領域。因此，聲譽監測、Deepfake探測、虛假評論分析、品牌仿冒偵測、危機溝通支援技術的需求也隨之水漲船高。
真相需要“信任的基礎設施”
這對韓國也有很大啟示。韓國的假新聞爭議往往侷限於“是否要懲罰”的範疇。相比之下，歐洲的討論更具結構性。不僅僅針對個別發言者，而是關注虛假資訊有利可圖、憤怒能轉化成點選率、演算法反覆推薦刺激性內容的結構。那麼，解決之道也不能止步於懲罰個人。平臺的推薦系統、盈利模式、廣告透明度、研究人員訪問權、市民教育、技術驅動的驗證系統等都應納入討論範疇。
若從歐洲視角審視金世毅被捕事件，問題終歸一點：韓國社會是要將虛假資訊僅作為事後懲罰的問題來處理，還是將其作為資訊生態系統的結構性風險來應對？歐洲已經邁向了後者。即要求平臺承擔責任、透過技術追蹤傳播路徑，並幫助市民自行判斷資訊。
在假新聞時代，真相不會自動存活。真相也需要基礎設施。即由法律、技術、媒體、公民社會、教育和初創企業共同構建的“信任的基礎設施”。歐洲應對假新聞的初創企業展示的正是這一點。未來的民主不能僅靠好的媒體來守護。我們需要建立一個新的技術生態系統，去監測、驗證並解釋虛假資訊被製造、放大和消費的全過程。
韓國現在也到了該改變提問方式的時候了。必須超越“誰在撒謊”的層面。應進一步追問：為什麼那些謊言傳播得如此之快？誰從中獲利了？什麼樣的平臺結構促成了這一切？我們將如何改變那個結構？在回答這些問題的過程中，假新聞應對技術與初創企業的新市場也將隨之開啟。
作者李恩書（音譯）在韓國修讀法學，並在柏林學習戲劇。目前定居於藝術之都及歐洲初創企業樞紐柏林，隨城市共同成長，帶領著連線韓國與德國初創企業生態系統的“123Factory”。