[비즈한국] 旨在處理人工智慧（AI）發展與安全問題的“AI基本法”於22日全面實施。該法案旨在提升韓國本土AI競爭力的同時，透過建立強制標註生成內容水印等保護機制，為AI的應用營造信任基礎。在生成式AI已深入日常生活的情況下，覆蓋整個產業的法律體系終於開始運作。不過，關於核心監管物件——“高影響AI”的具體判斷標準仍存在解釋空間，且確保透明度義務的實際應用方式也尚在討論中。雖然制度已經建立，但有觀點指出，由於實施標準和證明體系依然模糊，仍面臨諸多課題。
區分虛假與真實……強制標註AI生成內容
隨著AI基本法的實施，使用者將感受到的主要變化是“透明度義務”的適用。AI運營商在分發或提供利用生成式AI製作的影象、影片、音訊等內容時，必須明確告知使用者該內容由AI製作。即所謂的“AI水印”。
政府表示，考慮到技術的可接受性，標註方式將保持靈活。根據內容特性，既允許可見方式（可識別），也允許在資料中植入機器可讀程式碼的方式（不可見）。特別是在Deepfake（深度偽造）結果物可能產生社會副作用且難以與現實區分的情況下，必須明確告知或標示AI生成的事實。
此類透明度確保義務僅適用於提供AI產品或服務的運營商。這同時也包括為韓國使用者提供AI產品和服務的海外運營商。物件是最終向使用者提供AI服務的運營商。例如，若B企業透過API形式呼叫A企業開發的AI模型並應用於自身服務，則透明度義務由B企業承擔。對於OpenAI、谷歌、Naver035420等既開發模型又直接提供服務的企業，則由它們承擔透明度義務。
僅利用AI工具消費內容或釋出在個人社交媒體上的“個人使用者”不在監管範圍內。各服務的具體水印方式可參考科學技術資訊通訊部的透明度指南。
與生命、安全直接相關的“高影響AI”10大分類
法案的另一個核心是“高影響AI”制度。根據施行令，在與生命、安全、基本權利直接相關的10個領域（能源、飲用水、衛生醫療、核能、犯罪偵查、招聘、貸款審查、交通、公共服務、教育）中使用的AI被歸類為高影響AI。
具體案例包括“完全自動駕駛階段的L4級以上車輛（無人介入的高度自動化系統）”。在醫療、招聘、貸款審查等對人的生命和權利影響巨大的領域，運營商必須建立風險管理體系並制定使用者保護計劃，落實強化的可信度確保措施。
“高影響AI”的認定需由運營商自行評估。若AI運營商無法確認是否屬於該範疇，可向科學技術資訊通訊部提出確認請求。不過，評價認為，何種技術水平或服務會被納入監管範圍仍存在很大的解釋空間。在業界內外，“只有在像完全自動駕駛那樣人類不介入最終決策的情況下才應視為高影響AI”的呼聲，與“應將所有可能侵犯基本權利的演算法都包含在內”的意見正形成對壘。
在關於具體實務應用準則尚不明確的評價聲中，考慮到法案實施初期對產業界可能造成的混亂，政府計劃以促進位制度落地為主，而非採取強硬處罰。根據基本法，違反義務最高可處以3000萬韓元的罰款，為了將企業混亂降至最低，未來至少將有1年以上的監管寬限期。
與此同時，政府決定設立並運營“AI基本法支援服務檯”，以應對企業關於法律的諮詢。此外，從下月起，還將運營由產業界、公民團體、學術界參與的“制度改進研究小組”，挖掘需要改進的制度事項。
政府“1年緩衝期”……平臺與通訊業界先行應對
隨著AI基本法的實施，AI技術相關的社會責任被強調，韓國主要平臺公司和通訊公司正加緊調整內部政策和治理結構。
Kakao035720在2月4日起適用的服務條款中，明確了“包含AI基礎服務及告知義務”。Naver也將在下月7日起強化AI基礎內容利用政策。Naver已於去年年底在部落格、Cafe、Clip等使用者創作平臺引入了“AI生成內容標記”功能。
通訊業界則致力於強化全公司層面的治理體系。SK電訊017670針對全體員工開展“Good AI”活動，並升級“AI治理入口網站”，確保從策劃階段就對風險進行評估。KT030200則透過專門組織“負責任的AI中心（RAIC）”，致力於構建兼顧安全與可信度的AI生態系統。
政府計劃將法律延伸適用至影響國民的海外AI運營商，防止對韓國本土企業的逆向歧視。考慮到歐盟監管（2027年）的適用等海外動向，也為延長寬限期留下了可能性。
科學技術資訊通訊部人工智慧政策官金慶萬（音）強調：“AI基本法中80~90%的內容是關於產業振興的。初期，與其執行監管，不如專注於支援企業適應制度。”他還表示，“歐盟的監管會處以3500萬歐元（約670億韓元）或總銷售額7%中金額較高者作為罰款，而韓國法律的罰款上限僅為3000萬韓元。這是為了不阻礙創新所設立的最低限度監管。”