[비즈한국] 自Mythos Shock發生以來，公共部門和私營企業都在“以AI制AI”的原則下，加速重組應對體系。金融行業引入了自主型AI模擬駭客攻擊和基於AI的安全監控，公共部門也正在加快推進以AI時代為前提的網路安全體系轉型。
金融領域是行動最迅速的行業。金融作為客戶資訊與資金流實時關聯的國家核心基礎設施，被認為是AI攻擊速度越快、受損風險越首當其衝的領域。
友利金融集團（Woori Financial Group）近期引入了進攻性網路安全企業Theori開發的基於AI的自主型駭客攻擊測試解決方案“Xint Web”。該方案無需系統內部資訊，即可像真實的駭客一樣透過探測服務外部來尋找弱點。KB金融集團（KB Financial Group）也透過擴充套件應用自主研發的AI駭客攻擊測試代理和基於零信任的安全體系，強化了AI應對能力。
韓國銀行（Bank of Korea）也引入了Mythos應對國際合作組織“Project Glasswing”的早期參與企業——美國Palo Alto Networks的裝置，公共部門的AI安全體系轉型也由此開啟。
“以AI防範AI攻擊”……國內應對全面啟動
在企業進行技術應對的同時，政府也著手建立了制度基礎。金融委員會（FSC）在Mythos出現後，決定針對用於安全目的的AI應用，暫時放寬網路隔離管制。物件涵蓋總資產在10萬億韓元以上、常時員工在1000人以上的49家金融公司，在透過安全管理能力評估後，將給予為期1年的監管放寬。科學技術資訊通訊部（MSIT）也正在與Anthropic討論確保Mythos訪問許可權等合作方案，專注於提升基於AI的安全能力。
專家認為，Mythos Shock的本質並非“全自動AI駭客的出現”，而在於安全工作的執行方式正發生根本性變化。大資料分析AI企業S2W的部門負責人楊宗憲（音譯）指出：“關鍵不在於全自動化是否已經徹底實現，而在於安全工作的單價、速度和可重複性已經開始改變。這種變化不僅會撼動漏洞研究人員的工作方式，還會波及軟體供應鏈和整體補丁管理體系。”
他解釋稱，過去在安全領域，人的競爭力來自於發現漏洞的能力，而今後，驗證AI發現的結果、判斷實際危險程度並確定應對優先順序的能力將變得更加重要。
即使AI能夠承擔攻防的大部分工作，最終責任仍歸於人類。這也是為何除了技術發展外，管理AI的治理體系被格外強調的原因。高麗大學AI研究所教授崔秉浩（音譯）表示：“在現實系統中，人類與AI必須協同工作，而協同的人類必然要承擔責任。”但他同時指出：“由於治理體系尚未完善，一旦發生此類事件就會束手無策，全球的一級安全市場正處於極易被癱瘓的狀態。”
楊負責人強調：“企業首先需要的是資產和程式碼的可見性。如果不瞭解自己運營哪些系統、依賴哪些開源庫，即使AI找到了漏洞，也很難將其與實際風險聯絡起來。”即，如果缺乏將AI發現的大量漏洞轉化為公司系統實際風險的評估能力，那麼這些技術將毫無用處。
世宗研究所（Sejong Institute）高階研究員柳俊九（音譯）在相關報告中也指出：“基於資料的主要基礎設施安全的精髓，不在於提高外部防禦牆，而在於內部賬戶被竊取時如何控制許可權。”這意味著，與其假定擁有完美的安全，不如將重點放在嚴密設計攻擊者達成目標前必須經過的各個驗證階段。
重“訪問許可權與控制力”而非效能……政府傾向於安全特化AI
那麼，韓國距離Mythos級的頂尖模型還有多遠？專家認為，即使獲得了訪問許可權，在韓國國內直接利用Mythos級前沿模型也並非易事。隨著海外前沿AI逐漸被管理為國家戰略資產，訪問本身受限的可能性正在加大。
儘管韓國網際網路振興院（KISA）、三星電子、SK電訊等從Anthropic獲得了Mythos訪問許可權，但由於美國將前沿AI視為戰略資產並調整政策，普遍觀點認為，長期來看，利用空間可能會逐漸縮小。雖然美國商務部在6月時隔18天解除了對Mythos 5和Fable 5通用模型的出口管制，但由於適用了更嚴格的“安全護欄（Safeguard）”，能夠用於安全研究的範圍反而變窄了。
儘管如此，有觀點指出，加入與Mythos同等級別的超大規模模型開發競賽並不是現實的解決方案。韓國資訊保護學會會長、釜山大學教授金浩元（音譯）在上月9日的網路安全發展方向研討會上表示：“如果盲目跟風自主開發Mythos，可能會陷入‘膽小鬼博弈’；而如果依賴外資模型，則會陷入資料主權的困境。”他建議，“採用基於代理編排（Agent Orchestration）的小型特化模型（sLLM）策略，是更現實的替代方案。”
開發能力也不足以支撐。原因在於龐大的計算資源和投資成本。副總理兼科學技術資訊通訊部長官裴慶勳（音譯）在上月就職一週年記者會上提到：“以目前自主AI基礎模型專案的支援水平，很難開發Mythos級的前沿模型。據估計，需要約1萬張Vera Rubin級GPU，僅目前的價格就高達約3.5萬億韓元。”
問題不僅在於成本和技術。訪問本身可能受政治決策影響，這也是新的風險。同德女子大學國際經營學系教授王允鍾（音譯）針對美國切斷Anthropic訪問許可權的案例評價稱：“他國生成式AI服務一夜之間可能中斷的‘關機風險（Switch-off Risk）’已經成為現實。”他建議：“需要從‘主權AI（Sovereign AI）’不應僅僅是市場競爭手段，而應是應對海外AI受限情況的國家級備份系統這一視角出發。”
此外，考慮到監管的可預測性大幅降低，他也建議國內企業在與全球客戶簽訂合同時，應將美行政部門的出口管制措施明確列為“不可抗力”事由。
在海外，國家和企業層面的應對體系已經具體化。微軟（MS）上月27日公佈了自主型AI攻擊應對專案“Perception”及安全特化AI模型，併成立了由韓國科學技術院（KAIST）等參與的外部紅隊聯合體（EXTRA），正式開啟了AI安全競賽。
Mythos Shock預示著超越AI效能競賽，活用與控制競賽時代的到來。對於韓國而言，如何在確保技術的同時構建安全體系和制度性應對措施，已成為留給未來的課題。
因此，政府計劃在自主AI基礎模型專案之外，構思審查前沿AI開發可能性的“雙軌戰略”，同時優先推動利用現有模型開發“安全特化AI”。裴副總理表示：“即使暫時無法打造前沿模型，透過利用現有模型進行安全資料微調，也能開發出檢查各種漏洞的安全特化AI模型，計劃在年內完成開發，並從公共部門開始應用。”