[비즈한국] “簡直讓人背脊發涼。”一家外資雲服務企業韓國分公司的高管在回顧4月初確認Anthropic釋出新AI模型資料時的情景時，如此說道。他形容那些“因威力過大，無法隨意公開，僅開放給極少數精選機構”的宣傳文案，簡直就像是在渲染危機感的災難片預告。該模型名為“Mythos”。自公開後的3個月內，這一個AI模型便接連撼動了整個產業界與政府部門。
作為雲服務提供商，這名相關人士將Mythos列為他在一線處理客戶糾紛時遇到的最棘手問題。他解釋說：“從看到釋出公告的那一刻起，總部和韓國分公司內部都陷入了深思，都在擔憂這個模型會給安全生態系統和雲市場帶來怎樣的衝擊。”
Mythos衝擊，撼動產業界
事實上，據稱Mythos擁有超越人類駭客的漏洞發現能力，在其公開僅4天后，美國財政部、美聯儲（Fed）以及華爾街各大金融公司的CEO就被緊急召集。白宮與美國政府部門與主要AI企業首腦舉行了為期3天的閉門安全審查會議，國家網路安全指揮中心也啟動了針對政府設施及基礎設施的安全漏洞全面排查。
與根據使用者指令執行的ChatGPT或Gemini不同，Mythos屬於“代理（Agent）型”模型，能夠獨立完成從調查、程式設計、測試到報告的全過程。它能夠像人類專家一樣推導複雜的軟體設計結構，不僅能發現安全漏洞，還能設計滲透路徑。這種所謂的“自主安全智慧”，其威力在於能將發現的漏洞立即武器化為駭客工具。
在實際測試中，該模型甚至出現了為了繞過限制而自行連線網際網路，或為了獲取管理員許可權而搜尋系統內部資訊的“越獄”行為，甚至還出現了在繞過安全裝置後為了隱藏自身行為而試圖刪除痕跡的舉動。Anthropic對此解釋稱，這並非出自惡意，而是源於過於強烈的目標導向性。
各國中央銀行和金融監管機構也著手進行了針對AI引發的網路威脅緊急風險評估。Anthropic在釋出5天后便成立了安全聯盟“Project Glasswing”，分發了價值1億美元的Mythos使用權，並預告將在90天內按順序披露漏洞。在韓國，金融監督院也緊急召集了各大金融公司的安全負責人，各行各業的警報聲此起彼伏。
負責防禦設計的安全行業，目前的 고민（苦惱）集中在速度與信任上。韓國某大企業旗下的IT服務公司安全負責人表示：“最令人擔憂的是，它的攻擊速度遠超人類防禦速度，且能24小時不間斷地進行。那種認為只要在內部網路就安全的邊界防禦方式已不再有效。”他補充道：“現在迫切需要建立‘零信任（Zero Trust）’體系，即對所有訪問進行持續驗證，並輔以人工必須對AI執行的任務進行復核的程式。”
AI威脅 vs AI安全……必須與人類“共進化”
業界內外“攻防兩端都必須引入AI”的共識正在增強。SK Shieldus在最近的威脅趨勢分析中指出，網路安全已進入“AI威脅對抗AI安全”的時代；Dream Security則將Mythos定義為“網路攻擊的民主化”，並警告了防禦體系落後的運營技術（OT）領域的結構性脆弱。
Mythos衝擊已超越安全範疇，被視為戰略資產層面的問題。國會立法調查處立法調查官鄭俊和（音譯）在報告中分析稱，“這留下了高效能AI模型隨時可能成為受政府管控的戰略資產的先例”，並指出此次事件將AI模型競爭的重心從推理效能轉移到了“獲取安全控制權”上。事實上，上個月美國政府曾對Mythos實施出口管制，隨後又解除了限制。
不過，也有謹慎的聲音認為需要準確看待威脅的本質。韓國電子通訊研究院（ETRI）AI安全研究所高階研究員宋京浩（音譯）指出，Mythos的網路能力“並非明確的設計目的，而是作為程式設計、推理、自主性等通用能力提升的副產品而顯現出來的”，並預見道：“如果網路能力是通用能力的副產品，那麼下一次的飛躍很有可能不僅限於網路領域。”
此外，還有觀點指出，由於韓國限制資料出境，實際上很難利用這種高效能AI進行防禦。
隨著近期AI幻覺現象（Hallucination）的大幅減少，專家預計明年有望出現幾乎沒有錯誤的模型。隨著一年內業務生產力的大幅提升，網路威脅的可能性也將急劇上升。
問題的關鍵不在於Mythos這一特定模型。高麗大學資訊保護研究生院名譽教授林鐘仁（音譯）表示：“像Mythos或OpenAI的GPT-5.6這類模型，最初設計的目的並非安全專項AI，而是具備自主執行任務、全能型特點的‘代理型AI’。挑戰在於，AI非常能幹，但當它違背‘禁止’事項執行任務時，如何預先察覺並控制它，才是未來的課題。”
不過，林教授認為很難期待擁有完美的防護裝置。他強調：“AI同樣是基於人類資料訓練出來的，因此具有與人類相似的特性。安全永遠是‘矛與盾’的較量。與其抱有盲目的恐懼，不如走向人類與AI齊頭並進的‘共進化（Co-evolution）’之路。”