[비즈한국] 隨著生成式人工智慧（AI）的發展，金融行業也在積極應用AI技術。隨之而來的是一種名為“新技術金融詐騙”的副作用。由於技術高度複雜，真假難辨，預計新技術詐騙造成的損失將日益擴大，但現行法律下，預防和損害賠償並非易事。11月26日，《人工智慧發展與建立信任基礎等相關基本法（簡稱AI基本法）》在國會科學技術資訊通訊委員會獲得透過，對此，輿論呼籲亟需制定細緻的立法，以防範AI金融犯罪帶來的損失。
隨著濫用生成式AI技術的金融詐騙日益增多，各界召開了探討消費者損失預防及救濟方案的座談會。11月27日，消費者權益論壇、韓國金融消費者學會、未來消費者行動及共同民主黨國會議員金炳基辦公室共同舉辦了“探尋利用新技術進行金融詐騙的消費者保護方案”論壇。
基於AI的金融詐騙大致分為三種。第一種是利用名人冒充影片吸引投資者的“深度偽造（Deepfake）”詐騙。這種手法透過製作廣受大眾信賴的金融界人士或名人的深度偽造影片，誘導人們進行投資。今年3月，曾有137名被冒充的名人親自出面，敦促解決這一問題。
第二種是“AI洗白（AI washing）”詐騙。即在並未實際應用AI技術的情況下，透過誇大或虛假宣傳來吸引消費者。例如，宣稱“使用基於AI的股票交易程式可以獲得高收益”，但實際上相關程式或投資手段根本不存在。
第三種是“AI聊天機器人”詐騙。這也被利用於“戀愛詐騙（Romance Scam）”犯罪中，即透過傳送資訊接近多名受害者，在獲得對方好感後索要錢財。
當天參加論壇的專家們一致認為，現行法律難以阻斷AI金融詐騙或進行損失救濟。負責發表的未來消費者行動專員（國際認證理財規劃師）文燦賢表示：“觀看深度偽造投資詐騙影片會發現，其水平其實並不高。雖然粗糙到足以辨別真假，但受害事件仍在持續發生，這說明存在大量的金融弱勢群體。”他還指出：“觀察金融詐騙受害者的特徵，與高齡、低學歷的普遍認知不同，受害者反而在經濟活動活躍的40至50歲人群中更為常見。詐騙加害者首位是熟人，其次是金融行業從業者，這也是造成損失嚴重的原因。”
文專員建議：“隨著金融詐騙型別呈現出非法集資、網路釣魚、手機簡訊詐騙、金融詐騙等複合形態，人均損失金額也在增加。為了保護金融消費者，應完善相關制度，如加大對金融詐騙的懲處力度，並致力於宣傳各類詐騙型別及預防方法，同時加強金融教育以提升消費者的識別能力。”
還有人指出，即使是利用金融機構的AI服務而遭受損失的消費者，獲得賠償也幾乎是不可能的。韓國外國語大學法學研究生院教授鄭信東指出：“金融領域積攢了海量資料，其中包含大量敏感資訊。然而，當因金融機構的過失導致損失發生時，消費者無法直接證明問題所在。這是由AI的自主性和不透明性特徵決定的。”
AI雖然能自主判斷，但發生事故時，很難將過失責任歸咎於AI而非人類。將責任歸咎於非過失主體的AI開發者也相當模糊。而在不透明性方面，企業以AI演算法等屬於“營業機密”為由拒絕公開，加上連開發者自身都無法預測AI會輸出何種結果，因此很難證明過失的因果關係。
鄭教授表示：“傳統的法律秩序無法阻擋消費者損失，法律空白顯而易見。加強透明度是基礎，例如強制要求標註AI產出物以便消費者識別。此外，也需要制度層面的支援，以便利用AI技術提前防範犯罪。”
發表結束後，在指定討論環節，與會者也提到了為恢復詐騙損失進行立法的必要性。成均館大學法學研究所高階研究員成俊浩表示：“即使懲處了加害者，損失也無法挽回。況且，戀愛詐騙或新型投資詐騙中，儘管受害者是被欺騙的，但由於款項是受害者親手轉出的，目前缺乏實質性的救濟方案。”
資本市場研究院金融產業室高階研究員李孝燮指出：“當基於生成式AI的平臺發生金融糾紛時，消費者往往在不知道自己是受害者的情況下就陷入其中，且救濟過程耗時漫長。因此需要獨立的金融糾紛調解機構。”他還強調：“在詐騙犯罪中，挽回受損金額實際上是不可能的，因此需要另外製定《受害者保護法》來對其進行保護。”
會議還提及了現行法律將舉證責任推給AI金融詐騙受害者的問題。法務法人大律律師白柱善解釋道：“在環境犯罪、醫療過失、智慧財產權糾紛中，相關法律與判例通常會透過推定加害者的過失或因果關係來減輕受害者的舉證責任，但在大規模金融詐騙受害案件中，這一點並未得到認可。應借鑑歐盟的《AI侵權責任法》等，完善細緻的制度以防止法院的恣意操作。”
會議還討論了11月26日透過的《AI基本法》。國會立法調查處社會文化調查室科學廣播通訊組立法調查官鄭俊華表示：“雖然提出了19項AI相關基本法，但最終名稱統一為以‘信任基礎’為主。AI詐騙的核心在於消費者難以區分是AI製作的虛擬資訊還是真實資訊，因此法案也強調了對AI原創內容的標註。但標註義務的主體尚不明確，需要具體化。此外，除了設立AI安全研究所，還需要設立專門調查消費者損失的保護中心職能機構。”
鄭調查官強調，提升金融消費者的數字素養（對資訊的理解與獲取能力）應被視為最低限度的措施。他斷言：“強調數字素養在仔細考量下其實是一個危險的觀點。不僅是素養較低的消費者，素養較高的消費者也可能被騙，因為他們過於相信自己的判斷。如果過度重視數字素養，會導致將政府或公共責任轉嫁給消費者的問題。”