[비즈한국] 人工智慧（AI）不僅正在改變產業和日常生活，還在影響國家的行政和執法系統。警察廳、檢察廳、國稅廳近期紛紛設立或擴大了AI專門機構，著手構建將AI引入調查、案件處理及民政業務的系統。此舉雖旨在提升效率與準確性，但考慮到這些機構所掌握的資訊和權力直接關係到國民的基本權利，AI引入的份量也非同尋常。Bizhankook將深入剖析警察廳、檢察廳、國稅廳等三大執法機構的AI轉型現狀及其在推進過程中所面臨的課題。
警察廳正在加快將人工智慧（AI）引入調查和民政業務全過程的步伐。無論是判例檢索、逮捕令申請草案撰寫、嫌疑人審訊筆錄問題推薦，還是民政諮詢受理支援及深度偽造檢測，AI正超越輔助工具的範疇，日益貼近實際治安行政的決策過程。為提供支撐，警察廳正在最佳化專門組織架構，並推進基於內部網路的AI整合平臺及治安專用大語言模型（LLM）的開發。
綜合Bizhankook的採訪內容，警察廳近期正在進行“AI影響評價及風險管理方案制定”的政策研究。該專案合同金額為4100萬韓元，執行週期為120天，由ThinkForB負責執行。警察廳相關人士表示：“計劃於今年年底完成研究。”與此同時，關於“AI引入後的警察廳個人資訊保護體系升級方案”的研究也在推進中。其核心在於審視AI學習和推理過程中可能產生的再識別風險、資料偏見，以及CCTV影像分析時的個人資訊保護標準。
這兩項研究帶有強烈的應對性質，旨在響應《AI基本法》（關於人工智慧發展及建立信任基礎等的法律）以及將於明年2月底施行的《公共AI法》（關於啟用人工智慧及資料基礎行政的法律）。評估認為，在《AI基本法》和《公共AI法》框架下，治安領域的多種AI極有可能被分類為“高影響人工智慧”。《AI基本法》賦予了確保透明度和構建風險管理體系的義務，而《公共AI法》則規定公共機構在引入AI之前必須制定影響評價和風險管理方案。
從指揮塔到整合平臺
警察廳正結合上述制度與法律基礎的完善，從組織與基礎設施重組、擴大AI在調查與現場業務中的應用等三個方向加快AI轉型。
今年3月，警察廳將未來治安政策局下屬的“未來治安政策課”改組為“治安人工智慧政策課”，正式確立了AI專門指揮塔。原有的治安AI創新專責小組（TF）被整合進正式組織，並新設了局長直屬的人工智慧合作官職位。資訊化基礎課也更名為治安人工智慧基礎課。
在組織改組的同時，警察廳還在推進構建用於將生成式AI應用於行政業務全過程的“AI整合平臺”。透過由WearBiz執行的資訊化戰略規劃（ISP）專案，目前正在探討將報告撰寫、翻譯、文件摘要等AI功能與警察內部網路“PolNet”進行關聯的方案。負責該專案的警察相關人士表示：“計劃今年完成ISP專案，並爭取將其反映在明年的預算中，以便正式開啟構建工作。”
警察大學目前正負責治安專用大語言模型（LLM）的開發。今年4月，針對總警（相當於大校/警長）及警正（相當於中校/警監）級管理人員的“治安AI領袖培養教育（CAIO）”也已啟動，課程涵蓋生成式AI、物理AI、AI安全與倫理等內容。
AI深入調查現場……是否存在隱憂？
於2024年11月引入的調查支援AI“KICS-AI”此前一直負責支援判例檢索和逮捕令申請草案的撰寫。透過總規模達46億韓元的升級專案，其功能將擴充套件至撰寫司法警察官決定書及調查結果通知書、推薦嫌疑人審訊筆錄問題、製作犯罪一覽表，以及利用起訴書和判決書構建調查反饋體系。從去年開始，AI在數字取證領域的應用也在積極推進。
在民政領域，作為政府“公共人工智慧轉型（AX）專案”課題之一，投入107億韓元開發的“大家的警察官”正在研製中。該系統計劃與警察民政24、182呼叫中心等聯動，預計在2027年12月前提供民政諮詢、受理及文件撰寫支援。本月18日，由200名國民和一線警察組成的諮詢團舉行了成立儀式。
然而，圍繞治安AI的擴散，對其有效性和安全性的擔憂同樣不容忽視。人臉識別、語音詐騙AI攔截、調查報告自動化等均屬於《AI基本法》下的“高影響AI”，警察廳之所以著手製定影響評價和風險管理方案，也被解讀為意在從制度上消解這些擔憂。
警察大學教授李相燁在分析海外學術資料的論文中指出，警察AI研究的核心關鍵詞是“資料（Data）”，他表示：“國內警察AI研究偏重於法學或行政學等制度性視角，而海外則以基於計算機工程的技術應用研究為主。現在不僅需要應對人工智慧帶來的法律爭論，還需要進行技術升級研究，以便將其安全地應用於警察業務。”
東國大學資訊保護研究生院教授黃錫珍表示：“在撰寫嫌疑人審訊筆錄或進行調查、行政支援等需要保持中立的業務中使用AI，卻缺乏驗證手段。此外，非法外洩資訊或製造不存在事實的幻覺（Hallucination）問題，其驗證難度也非常高。”他還指出：“目前僅能利用法制處的判例，影象及影片識別存在難度，資料本身存在侷限性。如果演算法中反映了偏見，透明度將難以保障。當出現問題時，究竟由誰承擔責任，目前幾乎沒有相關的制度性準則或手冊。”
因此，也有建議稱應從那些對警察裁量權觸及較少、牴觸心理較低的技術開始，分階段地進行引入。
對於這些擔憂，警察廳相關人士解釋說：“警察廳計劃對所有AI相關專案進行影響評價。高影響AI涉及國民日常生活和基本權利，因此我們要評價是否存在侵害這些權利的部分。”他補充道：“計劃在明年法律正式施行前，完善相關標準，建立能夠系統化管理風險因素的基礎。”