[비즈한국] 在 AI 競爭重心從提供答案的聊天機器人轉向代勞事務的“代理（Agent）”之際，Kakao 正在將 KakaoTalk 擴充套件為能夠實際執行任務的人工智慧（AI）介面。使用者無論在哪個頁面，都可以呼叫 AI，無需尋找選單，只需像說“幫我訂瓶水”那樣的一句話，就能交付工作。該公司的方針是，在利用個人購買歷史和對話語境的同時，區分各項服務的同意許可權，並對訂單等執行許可權進行單獨管控。
Kakao 於 13 日在京畿道龍仁市 Kakao AI 校區舉辦了年度開發者大會“if(kakao)26”，並公佈了上述戰略。本次大會以“智慧連線一切”為主題，於 13 日至 14 日為期兩天舉行，會上介紹了基於個性化的代理服務及其背後的模型、基礎設施和安全設計。
Kakao 的 AI 業務面臨著服務落地與確保盈利的雙重課題。AI 服務部門今年第二季度出現了約 580 億韓元的營業虧損。Kakao 的目標是到今年年底確保 KakaoTalk 內 AI 服務的月活躍使用者（MAU）達到 1000 萬，並從明年開始實現盈利。此次公開的代理戰略重點在於將現有的 KakaoTalk 使用者基礎轉化為 AI 服務的實際使用與交易。
滑動螢幕喚出 Lion，一句話即可完成訂購
Kakao 公佈的“Kanana Space”是一款只要用兩根手指滑動 KakaoTalk 螢幕，就會在當前頁面上方開啟的 AI 助手。Kakao 設計總負責人金大年（Kim Dae-nyeon）表示：“我們將 Space 設計為一個可以在 KakaoTalk 任何地方開啟的 AI 層，而不是另一個標籤頁或獨立的螢幕”，“可以透過語音或文字進行請求。”
今後，即使在家庭群聊中錯過了幫孩子放學的請求，也可以在 KakaoTalk 內詢問 AI 來確認出發時間。AI 還可以從徹夜堆積的訊息中篩選出工作相關事項，提示回覆期限，並直接在原地傳送回覆。金負責人表示：“這不是簡單的摘要訊息，而是以當前需要做的事為中心進行展示”，“重點不在於以總結結束，而在於直接連線到下一步行動。”
Kakao 計劃將執行範圍擴大至訂購、送禮、預約、轉賬。Kanana Space 從當天開始接受預申請，並將從 12 月以後針對被選中的使用者進行內測（CBT）。去年推出的獨立型 AI 應用“Kanana”將於本月 15 日終止運營。
會上還公開了可以在 PC 上直接製作和執行代理的“Kanvas”。這是一項使用者描述所需的角色和任務，然後連線相應的工具和功能來構建代理的服務。在此過程中，每個代理都分離瀏覽器並應用沙箱（與外部隔離的執行空間），防止認證和支付作業擴散到允許範圍之外。計劃最快於年內進行小規模測試，明年上半年將透過其他框架製作的代理也連線到 KakaoTalk 上。
由於代理執行的是實際行為，使用者控制權也被作為核心設計原則提出。金負責人強調：“傳送訊息或支付等重要行為，採用使用者直接確認並最終批准的結構”，“AI 雖然會輔助必要的過程，但最後的決定權留給使用者。”
模型“按難度分工”，記憶與執行“分別管控”
KakaoTalk 是擁有 5000 萬使用者的 24 小時平臺，因此除了 AI 的回答質量外，響應速度和運營成本也至關重要。模型越大，單個請求所需的運算量就越大，導致同一圖形處理器（GPU）能服務的使用者就會減少。因此，Kakao 採取了由最高階的“Frontier”模型處理最難的問題，由“Flagship”模型處理大部分伺服器作業，由小型語言模型（SLM）處理簡單重複的請求，並在智慧手機內完成的工作由端側模型（On-device model）優先處理的方案。使用何種模型和工具、按什麼順序使用，由“AI Conductor”來決定。
Kakao 基礎模型總負責人盧炳錫表示：“糾正錯別字和對比多個條件制定旅行計劃的請求，沒有必要使用相同的運算量”，“我們不僅要為所有請求提供最佳結果，還要確保不是所有請求都使用最大的模型。”
其目的是透過根據所需任務分配運算資源，在保持質量的同時獲得大規模服務所需的效率。據 Kakao 介紹，透過自主研發的韓語分詞器（Tokenizer）和推理最佳化等，回答生成速度平均提高了 3.9 倍，記憶體使用量減少了約 70%。分詞器是將句子拆分為 AI 模型可以處理的小單位的技術，最佳化韓語處理可以減少處理相同句子所需的運算量。
模型輸入和響應方式也在擴充套件。Kakao 介紹了同時理解文字、影象、語音並以語音回答的全能語言模型“Kanana-o”，以及在對方說話途中也能做出反應或用於實時翻譯的“Kanana Live”開發計劃。構成 Kanana-o 的編碼器（Encoder）和解碼器（Decoder）計劃作為開源軟體公開，以便在國內外 AI 生態系統中應用。
個性化的基礎是“Mosaic 專案”。這是一種將散落在各個服務和代理中的記憶串聯成語境的記憶體系統，即使切換服務也不必從頭開始說明。核心在於“既要記住使用者，又不能僅憑部分記錄草率斷定喜好”。Kakao 技術長（CTO）宋在河以購買送給侄子的童鞋記錄為例表示：“必須區分購買事實與對喜好的解讀，並同時管理資訊的來源和時點。如果是一個記住我的 AI，也必須記住我可能會發生變化這一事實。”
“記憶”僅在各服務的同意範圍內提供。同意僅用於 A 服務的記憶不會轉交給 B 服務，撤回同意後，從下次請求開始將停止提供。不過，已經移交過去的記憶不會被自動回收。宋 CTO 將此視為“服務與記憶體平臺共同需要解決的課題”。代表鄭世雅說明，使用者從服務使用同意階段開始，就能直接選擇和管理 AI 的應用範圍。
在執行階段還會經過一次過濾。如果在重新下單過程中插入了“缺貨，換成其他商品”的指示，AI 會在執行前重新檢查行動計劃，如果超出了交付的範圍，就會停止下單並向使用者確認。說明中提到，驗證不僅限於最終回答，還會檢視在測試環境中呼叫了什麼工具。因為如果使用者回答“沒下單”，但此前已經下單了，可能會為時已晚。
宋 CTO 強調：“在交付範圍內進行，超出範圍時進行確認，這種邊界不能僅交給模型的判斷”，“記憶可以成為判斷的依據，但不能成為行為的許可權。”