尋找AI生存之道
在“通用”大科技巨頭的夾縫中，以全棧LLM尋求突破機會

[비즈한국] AI現在已經不是選擇題，而是生存問題。在美國大科技巨頭壟斷的局面下，中國正憑藉龐大的支援和人力資源撼動市場。作為數字基礎設施全球第一的“IT強國”，韓國在AI技術領域早已被擠入“二流”。在坐擁鉅額資本和資料的領先國家激烈角逐的當下，韓國AI初創企業紛紛瞄準細分市場，試圖確保全球競爭力。各大IT企業正忙於尋找利用AI的獨特商業模式。韓國在這一全球AI戰爭中的生存之道在哪裡？我們來探尋站在創新最前線的韓國企業的可能性。

大語言模型（LLM）是透過學習大規模資料，像人類一樣理解並生成文字的人工智慧（AI）。由於基礎紮實，無論誰提出什麼問題，它都能迅速給出答案。但是，如果使用者是企業呢？從企業角度來看，僅僅擁有一個能互動的聰明“大腦”是不夠的。因為它們必須適應企業內部文件、敏感客戶資料、工作流程等複雜環境。全棧（full-stack）LLM是指為了讓這個“大腦”能在實際商業環境中直接使用，將從LLM模型開發到部署、運營及管理的全套系統和流程進行封裝的解決方案。

隨著全球大多數大科技巨頭專注於GPT（OpenAI）、Claude（Anthropic）、Gemini（Google）等LLM的開發，AI戰爭已演變為以LLM為中心的遊戲。全棧LLM對韓國企業來說是機遇。大科技巨頭雖然提供高質量模型，但並不會針對每家企業量身定製實際服務。這意味著，如果企業想要進行AI轉型，就必須自行解決定製化工作，並親自管理使用記錄（Logging）、隱私及安全問題。

“手工報告”的終結：AI負責決策的時代即將來臨嗎？

2020年成立的AI初創企業Upstage被評價為韓國全棧LLM的領軍者。該公司將企業文件及無格式資料進行數字化的解決方案“Document AI”於2023年推向市場，去年底推出的下一代LLM“Solar Pro”因展現出極強的商業價值而備受矚目。去年4月，公司透過1000億韓元規模的投資引入，累計獲得約1400億韓元的投資，企業估值已增長至4000億韓元規模。

Upstage表示，今年計劃將全棧AI業務從東南亞、日本擴充套件至AI大本營美國。其構想是透過辦公AI主導全球AI辦公標準。

Upstage代表金成勳在16日的媒體開放日上表示：“今年可能是人們以‘手工報告’工作的最後一年。將提取的資訊串聯起來撰寫綜合報告並進行‘決策’的角色，也將由AI來承擔。目前正在為保險公司、金融公司等供應相關解決方案，該流程正在逐步應用。”

他解釋稱，在需要核對患者診斷書、保險條款、診療費收據等少則數十張、多則數百張檔案的保險結算業務中，AI解決方案正代替人工，全權負責核對手術名稱和程式碼，並判斷是否進行保險金賠付。Upstage目前正為KB金融105560、韓文與計算機（Hancom）、Law & Company等提供服務。

將不同格式的影象及文字轉換為機器可讀格式的工具，是Upstage的光學字元識別（OCR）模型“Document Parse”。而將收集到的資料按照目的編寫成報告等文件的角色則由“Solar”擔任。這兩項技術都在持續最佳化。Upstage計劃在今年6月公開“Solar Pro 1.5”版本及實現“思維鏈（CoT）”的首個推理模型。據Upstage透露，該模型的能力足以媲美GPT的“o系列”和DeepSeek的“R1”。同時，結合Document Parse與Solar的視覺語言模型（VLM）“Solar DocVLM”也即將釋出。

大科技巨頭亦在擴大辦公功能，全球擴張之路困難重重

基於曾為泰國國有通訊公司提供泰語特化LLM、在韓國率先構建海外主權AI的經驗，Upstage也致力於當地LLM的開發及合作伙伴關係的拓展。美國當地法人和上月新成立的日本法人是其主要據點。CTO李活石表示：“日本的文件相關市場規模比韓國大10倍以上。即便只佔領其中10%，也相當於掌握了整個韓國市場的規模。目前正與多家日本大企業進行後續會議。”

儘管技術實力和消費能力相對較低，但政府或國有企業資金雄厚的地區也是其努力爭取的物件。金代表表示：“鑑於我們滿足了韓國金融及保險公司的嚴苛標準，美國企業也給予了積極響應。”

雖然技術在成長，但營收增長和成本效率仍是課題。Upstage去年出現了402億韓元的營業虧損，虧損額是前一年（189億韓元）的兩倍多。同期營收雖從46億韓元增長至139億韓元，漲幅達3倍，但距離實現盈利仍有很長的路要走。主要原因是佔比極高的GPU費用。公司將赤字背景歸因於在Solar Pro 1.5及多模態開發過程中投入了大量GPU。

國內外競爭預計將趨於白熱化。據Market Research Intellect預測，2024年評估為45億美元的全棧AI市場規模，到2032年有望達到96億美元，年均增長率預計將達8.5%。業界認為，B2B AI模型與通用模型不同，有著明確的目標和需求，即只要將技術與現場場景對接，就能產生效益。不過，從OCR到LLM所有全棧AI模型均自主開發的情況並不多見，大多數情況是透過各技術環節的協作來構建全棧系統。

將重心轉向AI的韓國通訊業也在積極投資全棧LLM領域。AI轉型與B2B全棧戰略正在同步推進。SKT正以金字塔形結構構建全棧，計劃以AI基礎設施為基礎推動AI轉型，並最終開發面向全球市場的AI服務。KT則推出了自主AI模型“Mi:dm”，並同步推進輕量化策略，以便為企業客戶提供定製化服務。

隨著與全球大科技巨頭聯手的競爭者增多，誰能掌握初期市場的主導權備受關注。全球最大的雲端資料企業Snowflake在去年6月擴大了與英偉達（NVIDIA）NeMo的整合功能後，上月又宣佈透過強化與英偉達的合作伙伴關係來提供全棧AI平臺。NeMo Retriever是一種生成式AI服務，允許企業將定製化LLM連線到自身企業資料上。透過Snowflake平臺，企業可以在保持資料安全和隱私的前提下，直接利用英偉達的NeMo Retriever。

大科技巨頭近期接連推出的AI智慧體功能改進及與辦公服務的整合方案，也使市場條件變得更加嚴峻。微軟已在個人版“MS 365”中引入了AI智慧體，而谷歌則在“Workspace”中新增了生成式AI功能。