[비즈한국] AI 懷疑論再次浮現。這並非指“AI 沒有用”，而是從產業角度不時冒出的憂慮——即“AI 似乎並不像預期那樣值得投入鉅額資金”。無論結論如何，我們都不會質疑 AI 技術的潛力，也不會減少 AI 的使用量。事實上，未來一段時間內，使用量反而會進一步增加。
目前，AI 相關企業在計算機領域的投入已經達到了超乎想象的水平。參考谷歌近期的財報，2026 年的資本支出預計將達到 2000 億美元。谷歌在上一季度實現了 1200 億美元的營收，較去年同期增長了 24%。對於谷歌這樣規模的企業而言，能實現這種程度的增長是驚人的。其中，雲業務營收同比增長了 82%，原因只有一個：AI。
然而，巧合的是，這份財報釋出後，股票市場卻莫名其妙地丟擲了 AI 懷疑論。理由是雖然谷歌業績超預期且獲得了強大的增長引擎，但其資本支出佔比過高。儘管觀點各異，但近期市場對包括半導體在內的 AI 主導型企業的評價正在迅速冷卻，程度甚至到了令人恐懼的地步。
AI 依然是目前引領產業的核心關鍵詞。包括谷歌在內的超大規模雲服務商（Hyperscalers）正在賺取鉅額利潤，併為了構建更優的模型而持續增加 AI 相關基礎設施。事實上，它們幾乎正在吸納全球所有的計算資源。基礎設施的增長比以往任何時候都更加堅定，密集的擴充套件正以令人畏懼的速度持續進行。
提升“單位成本代幣生成率”的技術渴求
近期，我參加了在美國舊金山舉辦的 AMD 年度 AI 活動“Advancing AI”。這是一個介紹 AMD AI 相關新產品、釋出重大戰略與路線圖的盛會。過去，該活動主要圍繞處理 AI 的 GPU 以及用於 AI 開發的 ROCm 框架展開。原因在於，全球 AI 行業起步於英偉達（NVIDIA）的 CUDA 框架，並執行在其 GPU 上。
長期以來，AMD 強調“AMD GPU 效能卓越，ROCm 也能構建出媲美英偉達 CUDA 的簡便且強大的 AI 環境”，這無可厚非。特別是由於英偉達 GPU 需求遠超供應，AMD 順勢將其包括“Instinct”系列在內的 GPU 作為最強大、最現實的替代方案提出，是十分自然的。
然而，今年 AMD 的立場發生了微妙的變化。它不再僅僅作為英偉達的替代品，而是針對“單位成本效能”、“單位成本生成代幣數”等當下最火熱的議題給出了現實的解決方案。目前，主流 AI 模型的基礎訓練已經定型，訓練基礎設施的效能壓力也得到了一定緩解。如今最現實的問題在於，如何滿足使用者需求並給出答案的“推理”環節。
AMD 執行長蘇姿豐（Lisa Su）在主題演講中表示：“兩年前，訓練與推理的比例大約是 6:4，但從今年開始，這一比例將發生逆轉。”這意味著現場的 AI 需求正在爆炸式增長。如今，大型語言模型已超越了簡單的文字寫作，能夠編寫大規模開發專案的程式碼、分析科學實驗、生成影象和影片。在高效檢索、整理資訊並生成更自然的文字的同時，實現這些功能最終取決於服務後端計算機的推理能力。
此外，AI 的趨勢正在從各自獨立處理任務轉向“代理 AI（Agent AI）”，即由多個針對特定領域最佳化的 AI 相結合，共同完成一項大任務。這意味著要處理一件事，需要更多的 AI 模型協同執行。
今年，AMD 不僅推出了 GPU，還發布了整合了 CPU、GPU 以及 18 臺伺服器網際網路絡環境的 AI 超級計算機“Helios”。我提到這一點，是因為它不僅僅是一臺效能強大的計算機，更因為它所追求的方向深刻對映了當前的 AI 現實。
這臺計算機的核心在於整合資料中心內常見的扁平化刀鋒伺服器。每個托盤內的伺服器由一顆 256 核 EPYC 處理器與 4 顆被稱為 Instinct MI455X 的高效能 GPU 組合而成。這些 GPU 搭配了高達 432GB 的 HBM4 記憶體。將 18 個此類單元組合在一起，就構成了一個像冰箱大小的機架系統。最終形成了一個擁有 4608 個核心、72 個 GPU 以及 31TB HBM 記憶體的統一系統。
“機架規模系統”，在有限空間內獲取更大計算力的方法論
Helios 看起來與常見的資料中心機櫃並無二致，那麼它的特殊之處在哪？實際上，包括 AI 在內的現代計算機，衡量標準不再僅僅是單一處理速度，而是整體吞吐量。關鍵在於：在有限空間內塞入更多計算機。但問題不在於簡單的“堆砌”。雖然伺服器看起來很高階，但其基本形態與我們使用的個人電腦並無本質區別：以 CPU 和記憶體為中心，再連線 GPU。
特別是 GPU 透過 PCI Express 匯流排進行資料傳輸，這條通道的速度和容量存在天花板。因此，在單臺計算機中插入兩塊 GPU，工作效率並不會簡單翻倍，反而會產生一定的損耗。過去曾有人嘗試在單機中插入大量 GPU，但隨著 GPU 數量增加，損耗也會隨之擴大。此外，受限於 PCI Express 通道數量和物理空間，單機 GPU 插槽有限。因此，通常將多個伺服器單元捆綁為一個系統，這便是所謂的“機架”。
然而，伺服器之間的互聯會引發更大的損耗。單機內部是在電路板上處理，而伺服器間互聯則需要將單機處理結果透過網路重新傳輸。由於資料傳輸量和物理移動延遲等多種原因，效能損失會急劇增加。常言道，連線 100 個 GPU 很難達到 100 倍效能，甚至連 50 倍都難以實現。
但這還不是全部。隨著 AI 處理量激增，GPU 需求呈幾何級數增長，需要將成百上千個機架連線起來形成資料中心。資料中心的目標是在有限空間內容納更多計算機。除了增加 CPU 或 GPU 的數量，提高連線效率變得至關重要。
AMD 透過 Helios 不再單獨售賣 CPU 和 GPU，而是將其打包成系統化的“成品”，目的就在於提出互聯的通用標準。確保 256 核 CPU 與 4 塊 GPU 搭配時達到最優效能，並實現無瓶頸連線。將多個標準化的系統相連，也有利於資料中心的穩定執行。
這也是英偉達透過“Vera Rubin”平臺所呈現的概念。雖然可以將其解讀為透過壟斷平臺和銷售成品來提高 GPU 利潤，但在必須立即獲取基礎設施的背景下，這是在有限空間內最有效、最穩定地集結計算效能的方法，因此極具競爭力。
實際上，AMD 透過 Helios 在單個機架中塞入了比以往更多的 HBM4 記憶體。蘇姿豐 CEO 表示，未來的 AI 環境必然要求更高的記憶體容量，因此在相同空間內獲取儘可能多的 HBM 記憶體是市場最迫切的需求。
仍對記憶體如飢似渴的代理 AI
過去的大型語言模型主要以“聊天機器人”形態為主，但隨著代理 AI 時代的開啟，每個代理都需要更強大的推理能力，並將結果整合以產生價值的編排（Orchestration）變得尤為關鍵。這意味著不僅推理效能，需要記憶的記憶體容量也在同步增長。
AI 對計算能力和記憶體的需求永無止境。現在，我們已經在 PC 和智慧手機上將寶貴的處理器和記憶體資源讓渡給了 AI，其代價是高昂的半導體價格。而目前的 AI 市場正在吞噬比這更多的資源。AMD 的 Helios 或英偉達的 Vera Rubin 都是對此在技術層面給出的誘人方案。
AMD 在 Advancing AI 主題演講前夕，還公佈了與微軟及 Anthropic 的合作伙伴關係與投資計劃。特別是對提供 Claude 服務的 Anthropic 進行了高達 50 億美元（約合超過 7 萬億韓元）的鉅額戰略投資。在此基礎上，Anthropic 計劃在明年內引入 1GW（吉瓦）規模的基於 Helios 的 AI 基礎設施。雖然基礎設施的具體投入成本尚不可知，但這是一筆鉅額支出，可以解讀為 Anthropic 透過向 AMD 出讓部分股權來換取所需的資源。而 AMD 此舉並非單純為了當下的銷售額，而是透過硬體實物投資來鎖定 Anthropic 的股權。近期英偉達投資 Naver 並供應 Vera Rubin 系統，也可被視為類似的邏輯。
這也證明了 AI 對半導體的需求遠超以往，雖然負擔沉重，但卻不得不渴求下一代 GPU 和記憶體。AI 行業正準備吸納更多的資源。目前的機器學習基礎 AI 終究是激烈的“機率”之爭，模型構建與執行的基本方法已趨於成熟。認為 AI 已觸及技術天花板的說法也不無道理，僅靠目前的單一模型很難再實現質的飛躍。
然而，代理 AI 是突破瓶頸、讓人們能夠更放心地將任務交給 AI 的新方法論。代理 AI 構建了不同於以往大型語言模型的環境。那漫長旅程的終點，將是 40 年前首次提出的機器學習技術——人工智慧的最終完成。而在這個過程中，我們必須支付“更多的半導體”作為代價。