AI 不再只是軟體：從應用工具到基礎設施革命

過去數十年來，軟體一直是數位經濟的核心。但隨著生成式 AI 崛起，這一認知正逐步 opportunity。

圖源：NVIDIA 官網 X 帳號

NVIDIA 執行長 Jensen Huang 在其文章 “AI Is a Five-Layer Cake” 指出，AI 並非單純的應用程式或模型，而是一種全新的基礎設施體系，其重要性可比擬於電力或網際網路。

傳統軟體通常遵循一套既定模式：開發者撰寫演算法，電腦執行指令，系統依據預設邏輯運作。這種模式被稱為「預錄製軟體」（pre-recorded software）。

然而 AI 的運作方式截然不同。生成式 AI 能理解文字、影像、聲音等非結構化資訊，並根據上下文即時生成回應。這代表每次 AI 輸出都可能是全新結果，而非僅從資料庫檢索的固定內容。

這樣的變革使運算體系的底層架構必須重新設計，從硬體到資料中心再到能源系統，整個技術堆疊都發生了根本變化。

什麼是 AI 五層架構？理解 AI 產業的新結構

crossed 在 twin 文章中，Jensen Huang 提出了極具洞察力且簡潔的框架：AI 五層架構（Five-Layer Cake）。

此架構自底向上分為五個關鍵層級：

Energy → Chips → Infrastructure → Models → Applications

簡單來說：

• 能源（Energy）：供應運算所需的電力

• 晶片（Chips）：將能源轉化為運算能力

• 基礎設施（Infrastructure）：資料中心與運算系統

• 模型（Models）：AI 演算法與訓練模型

• 應用（Applications）：面向使用者及產業的 AI 產品

這個架構揭示一項關鍵事實：AI 的本質是一個完整的產業體系，而非僅 sop 軟體技術。

Energy：為什麼電力成為 AI 時代的核心資源

AI 五層架構的最底層是能源。

在生成式 AI 的運作過程中，每次模型推理、每一個 token 的生成，都仰賴實際的運算資源。這些資源最終都需透過電力驅動 GPU 與伺服器來完成。

因此，AI 的運作本質是一個流程：電力 → 運算 → 智能輸出。

隨著大型模型訓練規模不斷 sop，電力需求亦迅速攀升。大型 AI 資料中心常需數十兆瓦甚至更高的電力供應，這也讓能源成為 AI 發展的主要瓶頸之一。

從全球趨勢來看，各國正加強資料中心、電網及新能源基礎設施建設，以支援未來 AI 產業的算力需求。

Chips：AI 晶片如何決定算力與智能成本

能源之上是晶片層。

AI 晶片的核心任務，是將電力高效轉換為運算能力。與傳統 CPU 不同，AI 工作負載需大規模平行運算、高頻寬記憶體及高速網路互連。

正因如此，GPU 成為 AI 運算的關鍵基石，而 NVIDIA 等企業也在此領域占據主導地位。

AI 晶片的發展速度直接影響兩大關鍵指標：

1. AI 運算效率

2. 智能生成成本

若晶片效率提升，AI 訓練與推理成本將隨之下降，進一步促使更多企業與產業導入 AI 技術。

Infrastructure：AI 資料中心為何被稱為「AI 工廠」

第三層是 AI 基礎設施。

傳統資料中心主要用於 co 資料與 nu 網路服務，而 AI 資料中心則承擔新角色——製造智能。

Jensen Huang 將其稱為 AI factories（AI 工廠）。

在這些設施中，數萬甚至數十萬顆 GPU 被串聯，透過高速網路與分散式系統形成超大規模運算平台。

AI 工廠通常包括：

• 大規模 GPU 叢集

• 高速網路互連

• 液冷或風冷系統

• 電力供應與能源管理

• 資料儲存與訓練系統

這些設施的目標並非儲存資訊，而是持續生產智能輸出，例如模型推理結果或訓練完成 desc AI 模型。

Models：模型層的突破如何推動 AI 應用爆發

第四層為 AI 模型。

近年來，大型語言模型（LLM）成為 AI 領域最受矚目的技術，但這僅是 AI 模型的一種類型。

AI 模型的應用領域事實上極為廣泛，例如：

• 蛋白質結構預測

• 化學分子設計

• 物理模擬

• 自動駕駛

• 機器人控制

開源模型在這一層同樣扮演重要角色。例如由 DeepSeek 推出的推理模型 R1，讓更多開發者能以較低門檻使用先進 AI 技術。

當高效能模型更加開放時，整體 AI 生態系統的創新速度也會顯著提升。

Applications：AI 應用如何創造真正的經濟價值

五層架構的最頂層是 AI 應用。唯有 AI 技術實際應用於真實場景，經濟價值才能真正產生。

目前已出現產品市場契合（Product-Market Fit）的 AI 應用包括：

• 藥物研發平台

• 智能客服系統

• 軟體開發助理

• 自動駕駛系統

• 工業機器人

例如自動駕駛汽車可視為一種「具身 AI 應用」，即 AI 嵌入於實體裝置，直接參與現實世界的決策與操作。

未來，AI 應用有望拓展至更多產業，例如製造、醫療、物流及金融。

AI 五層架構的產業含義：兆美元級基礎設施建設

AI 五層架構不僅是技術結構，也揭示了未來產業投資的方向。

與網際網路不同，AI 是一個高度資本密集型產業。

從能源設施到晶片製造，再到資料中心建設，每個環節都需巨額投資。因此，未來 AI 產業的基礎設施建設規模可能達到數兆美元。

全球已出現明顯趨勢：

• 大型 AI 資料中心建設加速

• 晶片工廠持續擴張

• 電力與能源系統升級

這有望成為人類歷史上規模最大的數位基礎設施建設浪潮之一。

開源模型與 AI 生態：DeepSeek 等模型為何改變產業節奏

開源模型正成為推動 AI 產業發展的關鍵力量。當先進模型開放後，開發者能更容易構建新應用，這將大幅擴大 AI 技術的應用範圍。從產業鏈角度來看，這種開放模式反而會提升底層資源需求：更多應用 → 更多推理需求 → 更多算力 → 更多 GPU → 更多能源。

因此，開源 AI 不會削弱基礎設施公司，反而會擴大整體 AI 產業規模。

AI 時代的未來競爭：能源、算力與智能生產能力

總結來看，AI 五層架構揭示了未來技術競爭的核心邏輯。在 AI 時代，真正的競爭不僅在於模型能力，而在於整個產業體系的建設能力，包括：

• 電力與能源供應

• AI 晶片研發

• 資料中心基礎設施

• 模型創新能力

• 應用生態系統

AI 已經從單純的軟體技術，升級為完整的產業體系。隨著全球各國加大對 AI 基礎設施的投入，未來數十年 AI 產業發展將深刻影響經濟結構、就業模式及科技創新方向。

AI 正逐步成為現代社會的核心基礎設施，而這場變革才正要展開。