Công suất AI đang chuyển đổi: từ "đấu đào tạo" sang "đấu suy luận"

Gần đây, một xu hướng của Nvidia thực sự tiết lộ rằng ngành công nghiệp AI đang diễn ra những chuyển biến quan trọng. Trong hai năm qua, trọng tâm của cuộc cạnh tranh về sức mạnh tính toán là "ai có thể huấn luyện mô hình lớn hơn", càng nhiều GPU xếp chồng lên nhau càng tốt. Nhưng bây giờ, khả năng của mô hình đã đủ ở giai đoạn này, thực sự trở ngại lớn nhất là hiệu quả suy luận — trả lời nhanh hơn, chi phí mỗi lần gọi thấp hơn, và khả năng vận hành lâu dài ổn định.
Nvidia bắt đầu giới thiệu ngoài GPU truyền thống, ý tưởng về LPU (đơn vị xử lý ngôn ngữ) từ Groq, mục tiêu cốt lõi là giảm độ trễ và tiêu thụ năng lượng. Điều này tự nó cho thấy, GPU không phải là giải pháp tối ưu cho tất cả các tình huống AI.
Điều đáng chú ý hơn là lựa chọn của OpenAI. Việc họ mua sắm quy mô lớn "năng lực suy luận chuyên dụng" đồng nghĩa với việc trong tương lai, áp lực chi phí AI chủ yếu sẽ đến từ suy luận chứ không phải huấn luyện. Chìa khóa để thương mại hóa AI không phải là mô hình lớn hơn, mà là khả năng sử dụng hợp lý và vận hành lâu dài.
Công suất đang chuyển từ "nền tảng chung duy nhất" sang thời đại hạ tầng "phân chia theo từng cảnh vực".
Quan điểm của giáo chủ:
Tiếp theo, ranh giới đầu tư AI không còn là "ai có sức mạnh tính toán lớn nhất", mà là "ai giảm được chi phí suy luận trên mỗi đơn vị". Hiệu quả đang thay thế quy mô, trở thành điểm neo giá mới.
$BTC $ETH