Kekuatan komputasi AI sedang mengalami perubahan: dari "berlomba pelatihan" menuju "berlomba inferensi"

Baru-baru ini, sebuah langkah dari Nvidia sebenarnya mengungkapkan bahwa industri AI sedang mengalami transformasi penting. Dalam dua tahun terakhir, inti kompetisi kekuatan komputasi adalah "siapa yang bisa melatih model yang lebih besar", semakin banyak GPU semakin baik. Tetapi sekarang, kemampuan model secara sementara sudah cukup, hambatan sebenarnya beralih ke efisiensi inferensi—seberapa cepat jawaban diberikan dalam satu kali, berapa biaya satu panggilan, dan apakah bisa berjalan secara stabil dalam jangka panjang.
Nvidia mulai memperkenalkan ide LPU (Language Processing Unit) dari Groq di luar GPU tradisional, dengan tujuan utama mengurangi latensi dan konsumsi energi. Hal ini sendiri menunjukkan bahwa GPU bukanlah solusi terbaik untuk semua skenario AI.
Yang lebih menarik perhatian adalah pilihan OpenAI. Pembelian besar-besaran "kapasitas inferensi khusus" mereka berarti bahwa tekanan biaya AI di masa depan terutama berasal dari inferensi, bukan pelatihan. Kunci komersialisasi AI bukanlah model yang lebih besar, tetapi yang mampu digunakan dan berjalan dalam waktu lama.
Kekuatan komputasi sedang beralih dari "platform serba guna tunggal" ke era infrastruktur yang dibagi berdasarkan skenario.
Pendapat Guru:
Selanjutnya, titik balik investasi AI bukanlah "siapa yang memiliki kekuatan komputasi terkuat", tetapi "siapa yang mampu menurunkan biaya inferensi per unit". Efisiensi sedang menggantikan skala, menjadi patokan harga yang baru.
$BTC $ETH