Нещодавно я побачив цю новину: наприкінці минулого року NVIDIA придбала бізнес з інференційних чіпів компанії Groq, і логіка цієї угоди досить цікава.

Хуанг Женьсюнь вперше детально пояснив на цьогорічній конференції GTC, чому він вирішив взяти Groq. По суті, він побачив, що ринок інференції розділяється. Раніше всі оптимізували інференційні чіпи з однією метою: підвищити пропускну здатність. Але тепер ситуація змінилася: різні користувачі готові платити різну ціну за різні швидкості відповіді.

Ця логіка дуже важлива — якщо я можу забезпечити розробникам швидший час відповіді токенів і підвищити їхню ефективність, вони будуть готові платити за це. Цей високовартісний, низьколатентний ринок фактично з’явився лише нещодавно. Хуанг назвав це розширенням парето-краю ринку інференції: раніше це була стратегія з високою пропускною здатністю, а тепер додано новий напрям — рішення з низькою затримкою і високою ціною.

І Groq саме є експертом у цій галузі. Їхня архітектура LPU відома своєю визначеною низькою затримкою, що повністю доповнює високопродуктивний напрямок GPU NVIDIA. У березні був випущений Groq 3 LPU, який використовує техпроцес Samsung 4 нм і має здатність інференції на трильйонних моделях на 35 разів вищу за Blackwell NVL72, що дійсно дуже вражає.

З точки зору продуктового портфеля, ця покупка заповнила прогалину NVIDIA на ринку інференції. Уявіть: одна й та сама модель може мати різну ціну залежно від швидкості відповіді — пропускна здатність може бути трохи нижчою, але ціна компенсує це. Додавання Groq дозволяє NVIDIA мати більш повне покриття на ринку інференції. З стратегічної точки зору, ця угода цілком логічна.