✍️ Gate 廣場「創作者認證激勵計劃」進行中!
我們歡迎優質創作者積極創作,申請認證
贏取豪華代幣獎池、Gate 精美周邊、流量曝光等超過 $10,000+ 豐厚獎勵!
立即報名 👉 https://www.gate.com/questionnaire/7159
📕 認證申請步驟:
1️⃣ App 首頁底部進入【廣場】 → 點擊右上角頭像進入個人主頁
2️⃣ 點擊頭像右下角【申請認證】進入認證頁面,等待審核
讓優質內容被更多人看到,一起共建創作者社區!
活動詳情:https://www.gate.com/announcements/article/47889
vLLM 配方網站完成重大重新設計,提供模型與硬體優化部署方案
ME News 消息,4 月 22 日(UTC+8),vLLM 項目宣布其社群維護的配置方案庫 vLLM Recipes 網站已完成重大重新設計。新版網站旨在幫助用戶快速部署和運行大型語言模型,核心新增功能是為「如何在特定硬體上運行特定模型以完成特定任務」這類問題提供可點擊的答案。網站採用了類似 HuggingFace 的 URL 風格,用戶可通過替換模型 URL 中的域名部分直接跳轉到對應的優化方案頁面。該平台提供了針對 Qwen3.6-35B-A3B、Kimi-K2.6 等多種模型,以及 NVIDIA H100/H200/B200/B300、AMD MI300X/MI325X/MI355X 等多種 GPU 硬體優化後的 \vllm serve\ 命令行指令。用戶可按 Arcee AI、百度、字節跳動、DeepSeek、Google、Meta、微軟等提供商瀏覽方案。該平台與 vLLM 完全相容,並提供了到官方文件、GitHub 倉庫和完整模型硬體相容性列表的連結。(來源:InFoQ)