我們很高興分享我們與SGLang合作的成果。🎉



我們優化了 DeepSeek R1 推理,以便在 GB200 NVL72 上部署—與幾乎是兩倍大小的 H100 集羣相比,提供了每個 GPU 增加 2 倍和 3 倍的性能。

這就是前沿 MoE 推斷的樣子。
DEEPSEEK-1.24%
LOOKS-0.01%
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 6
  • 分享
留言
0/400
鲸落见证者vip
· 16小時前
性能又翻倍啦 厉害了
回復0
Rugpull幸存者vip
· 16小時前
又在卷性能是吧
回復0
OnChainDetectivevip
· 16小時前
嗯,追踪了那些GPU指标……这里面有些不对劲。
查看原文回復0
元宇宙流浪汉vip
· 16小時前
卧槽 终于干过H100了!
回復0
经典割韭机vip
· 16小時前
又跟着起飞了吧
回復0
狗庄的小兵vip
· 16小時前
GPU性能炸了属于是
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)