幻方量化旗下大模型廠商DeepSeek啟用硬盤緩存技術

金十數據8月2日訊, 8月2日,私募巨頭幻方量化官微宣佈,其探索AGI(通用人工智能)的新組織“深度求索(DeepSeek)”啟用上下文硬盤緩存技術,把預計未來會重複使用的內容,緩存在分佈式的硬盤陣列中。在大模型API的使用場景中,如果輸入存在重複,則重複的部分只需要從緩存讀取,無需計算。緩存命中的部分,DeepSeek費用為0.1元每百萬tokens。

查看原文
本頁面內容僅供參考,非招攬或要約,也不提供投資、稅務或法律諮詢。詳見聲明了解更多風險披露。
  • 讚賞
  • 留言
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)