金十データ8月2日、プライベートセール大手の幻方量化は、汎用人工知能(AGI)を探求する新しい組織「DeepSeek」が、将来的に繰り返し使用されると予想されるコンテンツを分散型のハードディスクアレイにキャッシュするコンテキストハードディスクキャッシュ技術を導入したことを発表しました。大規模なモデルAPIを使用する場合、入力に重複がある場合は、重複部分はキャッシュから読み取るだけで計算する必要はありません。DeepSeekのキャッシュヒット部分の料金は、100万トークン当たり0.1元です。
幻方量化の傘下の大型モデルメーカーDeepSeekは、ハードディスクキャッシュ技術を採用しました
金十データ8月2日、プライベートセール大手の幻方量化は、汎用人工知能(AGI)を探求する新しい組織「DeepSeek」が、将来的に繰り返し使用されると予想されるコンテンツを分散型のハードディスクアレイにキャッシュするコンテキストハードディスクキャッシュ技術を導入したことを発表しました。大規模なモデルAPIを使用する場合、入力に重複がある場合は、重複部分はキャッシュから読み取るだけで計算する必要はありません。DeepSeekのキャッシュヒット部分の料金は、100万トークン当たり0.1元です。