幻方量化旗下大模型厂商 DeepSeek 启用硬盘缓存技术

科技动态

私募巨头幻方量化旗下新组织「深度求索(DeepSeek)」在探索 AGI 过程中采用上下文硬盘缓存技术,将未来可能重复使用的内容缓存在分布式硬盘阵列中。这样,在大模型 API 使用场景中,若输入存在重复,可从缓存读取,减少计算量。DeepSeek 对缓存命中的内容收费为每百万 tokens 0.1 元。


本站提供的内容用于个人学习、研究以及其他非商业性或非盈利性用途,内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注