KVCache

上篇文章以DeepSeek-R1为例，我们介绍了什么是量化，不同量化版本的差距是什么。这篇我们来了解下什么是上下文窗口以及不同量化方式、上下文下的显存占用估算。