推荐训练推理加速

用空间换时间，将Attention计算的K,V缓存起来，在后续迭代过程中，直接使用前一次迭代缓存的前序单词的K,V向量进行Attention计算，这种技术就叫KV Cache。