随着模型变得越来越复杂和庞大，推理速度优化变得尤为重要，尤其是对于用户期望即时回复的聊天应用。键值缓存用于提升transformer架构模型的响应速度，本文将深入了解它的工作原理及其应用场景