LLM

本文翻译自2024年Google团队的Agents白皮书，近期，DeepSeek备受瞩目，其推理成本极低，为Agent的广泛普及奠定了极为坚实的技术基础，提供了强有力的支持。Agent时代已然来临。

在 Self-Attention 机制中，Q 是“即时生成”的，不需要缓存；而 K 和 V 在多个查询中会多次使用，因此需要缓存以减少重复计算

本文介绍了从TF-IDF到BM25的进化过程。BM25通过引入非线性词频调整、文档长度归一化和改进的逆文档频率（IDF）机制，提升了信息检索的效果。相比于传统的TF-IDF，BM25能更好地平衡词频与