Mr406

赞

2

|

搜索文章

赞

文章( 2 ) 沸点( 0 )

Docker 最佳实战：Docker 部署单节点向量数据库 Milvus 实战

本文将详细介绍如何用 Docker 容器及 Docker Compose 部署单节点 Milvus，并利用 Python 脚本验证 Milvus 服务的可用性。

运维有术
1年前
2.9k
3
评论

Docker 最佳实战：Docker 部署单节点向量数据库 Milvus 实战

LLM 推理优化探微 (2) ：Transformer 模型 KV 缓存技术详解

本文是该系列文章的第二篇，作者的核心观点是：KV 缓存可以显著减少语言模型的运算量，从而提高其生成文本的效率，但是这种技术并非免费的午餐。

Baihai_IDP
2年前
922
3
评论

LLM 推理优化探微 (2) ：Transformer 模型 KV 缓存技术详解

加入于

2024-06-21