Mr406

赞

2

|

搜索文章

赞了这篇文章

自由职业者 @公号运维有术

·

1年前

Docker 最佳实战：Docker 部署单节点向量数据库 Milvus 实战

本文将详细介绍如何用 Docker 容器及 Docker Compose 部署单节点 Milvus，并利用 Python 脚本验证 Milvus 服务的可用性。...

3

评论

赞了这篇文章

@白海科技

·

1年前

LLM 推理优化探微 (2) ：Transformer 模型 KV 缓存技术详解

本文是该系列文章的第二篇，作者的核心观点是：KV 缓存可以显著减少语言模型的运算量，从而提高其生成文本的效率，但是这种技术并非免费的午餐。...

3

评论

关注了

关注了

加入于

2024-06-21