此人未设置昵称

最近测试报了个事故，表现是压测的时候，系统吞吐量掉了三分之二，查看内存和cpu，都没有满，搞的我一个头两个大？ 原因我就不卖关子了， 是因为一批热数据用的是tokio自带的mutex异步锁

agent是模型面向应用的中间层，通常理解为是一个类人的智能体，为了让agent更像一个人，我们可以引导模型像人一样思考。 思维链(CoT)通常作为一种引导模型思考的方法被广泛使用。

提到反向代理，nginx通常是首选项，但它的诸多缺点简介里就不吐槽了。最近看到cloudflare开源了pingora，见猎心喜，决定用pingora给k8s做一个网关。

我们说了这么多期大模型应用的事情，都是讲怎样提供开放能力，支持各种各样的应用，我们可以用这些能力制作一个nb的应用，那它应该如何上线，如何迭代优化？ 这就是评测要做的事情。 评测是什么？重要性如何？

前言 我在刚接触的pytorch的时候，只有一台破笔记本，学到CNN的时候，需要用显卡训练模型，那时的我，兜比脸干净，此生头一次感觉到贫穷限制了我对知识的追求。 再回首恍然如梦，尝试垃圾卡一样可以训模

我们前面几篇博文中出现的大模型，都是通用的大模型。但在更专业的领域，需要更专业的模型，这就需要模型的微调能力。

如果单纯的将大模型用来聊天，那就太low了。 多模态赋予了大模型更多的现实价值，大模型则助力多模态变得更强大。本文重场景，并分类理解多模态是如何让大模型和现实接轨的。

promp是智能体的四个基本要素之一，没有一个好的prompt，就绝对不可能有一个好的agent。本文从理论到实战讲述如何做好一个prompt。

记忆力是大模型应用的最重要的事情之一，本文将从三个方向（1:短期的，明确的记忆，2:长期的，模糊的记忆，3:长期的，明确的记忆），从零用代码实现一个memory。