此人未设置昵称

本期我们来修改一下go的编译器，增加一个?号的语法糖，用它来简化 if err != nil { return err } 的写法。...

前面我们介绍了很多大模型的理论知识，今天来实践一下。 我们要做的功能是图片整理，在生活中我们会不断的拍照，直到几百上千张后，我们已经很难找到前面的某张图片，这时候就需要对图...

奶茶行业是个非常大的市场，虽然有点卷，但是ai可以让它变的更卷。 奶茶卷的原因是，不同的品牌几乎没有壁垒，市面上只要出现一种火爆的奶茶，就会立刻出现无数种类似的奶茶。 所以...

我们前面讲了很多大模型应用的功能模块，也讲了很多范式。但是在生产环境中，我们到底要如何来做一个完整的，通用的，能够不断优化迭代的，全局视角的架构设计。...

最近遇到好多人和我交流RAG相关的技术，同事在说，面试在说，甚至我多年未联系的挚爱亲朋都突然来问我RAG是个啥？要怎么搞？ 那让我们一文了解RAG相关技术。...

上篇我们实现了基础节点，并暴露出grpc服务，但是手动编辑文本制作一个workflow实在强人所难。 所以本文我们做个webui自动生成workflow。 开搞之前先看看别...

为了增加框架的扩展性和适用性，我们要能够在流程节点中运行python脚本。本章我们用rust制作一个python的沙盒运行时。...

上一篇文章里我们实现了一个基本的运行时，能够将service按照plan执行起来，本文我们尝试实现一些基本节点，最终运行一个最简单的agent。...

上篇文章我们大致演示了一下ai_agent的食用方法。这里我们做一下核心模块runtime的设计和实现。 一个agent也好，workflow也好，他们单个实现起来并不复杂...

之前我们讲过了想将LLM能力在具体的应用中实践，最好的方法是做成一个agent。 本系列我们就从零写一个agent框架，方便我们构造和运行agent。...

最近测试报了个事故，表现是压测的时候，系统吞吐量掉了三分之二，查看内存和cpu，都没有满，搞的我一个头两个大？ 原因我就不卖关子了， 是因为一批热数据用的是tokio自带的...

agent是模型面向应用的中间层，通常理解为是一个类人的智能体，为了让agent更像一个人，我们可以引导模型像人一样思考。 思维链(CoT)通常作为一种引导模型思考的方法被...

提到反向代理，nginx通常是首选项，但它的诸多缺点简介里就不吐槽了。最近看到cloudflare开源了pingora，见猎心喜，决定用pingora给k8s做一个网关。...

我们说了这么多期大模型应用的事情，都是讲怎样提供开放能力，支持各种各样的应用，我们可以用这些能力制作一个nb的应用，那它应该如何上线，如何迭代优化？ 这就是评测要做的事情。...

我即将分享一个冗长的故事，从 OpenDAL 的 op.read()开始，以一个意想不到的转折结束。这个过程对我来说非常有启发性，我希望你也能感受到。我会尽力重现这个经历，...

前言 我在刚接触的pytorch的时候，只有一台破笔记本，学到CNN的时候，需要用显卡训练模型，那时的我，兜比脸干净，此生头一次感觉到贫穷限制了我对知识的追求。 再回首恍然...

我们前面几篇博文中出现的大模型，都是通用的大模型。但在更专业的领域，需要更专业的模型，这就需要模型的微调能力。...

如果单纯的将大模型用来聊天，那就太low了。 多模态赋予了大模型更多的现实价值，大模型则助力多模态变得更强大。本文重场景，并分类理解多模态是如何让大模型和现实接轨的。...

promp是智能体的四个基本要素之一，没有一个好的prompt，就绝对不可能有一个好的agent。本文从理论到实战讲述如何做好一个prompt。...