ZackSock

一、前言 在做 RAG 应用时，PPT、PDF 等多模态文档处理会比较麻烦，尤其是扫描稿的 PDF 文档。虽然常规的 PDF 可以很容易获取 PDF 的文本内容，但是在遇到...

一、前言 torch.compile()是 PyTorch 团队的一项重大创新。我们可以将它看作是模型的编译器，它与模型的关系类似于 GCC 和 C、C++的关系，只不过它...

FastMCP 是构建 MCP 服务器和客户端的快速、Python 方式。 MCP：Model Context Protocol，是标准化的提供大语言模型上下文和工...

在 DeepSeek-r1 火爆后，蒸馏学习也迎来了新的关注。蒸馏学习用于让学生模型从已经训练好的老师模型学习能力，通常学生的参数量会小于老师模型。DeepSeek-r1 ...

一、前言 VAE（Variational Auto Encoder）是一种非常强大的自监督学习算法，在 AI 绘画领域发挥重要作用。在 Stable Diffusion 中...

一、前言 Q-learning 是一种基于价值估计的方法，在深度强化学习之前，发挥巨大作用。Q-learning 也叫表格 Q-learning。其目的在于学习一个状态-动...

一、前言 Policy Gradient 是一种非常强大的强化学习算法，正如其名，Policy Gradient 通过直接对 Policy 本身计算梯度来实现学习的目的。 ...

一、前言 RAG是大语言模型中最重要的技术之一，在早期 LLM 依赖自身记忆回答，而 LLM 自己数据往往有滞后性。同时由于LLM 的上下文长度限制，由此就出现了 RAG ...

一、前言 MCP 全称模型上下文协议，而上下文指的是模型可以接入的内容，比如 prompt、resource和 tool。MCP 的出现允许社区共享 MCP 服务器，同时也...

一、前言 MCP 已经火了一段时间了，目前也有许多现有的 MCP 服务器。今天我们要做的是自己开发一个 MCP 服务器，并编写 MCP 客户端，调用 MCP 服务器。并使用...

一、前言 最近 DeepSeek-R1 比较火，让本地部署大模型成为一个瞩目的话题。DeepSeek-R1 提供了 1.5B 到 671B 的模型，而大多数人电脑只能支持到...

在处理并发请求时，日志信息常常显得杂乱无章，尤其是在分布式服务系统中，各节点的日志分散在不同位置，缺乏完整的日志链路，导致查询和分析日志信息变得异常繁琐。...

在 FastAPI 中直接通过 Middleware 读取请求体（body）会导致请求体无法被多次读取，进而在路由函数中引发异常，但可以使用 APIRoute 来解决这一问...

一、前言 在之前的文章中，我们讨论过图像修复的方法。具体见：如何去除图片马赛克？ 这里回顾一些关键的内容。这里我们要考虑几个问题： 能否去除马赛克？ 去除马赛克实际在做什么...

一、前言 在前面两篇，我们讨论了数字人的基本原理。并实现了Dataset类、基于Wav2Lip的唇形同步模型，以及训练代码。如果还未阅读，可以跳转阅读： 数字人原理详解--...

一、前言 在上一篇，我们实现了数字人人脸识别、音频特征提取、数据预处理、数据集类等代码。如果还没有阅读可以先阅读《数字人原理详解--从头开始实现数字人（一）》 这里我们简单...

一、前言 数字人是目前比较火的一个概念，在直播带货、新闻播报、授课等方面都有应用。目前实现数字人主要有建模和生成两种方式。前者控制数字人嘴型、肢体动作等，但是人物不够真实。...

一、前言 在日常生活中，传输数据的方式有很多种。其中最普遍的就是网络传输，流媒体平台、局域网联机、面对面互传文件、蓝牙文件传输等都属于网络传输。也有一些无需网络的方式，比如...

一、前言 目前大模型的微调方法有很多，而且大多可以在消费级显卡上进行，每个人都可以在自己的电脑上微调自己的大模型。 但是在微调时我们时常面对一个问题，就是数据集问题。网络上...