CodeDevMaster

在人工智能快速发展的今天，大语言模型(LLM)已经成为构建智能应用的重要基础设施。本文将介绍如何利用大模型API和工具函数集成，构建一个能够理解自然语言并提供精准天气信息的智能助手。

本文将详细介绍如何使用 vLLM 框架部署DeepSeek-R1-Distill-Qwen-7B模型，并完成高效的推理任务。将从环境配置、模型加载、推理优化等方面一步步展开，帮助快速上手vLLM并体验

在Windows上使用Linux 子系统 (WSL) 时，可能会遇到虚拟硬盘文件 (VHDX) 占用大量磁盘空间的问题，即使已经删除了其中的文件。

本文深入讲解Docker代理配置的核心方法，涵盖daemon.json与Systemd环境变量两种方案，助你快速解决跨国镜像拉取、私有仓库访问等难题。

本文详细记录了从源代码构建 vLLM 的完整过程，重点解决了编译过程中可能遇到的错误，并针对常见的编译错误提供了解决方案。

Docker的网络功能（如端口映射、网络隔离）依赖于传统的iptables规则。虽然iptables-nft提供了兼容层，但在某些情况下，Docker可能无法正确解析或应用这些规则，导致网络初始化失败

本文将探讨如何利用ChatGLM3-6B和LangChain构建高效的知识库助手。将涵盖从下载大模型和向量模型、自定义LLM 类，到文件读取与处理、构建向量数据库的全过程。最后，实现检索问答链并测试

RAG全称为Retrieval-Augmented Generation，即检索增强生成，结合了检索和生成的能力，引入外部知识库为文本生成任务提供支持，增强模型生成能力，产生更丰富、准确、有根据的内容

xlwt、openpyxl、xlutils是三种流行的Python库，它们可以高效地写入Excel数据，每个库都有其独特的功能和适用场景。