居然JuRan

本文介绍了使用vLLM框架部署和调用DeepSeek-R1-Distill-Qwen-7B模型的方法。vLLM是一个高效的大语言模型推理系统，具有内存管理优化、高吞吐量和易...

注意力机制是自然语言处理（NLP）中基于Encoder - Decoder 的**神经机器翻译**(Neural Machine Translation )系统的一种改进。...

DeepSeek+LoRA+FastAPI微调大模型并暴露接口给后端调用 整体介绍 需求和技术 企业对于大模型的不同类型个性化需求 SFT（有监督微调）、RAG（检索增强生...

在本地运行大型语言模型（LLMs）已成为许多开发者和爱好者的热门选择，它提供了隐私性、定制化和离线使用的可能性。虽然像 Ollama 这样的工具提供了强大的命令行界面来管理...

Qwen3-8B vLLM 部署调用 vLLM 简介 vLLM 框架是一个高效的大语言模型推理和部署服务系统，具备以下特性： 高效的内存管理：通过 PagedAttenti...

大语言模型 4.1 什么是 LLM 在前三章，我们从 NLP 的定义与主要任务出发，介绍了引发 NLP 领域重大变革的核心思想——注意力机制与 Transformer 架构...

预训练语言模型 3.1 Encoder-only PLM 在上一章，我们详细讲解了给 NLP 领域带来巨大变革注意力机制以及使用注意力机制搭建的模型 Transformer...

阿里云智能多模态大模型岗三面面经（详细问题+感受） 最近面试了 阿里云智能集团 - 多模态大模型岗位，三轮技术面，整体体验还不错。问题整体偏常规，但对项目的追问比较细致。这...

随着 NLP 从统计机器学习向深度学习迈进，作为 NLP 核心问题的文本表示方法也逐渐从统计学习向深度学习迈进。正如我们在第一章所介绍的，文本表示从最初的通过统计学习模型进...