小刘的大模型笔记

一、引言 在大模型从通用走向场景化的过程中，微调已成为实现个性化需求的核心手段。企业通过微调将业务数据注入模型，打造专属客服、专业分析等定制化能力；个人开发者通过微调优化模型输出风格，适配特定创作场景

一、引言 PPO 作为 RLHF 核心算法，是让大模型输出贴合人类偏好的关键技术，看似涉及复杂的强化学习知识，实则借助低代码平台，零基础也能完成全流程实战。本文抛开繁琐公式，聚焦PPO 微调实操全步骤

一、引言**** 大模型微调是实现业务适配的核心手段，但在微调过程中，安全与隐私问题往往被忽视 —— 很多企业和开发者在微调时，直接使用含敏感信息的数据集（如用户隐私、企业机密、未授权内容），不仅可能

一、引言**** 在大模型、RAG、智能推荐等领域，向量数据库早已成为核心工具，被频繁提及，但很多初学者被 “向量”“相似度检索”“向量化” 等术语劝退，觉得这是高难度的技术概念，不敢轻易尝试。其实向

一、引言 PPO 作为 RLHF 核心算法，是让大模型输出贴合人类偏好的关键技术，看似涉及复杂的强化学习知识，实则借助低代码平台，零基础也能完成全流程实战。本文抛开繁琐公式，聚焦PPO 微调实操全步骤

一、引言 “显存不足”是大模型新手最常遇到的报错，很多人疑惑：“我电脑有16G内存，为什么跑7B模型还提示显存不够？”“显存和内存到底有什么区别？”“多大显存才能跑大模型微调？”。其实显存是大模型训练

一、引言 为客服场景训练一个模型，为办公场景再训练一个，最后还要为内容生成单独搭模型 —— 传统单任务微调不仅重复劳动，还导致企业模型维护成本高、部署复杂。而多任务微调通过让一个模型同时学习多个相关任

一、引言 想做大模型微调，却被市面上五花八门的微调框架搞得眼花缭乱？OpenLlama、LLaMA-Factory、PEFT、FastChat…… 不同框架各有优劣，有的适合新手，有的适合企业级落地，

什么是数据集 —— 稀土掘金 一、引言 在大模型的世界里，数据集是模型的 “粮食” —— 没有数据，再强大的模型也无法学习；数据质量差，模型的输出也会差。很多新手入门大模型时，容易忽略数据集的重要性，