AI大模型

Dify在开源社区这里是走得比较早的，但有红利就有竞争对手，这不FastGPT与N8N等开源Agent平台相继就出现了，我们这里也依次做下简单介绍。...

今天，我们不仅要揭开RAG的核心原理，还要深入解析其中一个关键但常被忽视的环节——分块策略。毕竟，AI要想回答得好，喂它的信息得先切得合适，而这一点，远比想象中更讲究。...

本章将开发一个基于大语言模型（LLM）的提示词优化工具，该工具不仅能自动优化用户输入的提示词，其自身的设计也是提示词技术的一个实际应用案例。...

本章作为Prompt的总结，对Prompt的基本概念作一个整理。同时将整个Prompt的文章进行汇总。...

提示词安全涉及防止恶意输入诱导LLM生成有害、偏见或敏感内容，避免数据泄露与滥用。风险包括越狱攻击（绕过限制）、隐私泄露、社会工程攻击等。安全措施包括输入过滤、对抗性检测、...

前三章系统地介绍了提示（Prompt）的基本概念、设计原则及应用技术。为进一步提升大语言模型的应用效能，本章将通过具体实例深入讲解如何优化提示的编写技巧。...

本章我们将逐一解析LLM提示词的多种关键技术，助力您精准把握其核心要点与应用场景，切实提升应用能力。...

在上一章中，我们系统性地讲解了大语言模型提示词的基础概念和核心框架，并深入解析了 LLM 的关键参数，这些知识对 LLM 应用的理解与开发至关重要。本章将重点介绍构建高效 ...

在数字化浪潮的推动下，AI大模型以其卓越的自然语言处理能力和智能交互特性，迅速在很多领域中占据了重要地位。...

通过指令微调，我们可以打造一个对话机器人，就像你一直在使用的各种大语言模型应用那样 —— 它能够接收用户的自然语言指令，并输出相应的回复。...

本文使用一个垃圾邮件分类的任务，来说明如何基于预训练的GPT2在邮件数据集上进行微调，我们的目标是打造一个垃圾邮件分类器，输入一份邮件的内容，模型给出该邮件是否为垃圾邮件的...

Dify对企业级的应用不是太友好。最近有个RAG的项目需求，又重新好好调研了下这个问题，发现RagFlow这个项目还是很活跃，更新很及时，也支持GraghRAG。OK，那就...

在使用训练好的LLM进行自回归预测下一个token时，我们会选择预测序列中最后一个token对应的预测tensor，作为解码操作的对象。...

在前面的4篇文章中，我们已经完成了整个数据流向所需的模块构建，包括tokenizer，embedding，注意力机制，并串联得到了GPT2这个LLM架构。...

在前面的3篇文章中，我们已经讲解了训练LLM所需的tokenizer，token/position编码，以及Transformer核心：注意力机制。现在是时候动手搭建GPT...

在之前的两节内容中，我们已经将输入的句子通过tokenizer映射到了一个个的token IDs，并进一步做了连续编码，得到了包含充分语义信息的embedding向量。...

在完成了tokenization之后，我们已经可以将一个个的单词映射到对应的数字，称之为token ID，这些数字已经可以被计算机处理。...

本文是大模型系列炼丹术的第一篇，首先给大家介绍了如何从头开始实现一个自定义tokenizer，用于将原始文本数据转化为模型能够理解的格式。...

在前面的内容里面分享了如何使用`OllamaSharp`访问ollama接口，今天分享如何使用Semantic Kernel来访问ollama接口。...

哈喽，今天计划对之前ollama系列做个回顾，从如何部署到API使用，整理到一篇内容中，提供给大家参考。...