雨田君的记事本

详细介绍使用LlamaIndex框架来搭建企业RAG基础应用的流程，以及期间遇到的一些问题和解决办法。...

推理效果对比 主流测试数据集 GSM8K：包含 8.5K 高质量语言多样化小学数学应用题的英文数据集。 GAOKAO以中国高考题目为数据集，旨在提供和人类对齐的，直观，高效...

RAG 可以理解为一个拿着参考资料的人和你对话，侧重于信息检索。微调之后的 llm 则像是一个领域内的人和你沟通，说话风格，表达方式会更贴近领域内的专业人士，一个是形似，一...

在超大模型训练系统中，ZeRO 是必不可少的一项技术。商汤 SenseParrots 介绍微软 ZeRO Optimizer 的思路和实现。...

众所周知，大模型的训练需要大量的显存资源，单卡很容易就爆了，于是就有了单机多卡、多机多卡的训练方案。本文主要是介绍如何使用deepspeed框架做多机多卡的分布式训练。...

越来越多的人开始尝试接触和使用大模型，在感叹大模型带来的惊人表现的同时，也发现大模型没法查询到最新的信息，做科学计算方面很弱等问题，那么LangChain框架正好能弥补这个...

本文就来介绍一款由上海交通大学、清华大学以及爱丁堡大学合作产出的一个评测集套件C-Eval以及其用法。...

由于文昌链Avata 开发者文档 (bianjie.ai)只给了go、java、php的列子，这里给一个python的例子...

centos7中安装NVIDIA驱动，安装nvidia-docker-runtime并在docker配置使用...

本文将介绍何为LoRA，并讲解如何使用stable diffusion 来训练属于自己的LoRA模型...

我们使用 docker 来一主一从部署mariadb，步骤如下： 1. 配置文件 事先创建一个 mariadb-master-slave 的文件夹，然后在文件夹中新建主节点...

最近新买了台centos7服务器，自带的是python2.7，所以想升级到python3，以下即是详细升级步骤，方便日后查询。...

本文介绍修改centos8.4更新源步骤：1. 备份系统源 2. 下载源 3. 重建缓存 4. 测试安装...