🏡 我的环境： 语言环境：Python3.10.11 编译器：Jupyter Notebook 深度学习框架：Pytorch 2.0.1+cu118 显卡（GPU）：NVIDIA GeForce RT

CLIP-as-service 让视频搜索变得如此轻松：输入画面的文字描述直接搜索到对应的视频片段。

之前尝试了基于ChatGLM-6B使用LoRA进行参数高效微调，本文给大家分享使用DeepSpeed和P-Tuning v2对ChatGLM-6B进行微调。 ChatGLM-6B简介 ChatGLM-

MJ提示词拓展网站；深度拆解天花板级复杂的提示词；初创公司 AI21 Labs 成为新晋独角兽；游戏开发者三年心血成乌有……点击阅读全文

目前开源的大语言模型或多或少存在以下痛点： 缺少专门针对中文进行优化过的的大语言模型。 支持中文的开源模型的参数规模偏小，没有超过千亿。比如清华和智谱AI的ChatGLM-6B目前只开源了6B参

本文旨在对 transformers 支持的各种量化方案及其优缺点作一个清晰的概述，以助于读者进行方案选择。 目前，量化模型有两个主要的用途: 在较小的设备上进行大模型推理 对量化模型进行适配器微调

近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，从而导致模型变得越来越大，因此，我们需要一些大模型压缩技术来降低模型部署的成本，并提升模型的推理性能。而大

本文介绍支持中文大语言模型多模的产品VisualGLM使用和原理，用来对标GPT-4，也方便构建自己的GPT-4产品。

本章将探讨LangChain框架和GPT-4插件的世界。我们将看看LangChain如何实现与不同语言模型的互动，以及扩展GPT-4功能的插件的重要性。这些高级知识对于开发依赖LLM的复杂、前沿应用程