大模型应用开发

前端时间我使用FastAPI整合了Gradio和Django，让它们跑在一个进程中，使用同一个端口，不过在后来的使用过程中，我发现Django还是太重了，很多东西我也用不上，改起来还有点麻烦...

在过去的12个月里，ComfyUI迅速崛起，本文将给大家介绍开发ComfyUI插件的基本方法，具体将以我开发的提示词选择插件为例，在ComfyUI中插件就是自定义节点（custom nodes）。

AI开发初期可能已经用Gradio做了很多的功能，不想重写这些东西，这时候就产生了集成Gradio到其它框架的需求。这篇文章就来分享如何将Gradio集成到成熟的Web框架Django，以方便后来者。

本文给大家介绍一个比较基础的机器学习知识：卷积神经网络（Convolutional Neural Networks），简称CNN。卷积本身是一种矩阵运算方式，从字面上看就是卷起来的乘积...

CogVLM2是一款视觉语言模型（Visual Language Model），由智谱AI和清华KEG潜心打磨。这款模型是CogVLM的升级版本，支持高达 1344 * 1344 的图像分辨率...

本文聊聊 LLama-Factory，它是一个开源框架，这里头可以找到一系列预制的组件和模板，让你不用从零开始，就能训练出自己的语言模型（微调）。不管是聊天机器人，还是文章生成器，甚至是问答系统...

在机器学习中，经常会使用余弦函数来计算向量之间的相似性。从推荐系统到自然语言处理，再到计算机视觉，余弦相似性在多种机器学习应用中都有其独特的价值。它不仅限于特定领域，而是几乎可以在任何需要比较向量..

这几天阿里发布了最新的通义千问大模型：通义千问2.5，据说其性能超越了GPT4的某个版本。大家可能都知道GPT4是地球上最强的大语言模型，各方面的表现都十分优秀。通义千问真的有一战之力吗？

扎克伯格说，Llama3-8B还是太大了，不适合放到手机中，有什么办法？ 量化、剪枝、蒸馏，如果你经常关注大语言模型，一定会看到这几个词，单看文字，我们很难理解它们都干了些什么，但是它们能让模型更小

前几天Meta开源发布了新的Llama大语言模型：Llama-3系列，根据官方测评报告，Llama-3-8B的性能吊打之前的Llama-2-70B，也就是说80亿参数的模型干掉了700亿参数...

周五凌晨，Meta发布了其最新的开源大语言模型Llama-3，据说性能直逼GPT-4。 前两天百度老板刚刚批了一下开源模型，说开源模型打不过闭源模型，没想到这么快就被打脸了。

完整的大语言模型训练成本比较高昂，不是我们业余玩家能搞的，如果我们只是想在某个业务场景或者垂直的方面加强大模型的能力，可以进行微调训练。

阿里巴巴最近开源了一个320亿参数的大语言模型Qwen1.5-32B，网上都说很强很强，那么它到底强在哪里呢？ 更高的性价比 Qwen1.5-32B中的B是billion的意思，也就是10亿，32B就

部署一个自己的大模型，没事的时候玩两下，本文就来分享下我的安装部署经验，包括本地和租用云服务器的方式，以及如何通过API调用大模型开发自己的AI应用，希望能解决一些下不去手的问题。

眼看马上要回家过年，在外漂泊的时间越长，家乡的人事也愈加淡忘，很多人物的关系都搞不清楚了，更不想起来该如何称呼。 这几天看到字节发布了一个AI应用开发平台：扣子coze，于是就想用大模型来解决这个问题

大模型炒了一年，为什么没有特别火的应用？ 最近几天360创始人周鸿祎称，去年感觉大模型是原子弹，今年感觉是茶叶蛋。 什么意思？我想大概就是说大模型谁都能玩了，现在国内的大模型没有一千，也有几百个了

本文将继续分享AI助手/AI客服的开发方式，在OpenAPI中它的名字是Assistants。Assistants的主要作用是强化大模型在某方面的应用能力，比如目前已经大范围使用的AI客服和知识库助手

我将带你一起探索如何利用OpenAI API开发GPT应用。无论你是编程新手还是资深开发者，都能在这里获得灵感和收获。 本文，我们将继续展示聊天API中插件的使用方法，让你能够轻松驾驭这个强大的工具。

很多机器学习框架和类库都是使用Python编写的，OpenAI提供的很多例子也是Python编写的，所以为了方便学习，我们这个教程也使用Python。

前几天学到了一种针对大模型进行提示词编程的方法，效果比较炸裂，特别分享给大家。 因为有个小朋友正在学习加减法，所以本文的大部分例子都是用来生成加减法练习题。