大模型算法和实践

大语言模型基于海量语料训练而成，因此内化了大量已有的知识和信息，但除了输入外，其无法获取到最新信息或私域知识，从而导致幻觉产生。通过引入工具调用机制，AI智能体（AI Agent）可以让大语言模型以R

基于大语言模型的智能体（Agent）技术正在飞速发展，相应的应用也层出不穷。笔者在以下两篇文章中，已分别对基于大语言模型的单智能体和多智能体进行详细的介绍： 《大语言模型Agent综述与实践》； 《基

最近，DeepSeek发布的DeepSeek-V3作为开源大语言模型，以其极强的模型性能、极低的训练成本，吸引了众多关注，而DeepSeek-V3取得如此令人惊艳的效果，源于DeepSeek的研究团队

随着大语言模型的横空出世，生成式AI应用也在不断发展，图1列出了生成式AI应用的分级，共分为5级： L1 Tool，人类完成所有工作，基本没有任何显性的AI辅助，只是比较简单的工具，会被逐渐升级淘汰；

Agent是一个由来已久的概念，其可以表示一个能够感知环境、做出决策并采取行动的系统。在大语言模型横空出世之前，Agent的研究与应用已经经历了长期的发展，最近一个发展的高潮是基于强化学习的Agent

2024年2月16日，OpenAI发布了视频生成模型Sora，其能基于已有的文本描述、图片和视频生成新的视频，且生成的视频可支持不同尺寸和时长（最长可达1分钟），并可模拟真实物理世界的相关特性

DALL-E2 2022年OpenAI发表了论文《Hierarchical Text-Conditional Image Generation with CLIP Latents》，其中发布了基于文本

扩散模型（Diffusion Model）是继GAN、VAE后的一种生成式模型。《Denoising Diffusion Probabilistic Models》是UC Berkeley于2020年

扩散模型（Diffusion Model）是继GAN、VAE后的一种生成式模型，而目前在文生图领域比较流行的工具，如DALL-E2、Imagen、Stable Diffusion等，均是以上述扩散模型

Classifier Guidance Improved DDPM虽然对DDPM进行了改进，但在一些大数据集上（如ImageNet 256×256）生成图片的实验效果（FID）仍是低于GAN。因此，O

RAG（Retrieval-Augmented Generation，检索增强生成）由Facebook在2020年发表的论文《Retrieval-Augmented Generation for Kn

介绍 随着ChatGPT的横空出世，国内互联网大厂、创业公司纷纷加了AIGC赛道，不断推出各种大模型

基于扩散模型生成图片的算法DDPM于2020年被提出。2021年OpenAI发表的论文《Improved Denoising Diffusion Probabilistic Models》，对DDPM

前言 随着ChatGPT的横空出现，AIGC迅速成为当下最热门的技术领域，但是构建ChatGPT的底层相关研究——NLP、多模态、大模型已陆续发展多年。作为一位非算法的研发工程师，本着持续学习、保持进

前言 随着ChatGPT的横空出现，AIGC迅速成为当下最热门的技术领域，但是构建ChatGPT的底层相关研究——NLP、多模态、大模型已陆续发展多年。作为一位非算法的研发工程师，本着持续学习、保持进