老板问没有钱，就不能有人工智能的梦想吗？梦想不分咸鱼与老板。本文通过将大模型转为小模型的路线，针对不以AI为卖点的产品，实现企业低成本的AI解决方案。

直接用强化学习就可以让模型获得显著的推理能力，说明并不一定需要SFT才行。 强化学习并不一定需要复杂的奖励模型，使用简单的规则反而取得意想不到的效果。 通过知识蒸馏让小模型一定程

TEN Agent 是一个开源的实时多模态 AI 代理框架，集成了 OpenAI Realtime API 和 RTC 技术，支持语音、文本和图像的多模态交互，具备实时通信、模块化设计和多语言支持等

近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，从而导致模型变得越来越大，因此，我们需要一些大模型压缩技术来降低模型部署的成本，并提升模型的推理性能。 模

OpenAI GPT 是在 Google BERT 算法之前提出的，与 BERT 最大的区别在于，GPT 采用了传统的语言模型进行训练，即使用上文预测下文，而 BERT 同时使用上下文进行预测。

LLM微调方法(Efficient-Tuning)六大主流方法：思路讲解&优缺点对比[P-tuning、Lora、Prefix tuing等] 由于LLM参数量都是在亿级以上，少则数十亿，多则数千亿。

《小模型干大事情,基于LLaMA-Factory+Lora入门级微调开源AI模型》 开源模型 说到开源模型就得提起huggingface 它是专注于人工智能模型的开源社区，里面提供了大量的预训练模型和

随着，ChatGPT 迅速爆火，引发了大模型的时代变革。然而对于普通大众来说，进行大模型的预训练或者全量微调遥不可及。由此，催生了各种参数高效微调技术，让科研人员或者普通开发者有机会尝试微调大模型。

通过Prompt可以实现多种多样任务，Prompt的编写应遵循一定的原则和结构框架, 这样才能发挥AI的最大效果