大模型

前言 大模型应用面临的核心挑战包括以下三点： 模型缺乏零售领域的专业知识，建设业务专属大模型训练成本高 模型内容生产伴有幻觉，而检索海量业务信息又缺乏有效技术，检索成本高 在商家问答等多流程复杂业务场

幻觉的定义 当模型生成的文本不遵循原文（Faithfulness）或者不符合事实（Factualness），我们就可以认为模型出现了幻觉的问题。 幻觉的类型 内在幻觉：生成的内容与源内容相互矛盾 外在

过度消耗数据和算力 大模型的参数量已达到万亿级别，训练数据规模和算力消耗与参数规模成正比。 灾难性遗忘 问题 在新任务上训练会损害之前任务的性能，导致模型失去在预训练阶段学到的通用知识。因为只用领域数

引言 相比能做很多事，但每件事都马马虎虎的通用大模型；只能做一两件事，但这一两件事都能做好，可被信赖的垂直大模型会更有价值。这样的垂直大模型能帮助我们真正解决问题，提高生产效率。 垂直大模型基本套路