书生大模型课堂笔记

相关课程资料： 课堂重点 Finetune简介 两种Finetune范式 增量预训练微调 使用场景：让基座模型学习到一些新知识，如某个垂直领域的常识 训练数据：文章，书籍，代码等 指令跟随微调 使用场

相关课程资料： 课堂重点 概述 1.0 智能体 包括三个部分 大脑：作为控制器，承担记忆、思考和决策任务。接收来自感知模块的信息并采取相应动作 感知：对外部环境的多模态信息进行感知和处理。包括但不限于

相关课程资料： 课堂重点 OpenCompass大模型测评 用于对训练好的大模型进行测评打分，检验模型能力的工具 大模型测评中的挑战 全面性、评测成本、数据污染、鲁棒性 司南大模型测评体系 模型评测标

相关课程资料： 课堂重点 1. 大模型部署面临的挑战 计算量巨大 内存开销巨大 访存瓶颈 显卡的计算能力是足够的，但是访存能力十分有限，因此导致了显卡在数据交换上花费了大量的时间，只有极少的时间在进行

相关课程资料： 课堂重点 什么是RAG RAG（Retrieval Augmented Generation）技术是一种结合检索和生成的方法，用于提升大型语言模型（LLMs）在知识密集型任务中的性能。

相关课程资料： 课堂重点 使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事 为了快速入门，课程demo 使用了 InternLM2-Chat-1.8B 模型来生成一篇300字

相关课程资料： 课堂重点 大模型的发展历程 由专用模型（针对特定任务，一个模型解决一个问题）-> 通用大模型（一个模型应对多个任务、多种模态） 通用大模型是通往通用人工智能的关键途径 书生浦语大模型的