houchenll
炼药师
获得徽章 0
- 什么是SFT，为什么要SFT。
有监督微调（Supervised Fine-Tuning，SFT）又称为指令微调（Instruction Tuning），是指在已经训练好的语言模型的基础上，通过使用有标注的特定任务数据进行进一步的微调，使模型具备遵循指令的能力，在特定任务或领域上表现得更好。
经过海量数据预训练后的语言模型虽然具备了大量的“知识”，但是由于其训练时目标仅是进行下一个词的预测，因此不能够理解并遵循人类自然语言形式的指令。为了使模型具有理解并响应人类指令的能力，还需要使用指令数据对其进行微调。
如何构造指令数据，如何高效低成本地进行指令微调训练，以及如何在语言模型基础上进一步扩大上下文等问题，是大语言模型在有监督微调阶段的核心。
另外，SFT也指自微调（Self-Fine-Tuning），即使用模型自己生成的数据进行微调，无需额外的人工标注数据。展开评论点赞 - 人工智能5大阶段，OpenAI 目前正处于第一阶段，有望即将达到第二阶段。
Level1 聊天机器人（Chatbots），能够与人类对话。
Level2 推理者（Reasoners），能解決人类级别问題的推理者。
Level3 代理（Agents），能够代表用户采取行动。
Level4 创新者（Innovator），能够帮助发明的AI。
Level5 组织者（Organizations），能够完成组织工作。展开评论点赞 - 所以某人对电影A感兴趣后，可以向他推荐A上级的其他子类，也可以向她推荐A子级的导演、演员的其他作品。A的上级、下级、上级的子级，下级的相关电影，由知识图谱提供。上下级关系由知识图谱提供。A的上级有本体提供。赞过 评论3
- 狂飙火了之后，与狂飙相关的很多人和事都火了，如演员、猪脚饭。这说明，人们一旦对一个事物A感兴趣，与A相关的其他事物都会引起人们的兴趣。事物A与他们可能是包含关系，也可能是关联关系。更一般的说，人们对A感兴趣后，与A关联的其他事物都可能是人们感兴趣的，包括A上级的标签、类别，如反腐片，下级的内部成分，如演员、导演、猪脚饭，以及他们相关的事物，如高启强其他的作品。等人赞过 917
- IT技术，顾名思义，是处理信息的技术。
传统软件技术，是信息流转的技术，从传感器、网络、数据库，到服务端、前端、界面，大部分时间，都是信息原封不动地转移，只有少数时候有少量信息的格式转换，这些转换的规则是专家制定的，而且基本上是同义转换。
AI是信息整合的技术，在众多信息基础上汇聚出一个全新的信息，汇聚的规则是通过训练学习来的。如根据众多像素信息汇聚出猫的信息，从一篇文章汇聚出一个主题信息。展开赞过 11