[笔记][大模型学习]05-基于 BERT 的中文评价情感分析

43 阅读1分钟
  • 使用Tokenizer实现字符编码,vocab字典操作
  • 模型微调的基本概念
  • 下游任务模型设计
  • 自定义模型训练与效果评估

微调

  • 什么是微调

只调整模型的一部分结构(参数),为了让模型能够适应我当前的任务

  • 为什么要做微调?

因为我想白嫖模型已经训练好的部分参数,以此来缩短我自己训练模型的时间

  • 增量微调

在模型原有的结构基础上,增加一部分结构,让这部分增加的结构来完成我们自己的任务。

模型开发流程

  • 数据
  • 构建,设计模型
  • 评估测试
  • 打包部署