将LLMs融入实用NLP工作流程
在本次演讲中,我将展示大型语言模型(如GPT-3)如何作为现有机器学习工作流程的补充而非替代品。
核心流程是:首先通过某机构的API,利用零样本或少样本学习收集初始标注;然后,由人工决策者使用标注工具对这些标注进行校正;最终,使用这些高质量的标注数据来像往常一样训练和评估模型。
这个过程能够实现比单独使用某机构API更高的准确率,并且额外的好处是,您将拥有并控制用于运行时(runtime)的模型。
视频链接:youtu.be/Bd2ciwinFUE
实践流程:查询LLM并解析响应 -> 根据需要调整提示
- 查询LLM并解析响应
- 根据需要调整提示
人工校正流程
- 纠正错误
- 将正确答案添加到提示中以优化它
- 生成并显示理由
总结
- LLMs是用于更快、更迭代地创建更优质数据的绝佳工具。
- 您始终需要特定任务的数据。
- 未来将出现许多新的应用。
未来工作方向
- 用于结果解析的数据结构
- 用于稳健评估的工作流程
- 交互式提示测试
- 对开源模型的支持
谢谢!FINISHED