ai 应用 01

44 阅读2分钟

100% 有好处的事情: 在你关心的领域:不断的测试各种模型:评估准确度

answer.AI (只有10个人)

AI 数字人,3亿(短短数月)

image.png

AI PPT(月收入数百万)

image.png

星野

image.png

金融从业 AI 助手

image.png

AI 疯狂盈利 3亿

image.png

AI 投入

image.png

AI 的行业影响

image.png

如何成为 AI (应用)工程师

image.png

能力模型

image.png

AI 技术简单介绍

image.png

金融场景的 AI 结合业务场景落地

image.png

LLM Based Agent

image.png

如何使用一个 Agent

image.png

多 agent 协作

image.png

如何实现一个 agent (业务场景拆解)

image.png

image.png

coze 做 agent 工作流

image.png

image.png

image.png

function call

image.png

LLM: 无状态,有状态,连续,离散

image.png

image.png

image.png

人类的所有概念都必须通过文字(符号)表示:

agent 就是在 LLM 的基础上,进行进一步的结构(格式)化:比如音频,视频等。

image.png

在你关心的领域:不断的测试各种模型:评估准确度

视觉: 识别|生成 音频: 识别|生成 代码: 识别|理解|生成

RAG

image.png

微调

垂直领域的模型

chatgpt3 --> chatgpt 3.5 就是做了 微调:

  1. 80 个博士 --> 整理专业知识(量变产生质变)强化学习
  2. 很多普通人(人类反馈) --> 问问题,对答案进行排序(量变产生质变) (reward model)强化学习
  3. 2323 循环往复,RL 基于人类反馈的强化学习 image.png

chatgpt3 --> chatgpt 3.5 第一轮专业数据只需要 13K 一问一答

image.png

chatgpt3 --> chatgpt 3.5 第二轮专业数据只需要 33K 一问一答

fine tune 垂直领域小模型数据重在于质量

  • 选择一个模型

  • 收集数据

  • 自己本地训练

RAG embeding 的(必须要)微调(法律行业专业性要求高)

image.png

三、岗位就业必须要懂的算法原理

目的: 了解模型的应用的边界

image.png

image.png

image.png

image.png

image.png

image.png

注意力 transformer 算法

image.png

(多头) 自注意力机制

image.png

chatgpt 96 次聚合:用 12288 维度的向量去存储每个字在各个**推测方向(语义上下文)**的概率。

image.png

image.png

image.png

RAG: 将静态文档形成向量库

  • RAG 静态文档切分多大一块儿: 100 个文字,1000 个文字?

image.png

image.png

为什么要懂算法细节? 月薪 70k 的工程师需要在客户当地驻场梳理工作流

image.png

模型能力对比

image.png

市场需求