本篇所出现的术语
- LLM(Large Language Model)
大语言模型,也称“大模型”
- Prompt(提示词)
目前新出一个岗位叫“Prompt Engineer”
- Vector Database(向量数据库)
- Embedding(帮助模型理解语义关系)
用于将高维度的数据(如单词、短语、句子等)转换为低维度的向量,将数据的抽象和复杂度降低,使得机器学习模型能够更有效理解和处理数据。
大语言模型“们”
| 大语言模型 | 官方 | 产品 | 官网 |
|---|---|---|---|
| GPT | OpenAI | ChatGPT | chat.openai.com |
| Gemini | Google Bard | gemini.google.com | |
| 文心 | 百度 | 文心一言 | yiyan.baidu.com |
| Moonshot | 月之暗面 | Kimi Chat | kimi.moonshot.cn |
| 星火 | 讯飞 | 讯飞星火 | xinghuo.xfyun.cn |
| ChatGLM | 智谱清言 | 智谱清言 | chatglm.cn |
| ABAB | 星野 | MiniMax | www.xingyeai.com |
当前最火的还是GPT,其他大语言模型只能是望其项背*
*
大模型算法“们”
| 算法 | 设计者 | 官网 |
|---|---|---|
| Transformer | blog.research.google/2017/08/tra… | |
| RWKV | 彭博 | www.rwkv.com |
| Mamba | CMU&Princeton University | mamba.readthedocs.io |
算法性能从上到下越来越好,但当前最流行的还是Transformer**
科比曾说过“Black Mamba” (不知Manmba算法模型的起名与科比这句话是否有关联🤔)**
大模型应用开发
业务架构
技术架构
- 纯Prompt(套壳~纯对话)
- Agent + Function Calling
- Embeddings + Vector Database
- Fine-tuning(微调)