打造高效的示例选择器：掌握最大边际相关性（MMR）

用户38023559900
128 阅读2分钟 
# 打造高效的示例选择器：掌握最大边际相关性（MMR）

## 引言

在构建智能系统时，选择合适的示例作为输入不容忽视。最大边际相关性（MMR）提供了一种高效的方法，通过结合输入相似性和多样性优化选择示例。这篇文章将详细介绍如何利用MMR机制有效选择示例，并提供实用的代码示例，以帮助开发者在实现任务时优化其示例选择过程。

## 主要内容

### MMR的核心概念

最大边际相关性是一种选择策略，它通过平衡相似性和多样性来挑选示例。具体而言，MMR算法会先选择与输入具有最高余弦相似性的示例，然后在迭代过程中添加新的示例，同时对与已经选择的示例相似的示例施加惩罚，从而实现多样化。

### 实现流程

- **生成嵌入**：使用OpenAI的嵌入生成技术，将示例和输入转化为向量。
- **构建向量存储**：借助FAISS等工具存储这些向量，从而高效执行相似度搜索。
- **示例选择**：应用MMR算法，确保所选示例在最大程度上相似但又多样。

## 代码示例

以下代码展示了如何使用MMR进行示例选择：

```python
from langchain_community.vectorstores import FAISS
from langchain_core.example_selectors import MaxMarginalRelevanceExampleSelector
from langchain_core.prompts import FewShotPromptTemplate, PromptTemplate
from langchain_openai import OpenAIEmbeddings

example_prompt = PromptTemplate(
    input_variables=["input", "output"],
    template="Input: {input}\nOutput: {output}",
)

# 示例任务：构造反义词
examples = [
    {"input": "happy", "output": "sad"},
    {"input": "tall", "output": "short"},
    {"input": "energetic", "output": "lethargic"},
    {"input": "sunny", "output": "gloomy"},
    {"input": "windy", "output": "calm"},
]

# 使用API代理服务提高访问稳定性
example_selector = MaxMarginalRelevanceExampleSelector.from_examples(
    examples,
    OpenAIEmbeddings(),
    FAISS,
    k=2,
)

mmr_prompt = FewShotPromptTemplate(
    example_selector=example_selector,
    example_prompt=example_prompt,
    prefix="Give the antonym of every input",
    suffix="Input: {adjective}\nOutput:",
    input_variables=["adjective"],
)

print(mmr_prompt.format(adjective="worried"))

# 输出结果将选择第一个示例为 "happy/sad"，并且第二个示例将因多样性而可能不同

常见问题和解决方案

问题1：相似度不足的问题

有时，MMR选择可能未能很好地捕捉所有必要特征，导致选择结果不理想。可以尝试调整相似度测量参数，或增加示例集的多样性。

问题2：API访问问题

由于网络限制，部分地区可能难以访问OpenAI API。建议使用API代理服务以确保稳定的访问。

总结和进一步学习资源

MMR提供了一种有力的方法，通过优化相似性和多样性来选择示例。在实际应用中，结合不同的嵌入和向量存储技术，可以显著提高模型的性能。

推荐阅读

参考资料

  1. FAISS: faiss.ai/
  2. OpenAI Embeddings: beta.openai.com/docs/
  3. LangChain: www.langchain.com/docs/

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---
avatar
文章
阅读
粉丝