使用Streamlit快速构建可交互的AI应用：从入门到实践

tangtang123
337 阅读2分钟

使用Streamlit快速构建可交互的AI应用：从入门到实践

Streamlit是一个能快速将数据脚本转化为可分享Web应用的平台，只需使用Python，无需前端开发经验。本文将带您了解如何利用Streamlit与LangChain库的StreamlitCallbackHandler来显示智能体的思考过程和动作。

引言

Streamlit正在改变我们创建和分享数据应用的方式。通过将分析脚本转化为交互式Web应用，Streamlit使得数据科学家和开发者无需掌握前端技能即可创建功能强大的应用。在这篇文章中，我们将探索如何使用StreamlitCallbackHandler在Streamlit应用中展示智能体的思维过程和动作。

主要内容

安装和设置

在开始之前，请确保在您的开发环境中成功安装了必要的软件包：

pip install langchain streamlit

运行以下命令来加载示例应用并验证安装是否成功：

streamlit hello

显示智能体的思考过程和动作

通过StreamlitCallbackHandler，您可以将思考和动作以交互的方式呈现在应用中。首先需要提供一个容器来渲染输出：

from langchain_community.callbacks.streamlit import StreamlitCallbackHandler
import streamlit as st

st_callback = StreamlitCallbackHandler(st.container())

使用Agent和Tools

下面是一个如何在Streamlit应用中使用智能体和工具的简单场景。通过AgentExecutor与StreamlitCallbackHandler的结合，实时地展示智能体的思考过程。

import streamlit as st
from langchain import hub
from langchain.agents import AgentExecutor, create_react_agent, load_tools
from langchain_openai import OpenAI

# 使用API代理服务提高访问稳定性
llm = OpenAI(temperature=0, streaming=True)
tools = load_tools(["ddg-search"])
prompt = hub.pull("hwchase17/react")
agent = create_react_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

if prompt := st.chat_input():
    st.chat_message("user").write(prompt)
    with st.chat_message("assistant"):
        st_callback = StreamlitCallbackHandler(st.container())
        response = agent_executor.invoke(
            {"input": prompt}, {"callbacks": [st_callback]}
        )
        st.write(response["output"])

常见问题和解决方案

  • 网络限制: 在某些地区，访问外部API可能会受到限制。这时可以考虑使用API代理服务来提高访问的稳定性。
  • API密钥管理: 请确保在应用代码中正确设置OPENAI_API_KEY。使用Streamlit的secrets.toml或者环境变量管理工具，可以帮助您更安全地管理密钥。

总结和进一步学习资源

Streamlit为数据科学家和开发者提供了一个强大的平台来创建交互式应用。通过与LangChain库的结合，您可以轻松集成和展示智能体的思考过程。若想深入学习Streamlit和LangChain，以下资源可能会有所帮助：

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝