【上手AI】1-跑一个chatgpt的服务

125 阅读1分钟

目标

服务器上利用openai的apikey启一个chatgpt的服务, 等于本地部署,本地可用 (就不用去网页上查询了,可以私有化部署集成)

代码

比较简单

from openai import OpenAI
import os

app = Flask(__name__)

# 初始化 OpenAI 客户端
client = OpenAI(
    api_key='',
)

@app.route('/gpt4', methods=['POST'])
def gpt4():
    # 获取 JSON 请求数据
    data = request.json
    
    # 确保请求中有 'content' 字段
    if not data or 'content' not in data:
        return jsonify({'error': 'No content provided'}), 400

    # 创建聊天完成请求
    try:
        chat_completion = client.chat.completions.create(
            messages=[
                {
                    "role": "user",
                    "content": data['content'],
                }
            ],
            model="gpt-4",  # 使用 GPT-4 模型
        )
        return jsonify(chat_completion)
    except Exception as e:
        return jsonify({'error': str(e)}), 500

if __name__ == '__main__':
    app.run(debug=True)

# curl -X POST -H "Content-Type: application/json" -d '{"content":"Say this is a test"}' http://127.0.0.1:5000/gpt4

坑1

我一开始问了gpt3.5给一个代码,有一个报错,写法相关的,(gpt不是万能的)

找源码还是直接看github上的服务比较好

github.com/openai/open…

都会给示例使用

坑2

报错,# 429 Error You exceeded your current quota, please check your plan and billing details. #844

我的openai上的免费额度用完了。。

额度查询:platform.openai.com/usage

我想了好久,应该是之前用apikey搭了一个在线服务,在github.com/Yidadaa/Cha… 这个项目里

当时把5dollar用掉了,那就算了

#总结

整体非常简单,可以部署一个chatgpt的微服务,集成在自己的业务中

这样子你的业务就有gpt能力,某些时候就可以交差了