突然发现openai的api无法使用了及解决办法

4,712 阅读4分钟

问题发现

之前不是做了一个智能对话小程序嘛。

前端是微信小程序;后端是python Flask,核心就是与openai提供的api交互。

在一月份的时候发现,使用openai的api的话,是不需要像在网站上使用(ChatGpt)那样翻墙的。

但是今天是5月2日,突然发现,我的后端无法与openai提供的api交互了,调用openai的接口,但openai始终没有响应内容(不存在是免费18美金的配额过期问题,因为之前的号过期后刚刚又买了一个新账号)

接口测试

  1. 先是在本机上对openai提供的接口进行测试:

    分两种情况:

    • 使用梯子:接口功能正常,openai给予响应
    • 不使用梯子:接口失效、超时,openai没有任何响应
  2. 再是在微信云托管上对openai提供的接口进行测试:

    接口失效、超时,openai没有任何响应

定位问题

image.png

嗯...

据说是3月份被墙的...

问题解决

思路

使用Cloudflare的Workers来代理OpenAI的API地址,配合自己的域名即可在境内实现访问。因为Cloudflare Workers有每天10万次的请求额度,也有可以免费注册的域名,所以几乎可以说是零成本。而且该方法理论上支持所有被认证的网站,而不是OpenAI。

准备

  1. 一个没有被GFW认证的域名
  2. 一个Cloudflare帐号(可以现注册)

操作

  1. 将域名NS转到Cloudflare

    注册或登录到Cloudflare的管理页面后,点击侧边栏的"Websites",然后点击"Add a Site"按钮准备将域名转到Cloudflare:

    image.png

    在"Enter your site(example.com)"处输入要转入的域名后,点击"Add Site":

    image.png

    根据Cloudflare的提示,在域名注册商处(比如我是阿里云)将NS修改到Cloudflare指定的地址,等待域名解析成功后,即可进行后续操作。

  2. 创建一个Cloudflare Worker

    登陆到Cloudflare的管理页面后,点击侧边栏的"Workers"选项,然后点击"Create a Service"创建一个Worker。

    image.png

    然后在创建页面中输入"Service name"后点击"Create Service"按钮新建Worker。"Select a starter"项先不用管。

    image.png

    至此Cloudflare的Worker便创建好了,下面开始修改Worker的代码,使其能够代理OpenAI的API

  3. 修改Cloudflare Worker的代码

    在Worker的管理界面,点击右上角的"Quick Edit"按钮编辑Worker的代码

    image.png

    在左侧的代码编辑器中,删除现有的所有代码,然后复制粘贴以下内容到代码编辑器:

    (代码来源于: gist.github.com/noobnooc/d0…)

    (下面的代码格式可能有些乱,最好还是从上面的代码源复制)

    
    // Website you intended to retrieve for users.
    const upstream = 'api.openai.com'
    
    // Custom pathname for the upstream website.
    const upstream_path = '/'
    
    // Website you intended to retrieve for users using mobile devices.
    const upstream_mobile = upstream
    
    // Countries and regions where you wish to suspend your service.
    const blocked_region = []
    
    // IP addresses which you wish to block from using your service.
    const blocked_ip_address = ['0.0.0.0', '127.0.0.1']
    
    // Whether to use HTTPS protocol for upstream address.
    const https = true
    
    // Whether to disable cache.
    const disable_cache = false
    
    // Replace texts.
    const replace_dict = {
       '$upstream': '$custom_domain',
    }
    
    addEventListener('fetch', event => {
       event.respondWith(fetchAndApply(event.request));
    })
    
    async function fetchAndApply(request) {
       const region = request.headers.get('cf-ipcountry').toUpperCase();
       const ip_address = request.headers.get('cf-connecting-ip');
       const user_agent = request.headers.get('user-agent');
    
    let response = null;
    let url = new URL(request.url);
    let url_hostname = url.hostname;
    
    if (https == true) {
       url.protocol = 'https:';
    } else {
       url.protocol = 'http:';
    }
    
    if (await device_status(user_agent)) {
       var upstream_domain = upstream;
    } else {
       var upstream_domain = upstream_mobile;
    }
    
    url.host = upstream_domain;
    if (url.pathname == '/') {
       url.pathname = upstream_path;
    } else {
       url.pathname = upstream_path + url.pathname;
    }
    
    if (blocked_region.includes(region)) {
       response = new Response('Access denied: WorkersProxy is not available in your region yet.', {
           status: 403
       });
    } else if (blocked_ip_address.includes(ip_address)) {
       response = new Response('Access denied: Your IP address is blocked by WorkersProxy.', {
           status: 403
       });
    } else {
       let method = request.method;
       let request_headers = request.headers;
       let new_request_headers = new Headers(request_headers);
    
       new_request_headers.set('Host', upstream_domain);
       new_request_headers.set('Referer', url.protocol + '//' + url_hostname);
    
       let original_response = await fetch(url.href, {
           method: method,
           headers: new_request_headers,
           body: request.body
       })
    
       connection_upgrade = new_request_headers.get("Upgrade");
       if (connection_upgrade && connection_upgrade.toLowerCase() == "websocket") {
           return original_response;
       }
    
       let original_response_clone = original_response.clone();
       let original_text = null;
       let response_headers = original_response.headers;
       let new_response_headers = new Headers(response_headers);
       let status = original_response.status;
     
     if (disable_cache) {
        new_response_headers.set('Cache-Control', 'no-store');
      }
    
       new_response_headers.set('access-control-allow-origin', '*');
       new_response_headers.set('access-control-allow-credentials', true);
       new_response_headers.delete('content-security-policy');
       new_response_headers.delete('content-security-policy-report-only');
       new_response_headers.delete('clear-site-data');
     
     if (new_response_headers.get("x-pjax-url")) {
           new_response_headers.set("x-pjax-url", response_headers.get("x-pjax-url").replace("//" + upstream_domain, "//" + url_hostname));
       }
     
       const content_type = new_response_headers.get('content-type');
       if (content_type != null && content_type.includes('text/html') && content_type.includes('UTF-8')) {
           original_text = await replace_response_text(original_response_clone, upstream_domain, url_hostname);
       } else {
           original_text = original_response_clone.body
       }
     
       response = new Response(original_text, {
           status,
           headers: new_response_headers
       })
    }
    return response;
    }
    
    async function replace_response_text(response, upstream_domain, host_name) {
       let text = await response.text()
       var i, j;
       for (i in replace_dict) {
           j = replace_dict[i]
           if (i == '$upstream') {
               i = upstream_domain
           } else if (i == '$custom_domain') {
               i = host_name
           }
    
           if (j == '$upstream') {
               j = upstream_domain
           } else if (j == '$custom_domain') {
               j = host_name
           }
    
           let re = new RegExp(i, 'g')
           text = text.replace(re, j);
       }
       return text;
    }
    
    
    async function device_status(user_agent_info) {
       var agents = ["Android", "iPhone", "SymbianOS", "Windows Phone", "iPad", "iPod"];
       var flag = true;
       for (var v = 0; v < agents.length; v++) {
           if (user_agent_info.indexOf(agents[v]) > 0) {
               flag = false;
               break;
           }
       }
       return flag;
    }
    

    最后点击编辑器右下角的"Save and deploy"按钮部署该代码,在弹出的对话框中继续选择"Save and deploy"确认部署。

    image.png

    至此,便可以用该worker的地址来代替OpenAI的API地址了。比如想要请求ChatGPT的API时,把官方文档中的api.openai.com/v1/chat/com… 替换成 openai.workers.dev 即可(注意这个地址并不存在,是需要换成自己刚刚创建的Worker的地址)

  4. 绑定域名

    在Cloudflare Workers的管理界面中,点击"Triggers"选项卡,然后点击"Custom Domains"中的"Add Custom Domain"按钮以绑定域名。

    image.png

    输入域名后点击"Add Custom Domain"。

    注意: 目前Cloudflare只支持NS托管在Cloudflare上的域名(还好我们在第一步已经将NS从阿里云转到了Cloudflare)

此刻便大功告成。等待片刻,应该就可以通过你自己的域名来代替OpenAI的API地址了,比如在本文的例子中,想要请求ChatGPT的API,即是把官方API地址api.openai.com/v1/chat/com… 换为我自己的域名 openai.nooc.ink/v1/chat/com… ,其他参数均按照官方示例即可。由于Cloudflare有每天免费10万次的请求额度,所以轻度使用基本是零成本的。

解决方法参考: freefq.com/jq/2023/03/…

Cloudflare配置完后,项目中的更改点

image.png