问题发现
之前不是做了一个智能对话小程序嘛。
前端是微信小程序;后端是python Flask,核心就是与openai提供的api交互。
在一月份的时候发现,使用openai的api的话,是不需要像在网站上使用(ChatGpt)那样翻墙的。
但是今天是5月2日,突然发现,我的后端无法与openai提供的api交互了,调用openai的接口,但openai始终没有响应内容(不存在是免费18美金的配额过期问题,因为之前的号过期后刚刚又买了一个新账号)
接口测试
-
先是在本机上对openai提供的接口进行测试:
分两种情况:
- 使用梯子:接口功能正常,openai给予响应
- 不使用梯子:接口失效、超时,openai没有任何响应
-
再是在微信云托管上对openai提供的接口进行测试:
接口失效、超时,openai没有任何响应
定位问题
嗯...
据说是3月份被墙的...
问题解决
思路
使用Cloudflare的Workers来代理OpenAI的API地址,配合自己的域名即可在境内实现访问。因为Cloudflare Workers有每天10万次的请求额度,也有可以免费注册的域名,所以几乎可以说是零成本。而且该方法理论上支持所有被认证的网站,而不是OpenAI。
准备
- 一个没有被GFW认证的域名
- 一个Cloudflare帐号(可以现注册)
操作
-
将域名NS转到Cloudflare
注册或登录到Cloudflare的管理页面后,点击侧边栏的"Websites",然后点击"Add a Site"按钮准备将域名转到Cloudflare:
在"Enter your site(example.com)"处输入要转入的域名后,点击"Add Site":
根据Cloudflare的提示,在域名注册商处(比如我是阿里云)将NS修改到Cloudflare指定的地址,等待域名解析成功后,即可进行后续操作。
-
创建一个Cloudflare Worker
登陆到Cloudflare的管理页面后,点击侧边栏的"Workers"选项,然后点击"Create a Service"创建一个Worker。
然后在创建页面中输入"Service name"后点击"Create Service"按钮新建Worker。"Select a starter"项先不用管。
至此Cloudflare的Worker便创建好了,下面开始修改Worker的代码,使其能够代理OpenAI的API
-
修改Cloudflare Worker的代码
在Worker的管理界面,点击右上角的"Quick Edit"按钮编辑Worker的代码
在左侧的代码编辑器中,删除现有的所有代码,然后复制粘贴以下内容到代码编辑器:
(代码来源于: gist.github.com/noobnooc/d0…)
(下面的代码格式可能有些乱,最好还是从上面的代码源复制)
// Website you intended to retrieve for users. const upstream = 'api.openai.com' // Custom pathname for the upstream website. const upstream_path = '/' // Website you intended to retrieve for users using mobile devices. const upstream_mobile = upstream // Countries and regions where you wish to suspend your service. const blocked_region = [] // IP addresses which you wish to block from using your service. const blocked_ip_address = ['0.0.0.0', '127.0.0.1'] // Whether to use HTTPS protocol for upstream address. const https = true // Whether to disable cache. const disable_cache = false // Replace texts. const replace_dict = { '$upstream': '$custom_domain', } addEventListener('fetch', event => { event.respondWith(fetchAndApply(event.request)); }) async function fetchAndApply(request) { const region = request.headers.get('cf-ipcountry').toUpperCase(); const ip_address = request.headers.get('cf-connecting-ip'); const user_agent = request.headers.get('user-agent'); let response = null; let url = new URL(request.url); let url_hostname = url.hostname; if (https == true) { url.protocol = 'https:'; } else { url.protocol = 'http:'; } if (await device_status(user_agent)) { var upstream_domain = upstream; } else { var upstream_domain = upstream_mobile; } url.host = upstream_domain; if (url.pathname == '/') { url.pathname = upstream_path; } else { url.pathname = upstream_path + url.pathname; } if (blocked_region.includes(region)) { response = new Response('Access denied: WorkersProxy is not available in your region yet.', { status: 403 }); } else if (blocked_ip_address.includes(ip_address)) { response = new Response('Access denied: Your IP address is blocked by WorkersProxy.', { status: 403 }); } else { let method = request.method; let request_headers = request.headers; let new_request_headers = new Headers(request_headers); new_request_headers.set('Host', upstream_domain); new_request_headers.set('Referer', url.protocol + '//' + url_hostname); let original_response = await fetch(url.href, { method: method, headers: new_request_headers, body: request.body }) connection_upgrade = new_request_headers.get("Upgrade"); if (connection_upgrade && connection_upgrade.toLowerCase() == "websocket") { return original_response; } let original_response_clone = original_response.clone(); let original_text = null; let response_headers = original_response.headers; let new_response_headers = new Headers(response_headers); let status = original_response.status; if (disable_cache) { new_response_headers.set('Cache-Control', 'no-store'); } new_response_headers.set('access-control-allow-origin', '*'); new_response_headers.set('access-control-allow-credentials', true); new_response_headers.delete('content-security-policy'); new_response_headers.delete('content-security-policy-report-only'); new_response_headers.delete('clear-site-data'); if (new_response_headers.get("x-pjax-url")) { new_response_headers.set("x-pjax-url", response_headers.get("x-pjax-url").replace("//" + upstream_domain, "//" + url_hostname)); } const content_type = new_response_headers.get('content-type'); if (content_type != null && content_type.includes('text/html') && content_type.includes('UTF-8')) { original_text = await replace_response_text(original_response_clone, upstream_domain, url_hostname); } else { original_text = original_response_clone.body } response = new Response(original_text, { status, headers: new_response_headers }) } return response; } async function replace_response_text(response, upstream_domain, host_name) { let text = await response.text() var i, j; for (i in replace_dict) { j = replace_dict[i] if (i == '$upstream') { i = upstream_domain } else if (i == '$custom_domain') { i = host_name } if (j == '$upstream') { j = upstream_domain } else if (j == '$custom_domain') { j = host_name } let re = new RegExp(i, 'g') text = text.replace(re, j); } return text; } async function device_status(user_agent_info) { var agents = ["Android", "iPhone", "SymbianOS", "Windows Phone", "iPad", "iPod"]; var flag = true; for (var v = 0; v < agents.length; v++) { if (user_agent_info.indexOf(agents[v]) > 0) { flag = false; break; } } return flag; }
最后点击编辑器右下角的"Save and deploy"按钮部署该代码,在弹出的对话框中继续选择"Save and deploy"确认部署。
至此,便可以用该worker的地址来代替OpenAI的API地址了。比如想要请求ChatGPT的API时,把官方文档中的api.openai.com/v1/chat/com… 替换成 openai.workers.dev 即可(注意这个地址并不存在,是需要换成自己刚刚创建的Worker的地址)
-
绑定域名
在Cloudflare Workers的管理界面中,点击"Triggers"选项卡,然后点击"Custom Domains"中的"Add Custom Domain"按钮以绑定域名。
输入域名后点击"Add Custom Domain"。
注意: 目前Cloudflare只支持NS托管在Cloudflare上的域名(还好我们在第一步已经将NS从阿里云转到了Cloudflare)
此刻便大功告成。等待片刻,应该就可以通过你自己的域名来代替OpenAI的API地址了,比如在本文的例子中,想要请求ChatGPT的API,即是把官方API地址api.openai.com/v1/chat/com… 换为我自己的域名 openai.nooc.ink/v1/chat/com… ,其他参数均按照官方示例即可。由于Cloudflare有每天免费10万次的请求额度,所以轻度使用基本是零成本的。
解决方法参考: freefq.com/jq/2023/03/…