gpt4free
介绍
gpt4free 项目是一个开源项目,让大家免费地使用 GPT-3.5 和 GPT-4 的应用程序!
它的实现原理是从多个网站获取查询结果,然后将其整合在一起,从而让大家免费使用 AI 模型!
6月24日(周六),作者发布了 v2 版本,本次分享主要围绕该版本展开。
实测结果
-
GPT-3.5 免费使用!使用 Forefront 后端接口。
-
GPT-4 免费使用!使用 Bing Chat 后端接口, Lockchat 不可用( 502 Bad Gateway )!
-
其他模型:
-
【不能用】 Vercel ( claude-instant-v1-100k,claude-instant-v1,claude-v1-100k,claude-v1,alpaca-7b,stablelm-tuned-alpha-7b,bloom,bloomz,flan-t5-xxl,flan-ul2,gpt-neox-20b,oasst-sft-4-pythia-12b-epoch-3.5,santacoder,command-medium-nightly,command-xlarge-nightly,code-cushman-001,code-davinci-002,text-ada-001,text-babbage-001,text-curie-001,text-davinci-002,text-davinci-003 )
-
【不能用】 palm
-
【纯英文】 falcon-40b,falcon-7b,llama-13b
-
开始之前,需要准备好环境!
准备环境
我的 MacBook Air 系统版本:macOS 13.3.1(a)
需要使用 python3:
➜ ~ python3 --version
Python 3.10.10
官方有个坑,漏掉了 aiohttp 包依赖,大家可以自己加上 requirement.txt 或者 pip 安装。
pip3 install aiohttp
安装
# 1. 克隆仓库
git clone https://github.com/xtekky/gpt4free.git
# 2. 进入仓库目录
cd gpt4free
# 3. python 环境
python3 -m venv venv
# 4. macOS 使用该命令
source venv/bin/activate
# 4. Windows 使用该命令
# .\venv\Scripts\activate
耐心等待安装,安装依赖大概需要 3~5 分钟。
开始编程
新建文件 test.py,用来运行模型:
import g4f
print(g4f.Provider.Ails.params) # supported args
role = 'user'
# role = 'assistant'
# Forefront
# model = 'gpt-3.5-turbo'
# 必应
model = 'gpt-4'
# Vercel不能用
# model = 'claude-instant-v1-100k'
# model = 'claude-instant-v1'
# model = 'claude-v1-100k'
# model = 'claude-v1'
# model = 'alpaca-7b'
# model = 'stablelm-tuned-alpha-7b'
# model = 'bloom'
# model = 'bloomz'
# model = 'flan-t5-xxl'
# model = 'flan-ul2'
# model = 'gpt-neox-20b'
# model = 'oasst-sft-4-pythia-12b-epoch-3.5'
# model = 'santacoder'
# model = 'command-medium-nightly'
# model = 'command-xlarge-nightly'
# model = 'code-cushman-001'
# model = 'code-davinci-002'
# model = 'text-ada-001'
# model = 'text-babbage-001'
# model = 'text-curie-001'
# model = 'text-davinci-002'
# model = 'text-davinci-003'
# 不能用
# model = 'palm'
# 纯英文
# model = 'falcon-40b'
# model = 'falcon-7b'
# model = 'llama-13b'
# stream=False
stream=True
content = '''
阅读下面的材料,根据要求写作。
人们因技术发展得以更好地掌控时间,但也有人因此成了时间的仆人。
这句话引发了你怎样的联想与思考?请写一篇文章。
要求:选准角度,确定立意,明确文体,自拟标题;不要套作,不得抄袭;不得泄露个人信息;不少于800字(少于800字,文章不合格)。
'''
# content = '假设树上有10只鸟,猎人开枪打死一只,请计算树上还剩下几只鸟?'
# content = '把冰箱装进大象需要几步?'
content = '一杯咖啡30元,店铺有第二杯半价活动,请问我买两杯多少钱?'
# content = '小明的爸爸有3个儿子,三儿子叫大狗,二儿子叫二猫,三儿子叫什么?'
# content = '房间里有10个杀手,从房间门外进来一个杀手干掉了两个杀手,问房间里还剩几个杀手?'
# content = '姐姐和妹妹各有一些钱,姐姐给妹妹24元后,还比妹妹多17 元。姐姐原来比妹妹多多少元?'
# content = '请告诉我以下陈述是否包含时代错误:在盟军轰炸硫磺岛海滩期间,拉尔夫大声地对着自己的 iPhone 说话。'
# content = '苏轼和苏东坡的关系是?'
# content = '公交车上有12个人,到站后下去了7个,又上来了9个,现在还有几个人?'
response = g4f.ChatCompletion.create(model=model, messages=[
{"role": role, "content": content}], stream=stream)
print('<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<')
print(content)
print('')
for message in response:
print(message, end='')
print('')
print('>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>')
测试 GPT-3
测试 GPT-4(未调参)
必应调参
抓包分析:
修改文件 g4f/Provider/Providers/Bing.py:
jailbreak: dict = {
"optionsSets": [
"nlu_direct_response_filter",
"deepleo",
"disable_emoji_spoken_text",
"responsible_ai_policy_235",
"enablemm",
"knowimgv2",
"mvcargnd",
"dagslnv1nr",
"dv3sugg",
"autosave",
"h3imaginative",
"clgalileo",
"gencontentv3"
]
}
例子
让 AI 写 2023 高考作文 —— GPT-3 ( Forefront )
让 AI 写 2023 高考作文 —— GPT-4 (必应)
智商测试
买咖啡