👩🏽💻个人主页:阿木木AEcru (更多精彩内容可进入主页观看)
🔥 系列专栏:《Docker容器化部署系列》 《Java每日面筋》
💹每一次技术突破,都是对自我能力的挑战和超越。
一、前言
自从AI火了之后,相信大家也在不断的关注AI,从2023年OpenAI的爆火,就开始了解到了自然语言大模型。直到如今,AI能做的东西也是越来越多了,从自然语言的问答,文生图,图生图,歌曲生成等 到现在国内也陆陆续续出来的 文生视频和以及图生视频。不得不说AI发展的非常迅速,有好有坏吧,但是始终都是需要保持着优胜略汰的心理,还是需要不断学习的。花话不多说,进入今天的主题了。今天在逛git的时候,无意间发现了chatgpt-on-wechat 这个开源项目,一顿了解下来,发现可以用来自己部署ai机器人,不仅支持个人、群聊 还支持 企微等平台,这也是让我提起了兴趣,大家也可以去git搜索一下,部署起来也是很简单的。有问题可以私信我,看到都会一一解答的。
二、部署方式选择
这里提一下,是有几种部署方式的。
我这里就使用了第一种,Docker的方式部署,毕竟也自己买了台服务器,个人认为使用这种方式也是最简单的了(如果还没有服务器的小伙伴,可以关注公众号 "香蕉学java" 回复 "优惠" 有新老用户上云优惠哦!)。
三、申请讯飞星火大模型(免费)
访问讯飞官网-注册账号
https://xinghuo.xfyun.cn/sparkapi?scr=true
个人账号可以领取一亿Token一年的额度。这个额度,一般人一年我感觉是用不完了。
添加图片注释,不超过 140 字(可选)
还有4.0的200万Token一年,也可以一起领取。
然后进入到控制台。后面会用到这三个信息。
四、Docker部署机器人
前提是得先安装Docker,如果不清楚如何安装的,可以看看我历史内容,或者在搜索引擎查找下教程,也欢迎大家私信。
4.1 获取部署文件
wget https://open-1317903499.cos.ap-guangzhou.myqcloud.com/docker-compose.yml
执行完成后就会下载docker-compose.yml文件到当前目录。
4.2 修改部署文件
version: '2.0'
services:
chatgpt-on-wechat:
image: zhayujie/chatgpt-on-wechat
container_name: chatgpt-on-wechat
security_opt:
- seccomp:unconfined
environment:
MODEL: 'xunfei'
XUNFEI_APP_ID: 'xxx'
XUNFEI_API_SECRET: 'xxxx'
XUNFEI_API_KEY: 'xxxxxx'
PROXY: ''
SINGLE_CHAT_PREFIX: '["bot", "@bot"]'
SINGLE_CHAT_REPLY_PREFIX: '"[bot] "'
GROUP_CHAT_PREFIX: '["@bot"]'
GROUP_NAME_WHITE_LIST: '["测试bot","ChatGPT测试群", "ChatGPT测试群2"]'
IMAGE_CREATE_PREFIX: '["画", "看", "找"]'
CONVERSATION_MAX_TOKENS: 2048
SPEECH_RECOGNITION: 'False'
CHARACTER_DESC: '你是基于大语言模型的AI智能助手,旨在回答并解决人们的任何问题,并且可以使用多种语言与人交流。'
EXPIRES_IN_SECONDS: 3600
USE_GLOBAL_PLUGIN_CONFIG: 'True'
USE_LINKAI: 'False'
LINKAI_API_KEY: ''
LINKAI_APP_CODE: ''
其他配置说明
# config.json文件内容示例
{
"model": "gpt-3.5-turbo", # 模型名称, 支持 gpt-3.5-turbo, gpt-4, gpt-4-turbo, wenxin, xunfei, glm-4, claude-3-haiku, moonshot
"open_ai_api_key": "YOUR API KEY", # 如果使用openAI模型则填入上面创建的 OpenAI API KEY
"proxy": "", # 代理客户端的ip和端口,国内环境开启代理的需要填写该项,如 "127.0.0.1:7890"
"single_chat_prefix": ["bot", "@bot"], # 私聊时文本需要包含该前缀才能触发机器人回复
"single_chat_reply_prefix": "[bot] ", # 私聊时自动回复的前缀,用于区分真人
"group_chat_prefix": ["@bot"], # 群聊时包含该前缀则会触发机器人回复
"group_name_white_list": ["ChatGPT测试群", "ChatGPT测试群2"], # 开启自动回复的群名称列表
"group_chat_in_one_session": ["ChatGPT测试群"], # 支持会话上下文共享的群名称
"image_create_prefix": ["画", "看", "找"], # 开启图片回复的前缀
"conversation_max_tokens": 1000, # 支持上下文记忆的最多字符数
"speech_recognition": false, # 是否开启语音识别
"group_speech_recognition": false, # 是否开启群组语音识别
"voice_reply_voice": false, # 是否使用语音回复语音
"character_desc": "你是基于大语言模型的AI智能助手,旨在回答并解决人们的任何问题,并且可以使用多种语言与人交流。", # 人格描述
# 订阅消息,公众号和企业微信channel中请填写,当被订阅时会自动回复,可使用特殊占位符。目前支持的占位符有{trigger_prefix},在程序中它会自动替换成bot的触发词。
"subscribe_msg": "感谢您的关注!\n这里是ChatGPT,可以自由对话。\n支持语音对话。\n支持图片输出,画字开头的消息将按要求创作图片。\n支持角色扮演和文字冒险等丰富插件。\n输入{trigger_prefix}#help 查看详细指令。",
"use_linkai": false, # 是否使用LinkAI接口,默认关闭,开启后可国内访问,使用知识库和MJ
"linkai_api_key": "", # LinkAI Api Key
"linkai_app_code": "" # LinkAI 应用或工作流code
}
在一开始用这个配置文件的时候报错了,还不知道讯飞是需要这样配置的,因为官方文档也没有提到,我这里稍微提一下,感兴趣的小伙伴可以看一下,如果不感兴趣直接进入下一步吧。
一开始有这些报错,然后我看到有具体的文件路径和行号,我就进入到容器中找了一下问题。
发现讯飞模型会去读取这三个配置,我说怎么错误了,其实一开始也是知道星火请求是需要这三个的,但是不知道配置字段是哪个,然后从这里就发现了,把这三个配置上之后,再重启就好了。
4.3 启动脚本
sudo docker compose up -d
执行后出现以上内容表示启动成功。
ps:这里需要注意一下,由于镜像可能是在海外站点,所以可能会拉取超时不成功。如果你们也遇到这种情况的话,可以在自己电脑安装DockerDesktop后使用"魔法上网"的方式拉取到本地,打包成tar包后上传服务器或者关注一下公众号"香蕉学java",回复"微信AI机器人" 即可获取镜像压缩包
镜像压缩包使用方式
将压缩包上传到服务器后,执行以下命令
docker load -i chatgpt-on-wechat.tar
然后再次执行启动脚本即可。
4.4 绑定作为机器人的微信
需要先执行查看日志指令
docker logs -f chatgpt-on-wechat
执行完成后,就会出现一个二维码,这时候就需要用你的微信扫一下了,登录第三方后就绑定成功了。
4.5 测试
群聊测试
个人聊天测试
能够自动回复之后就部署完成啦!在使用的时候可能会觉得响应有些慢,这是因为正常我们使用大模型的时候都流式响应的,这个机器人只能够做到等待大模型响应完成后再将结果输出到聊天框,所以响应内容多的时候会感觉有点慢,这个是正常的。
五、结尾
感谢观看至此,希望该文章能够帮助到您提升知识和技能。如果您喜欢我的内容,请不要忘记点赞和分享哦!👍