介绍
cherry studio,是一个工具框架,其核心智能的计算等功能,均来自接入的模型服务商,需要通过使用对应模型厂商的API密钥,去调用对应模型的服务。
源代码
github.com/CherryHQ/ch… Cherry Studio 官方的 GitHub 开源代码仓库,由 CherryHQ 团队维护。
安装
这是一个基于 Node.js + Electron + TypeScript 的桌面应用项目(存在package.json、electronic-builder.yml、ts文件)。所以整体思路是安装Node.js环境,使用yarn/npm来安装和运行cherry studio。
一、安装Nods.js
-
打开官网:nodejs.org/
-
下载 LTS 版本(推荐稳定)
-
安装时保持默认设置即可
-
安装后,在 PowerShell 中运行以下命令验证:
node -v
npm -v
二、安装Yarn(cherry studio使用yarn)
- npm install -g yarn
- yarn -v
三、克隆项目
- git clone github.com/CherryHQ/ch…
- cd cherry-studio
四、安装依赖
- yarn install(这个过程会自动读取
package.json和yarn.lock安装所有依赖)
四、安装完成,启动项目
- yarn dev(看到运行到start electron app...的时候,就会打开客户端界面了)
配置
一、设置API密钥,用它连接某个模型服务商的API,来实现你的应用。这里我选择硅基流动。“设置--硅基流动--获取密钥”。初次申请会赠送20元,不同模型,token价格不同。配置好后,点一下检测,选择你的模型,提示“连接成功”,就可以了;
二、配置嵌入模型、重排模型。在硅基流动模型,继续下拉,点击“管理”。点击“嵌入”、“重排”,增加模型;
三、设置文档处理模型。“设置--工具设置--文档预处理”,我选择了Doc2x。没有密钥和刚刚一样,注册申请一下即可;
四、配置个人知识库。红框为必填,点确定;
五、 导入本地资料,开始使用;
六、在助手中提问时,也可以直接引用知识库内容进行搜索。这样的回答,不仅结合了模型能力,也融合了本地知识库的信息,能够更贴近期望的答案。
FAQ
1、点击知识库,无法搜索成功,且后台报错“10:38:12.395 [mainWindow::QuotaTag] [KnowledgeContent] Error checking quota: [Error: Error invoking remote method 'knowledge-base:check-quota': Error: Failed to check quota: Error: HTTP 401: Unauthorized]”。
回答:配置时,不要忘记文档预处理模型的选择,需要申请对应的API密钥。
学习
我使用PlantUML绘制了一份技能树脑图,把大模型路线分成L1到L4四个阶段,一步步带你从入门到进阶,从理论到实战。
这份大模型路线大纲已经导出整理打包了,在 >gitcode ←←←←←←
L1阶段:启航篇丨极速破界AI新时代
L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。
L2阶段:攻坚篇丨RAG开发实战工坊
L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。
L3阶段:跃迁篇丨Agent智能体架构设计
L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。
L4阶段:精进篇丨模型微调与私有化部署
L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。