无需 OpenWebUI!Edge或Chrome 插件直连本地大模型教程

0 阅读2分钟

本文介绍如何通过浏览器插件访问本地大模型。此前提到的 OpenWebUI 安装包体积较大,仅为通过 WEB 界面使用本地大模型,就需占用约 10GB 的电脑磁盘空间,性价比偏低。

浏览器建议使用微软的Edge浏览器,因为Edge浏览器的插件市场在国内可以正常访问,安装插件很方便。如果你使用谷歌的Chrome浏览器,在国内是不能正常访问Chrome浏览器的插件市场的,也就无法安装插件了。

关于OpenWebUI的基本使用和开发环境搭建,可参考文章《Ollama+OpenWebUI 最佳组合:本地大模型可视化交互方案》

若需通过OpenWebUI手机网页端连接本地大模型,可参考文章《不花一分钱!把本地大模型装进手机,全家共享+权限管控全攻略》

若需通过手机 APP 连接本地大模型,可参考文章《手机直连本地大模型!不用云服务、不花一分钱,全家都能用》

若需通过桌面客户端ChatWise 连接本地大模型,可参考文章《不想用网页版 OpenWebUI?推荐一个轻量本地大模型桌面客户端》

Page Assist插件

Page Assist的GitHub地址

Page Assist GitHub主页

安装Page Assist插件

打开微软的Edge浏览器,点击右上角的三个点,如下截图:

点击Edge浏览器的扩展

点击获取Microsoft Edge扩展

输入Page Assist进行搜索

点击获取即可安装

点击添加扩展

点击Page Assist的图标

将插件固定在工具栏中

点击Page Assist图标

Page Assist会自动连上本地的Ollama

使用Page Assist

选择本地安装的大模型

Page Assist提供的各种功能

设置当前这个大模型的参数

设置大模型的参数

开启隐私会话

将显示语言设置为中文

ollama-client 插件

ollama-client 插件仅支持在谷歌 Chrome 浏览器中安装,其 GitHub 地址为:ollama-client的GitHub地址

安装ollama-client插件

访问谷歌 Chrome 浏览器的应用商店需确保网络环境可正常访问谷歌服务。

访问谷歌的应用商店

搜索ollama-client插件

点击添加至Chrome

点击添加扩展程序

添加成功

固定在任务栏上面

使用ollama-client插件

点击ollama-client插件图标

将语言设置为中文

ollama-client插件只能在浏览器的侧边栏使用

可以自由切换大模型

新增对话

开始新的聊天

设置模型的参数

向量模型all-minilm:latest

注意ollama-client这个插件在安装成功并成功连接本地Ollama服务之后,ollama-client这个插件会通过你本地的Ollama给你本地再下载并安装一个all-minilm:latest大模型。这个大模型的安装体积很小,只有45MB。ollama-client插件安装这个小的大模型是为了提供向量搜索的能力,也就是语义搜索的能力。

ollama-client插件安装的本地大模型

all-minilmlatest大模型的安装体积