本文介绍如何通过浏览器插件访问本地大模型。此前提到的 OpenWebUI 安装包体积较大,仅为通过 WEB 界面使用本地大模型,就需占用约 10GB 的电脑磁盘空间,性价比偏低。
浏览器建议使用微软的Edge浏览器,因为Edge浏览器的插件市场在国内可以正常访问,安装插件很方便。如果你使用谷歌的Chrome浏览器,在国内是不能正常访问Chrome浏览器的插件市场的,也就无法安装插件了。
关于OpenWebUI的基本使用和开发环境搭建,可参考文章《Ollama+OpenWebUI 最佳组合:本地大模型可视化交互方案》。
若需通过OpenWebUI手机网页端连接本地大模型,可参考文章《不花一分钱!把本地大模型装进手机,全家共享+权限管控全攻略》。
若需通过手机 APP 连接本地大模型,可参考文章《手机直连本地大模型!不用云服务、不花一分钱,全家都能用》。
若需通过桌面客户端ChatWise 连接本地大模型,可参考文章《不想用网页版 OpenWebUI?推荐一个轻量本地大模型桌面客户端》。
Page Assist插件
安装Page Assist插件
打开微软的Edge浏览器,点击右上角的三个点,如下截图:
使用Page Assist
ollama-client 插件
ollama-client 插件仅支持在谷歌 Chrome 浏览器中安装,其 GitHub 地址为:ollama-client的GitHub地址。
安装ollama-client插件
访问谷歌 Chrome 浏览器的应用商店需确保网络环境可正常访问谷歌服务。
使用ollama-client插件
向量模型all-minilm:latest
注意ollama-client这个插件在安装成功并成功连接本地Ollama服务之后,ollama-client这个插件会通过你本地的Ollama给你本地再下载并安装一个all-minilm:latest大模型。这个大模型的安装体积很小,只有45MB。ollama-client插件安装这个小的大模型是为了提供向量搜索的能力,也就是语义搜索的能力。