本地大模型也能“紧跟时事”:Ollama联网搜索

942 阅读2分钟

本文将用 Ollama 和 Page Assist 插件,快速部署一个具备在线搜索能力的本地大模型。

前言:

此处略过 Ollama 大模型的基础部署过程。如果未完成此步,建议参考相关教程,里面有足够详细的指导。

此外,接下来的许多步骤可能需要 “科学上网” 环境。

详细步骤:

  • 第一步:下载并配置 Embedding 模型

除了已部署的 Ollama 大模型,我们还需要额外下载一个Embedding模型。

什么是Embedding模型以及为什么需要

Embedding模型:将离散符号(如单词、用户ID)转化为连续向量表示的技术,用于捕捉语义和结构信息。

why: ta通过将离散数据映射为向量,提升语义理解与处理效率,是连接数据与模型决策的关键桥梁。

复制Embedding模型的下载命令。 运行命令行:

按下Win + R组合键,在弹出的运行窗口中输入cmd,然后按回车键打开命令行界面。

首先输入ollama,确保 Ollama 程序正在后台运行。

将之前复制的下载命令粘贴到命令行中(Ctrl + V),然后按回车键执行。

下载完成后,可以再次打开命令行,输入ollama list来验证Embedding模型是否已成功下载。

  • 第二步:安装并打开 Page Assist 插件

打开Google浏览器安装Page Assist插件

如果尚未安装,插件按钮会显示“Install”字样。

安装完成后,点击浏览器右上角的插件图标,打开 Page Assist 插件。

  • 第三步:配置 Page Assist 插件

进入插件主界面后,首先确认是否有“Ollama 正在运行”的提示。然后,点击进入“设置”选项。

可以在设置中将界面语言调整为中文,以方便操作。

在“一般设置”中向下滚动,找到“搜索设置”部分。

(搜索引擎选择: DuckDuckGo 和 Google 需要“科学上网”。Google 有时可能不稳定,其他搜索引擎质量相对一般。在此,比较推荐使用 DuckDuckGo。当然,如果本地部署完成后,不方便“科学上网”,也可以选择 Bing 引擎。)

接下来,配置 RAG 设置。

选择之前额外下载的 Embedding 模型。其他设置可以保持默认,或者根据您的需求进行调整。务必点击“保存” 以应用更改。

  • 第四步:启用联网模式,开始智能对话!

最后返回主界面,选择一个模型,打开联网模式,就可以愉快地聊天啦

示例展示:

拓展功能:构建专属知识库

此外,还可以利用 Page Assist 的“管理知识”功能,打造个人的知识库。 点击后,知识库内容成功显示在上方区域,即表示导入成功。

还有很多功能可以自行探索哦

Enjoy