刘立军

本文将在**语义检索**领域探讨更加接近实战的话题：如何如何选择FAISS的索引类型。**Faiss** 是一个用于高效相似性搜索和密集向量聚类的库。

比较向量相似度（vector similarity）的常见算法主要分为两大类： 1️⃣ **基于“角度/方向”的度量** 2️⃣ **基于“距离/差异”的度量** 下面我们系统的整理一下。

**语义检索**是指系统能够理解用户查询的深层含义（语义），而不仅仅是匹配字面关键词。它通过分析上下文、同义词、相关概念等，查找与查询意图最相关的信息，即使文档中没有完全相同的词语。

**vLLM**(Virtual Large Language Model) 和 **Ollama** 都是用于运行大语言模型 **大语言模型/LLM** 的工具，旨在降低本地部署和使用大模型的门槛。

**大语言模型/LLM** 通常是由海量通用知识（如语法、常识、逻辑）训练的，在面对具体场景（如医疗问诊、法律文书生成）时，能力往往不足。 **Fine-tuning/微调** 正为解决这一问题。

**MoE** 的思想非常直白：不同的 `专家/Expert` 只负责处理自己擅长的那一类输入，而不是让整个模型的所有参数都去处理所有任务。

本文将使用`Visual Studio Code`写一个`MCP服务端`和`MCP客户端`，演示**MCP**的基本功能。

如果我们认为 **LLM**(大语言模型) 是**大脑**的话， **MCP** 提供其它的能力将给这个大脑装上**四肢和五官**。本文将更加深入的介绍 **MCP** 的架构和功能。

**MCP**(Model Context Protocol) 是由 Anthropic 在 2024 年 11 月提出并开源的一个协议标准，目的是统一 AI 模型（尤其是大语言模型） 与外部资源。