作者:来自 Elastic JD Armada
了解如何在 JavaScript 生态系统中构建 AI 代理。
Elasticsearch 与业界领先的生成式 AI 工具和服务商有原生集成。查看我们的网络研讨会,了解如何超越 RAG 基础,或使用 Elastic 向量数据库构建可投入生产的应用。
为了为你的使用场景构建最佳搜索解决方案,现在就开始免费云端试用,或者在本地机器上试用 Elastic。
这个想法是在一场激烈且充满赌注的幻想篮球联赛中冒出来的。我在想:我能否构建一个 AI 代理,帮助我主宰每周的对决?当然可以!
在这篇文章中,我们将探索如何使用 Mastra 和一个轻量级的 JavaScript Web 应用来构建一个具备代理能力的 RAG 助手,并与它进行交互。通过将这个代理连接到 Elasticsearch,我们为它提供了访问结构化球员数据的能力,并能执行实时统计聚合,从而为你提供基于球员数据的推荐。前往 GitHub 仓库查看详情;README 文件提供了如何克隆并在本地运行该应用的说明。
当所有部分组装完成后,它应该是这样的:
注意:这篇博文是在《使用 AI SDK 和 Elastic 构建 AI 代理》的基础上扩展的。如果你对 AI 代理还不熟悉,或者想了解它们可以用于什么场景,建议先阅读那篇文章。
架构概览
系统的核心是一种大型语言模型(LLM),它充当代理的推理引擎(大脑)。它负责解释用户输入,决定调用哪些工具,并协调生成相关响应所需的步骤。
代理本身是由 Mastra 搭建的,它是 JavaScript 生态中的一个代理框架。Mastra 将 LLM 封装进后端基础架构,作为一个 API 端点暴露出来,并提供一个界面,用于定义工具、系统提示词和代理行为。
在前端,我们使用 Vite 快速搭建一个 React Web 应用,为用户提供一个聊天界面,用于发送查询给代理并接收其响应。
最后,我们有 Elasticsearch,用于存储球员统计和对阵数据,供代理查询和聚合使用。
背景
让我们先了解一些基本概念:
什么是 agentic RAG?
AI 代理可以与其他系统交互,独立运行,并根据其定义的参数执行操作。Agentic RAG 将 AI 代理的自主性与检索增强生成(retrieval augmented generation - RAG)的原理相结合,使 LLM 能够选择调用哪些工具、使用哪些数据作为上下文来生成响应。你可以在这里阅读更多关于 RAG 的内容。
选择框架,为什么要超越 AI-SDK?
目前市面上有许多 AI 代理框架,你可能听说过比较流行的,比如 CrewAI、AutoGen 和 LangGraph。这些框架大多具有一套通用功能,包括对不同模型的支持、工具使用和记忆管理等。
以下是 LangChain CEO Harrison Chase 提供的一份框架对比表。
我之所以对 Mastra 感兴趣,是因为它是一个面向 JavaScript 的框架,为全栈开发者设计,可以轻松将代理集成进他们的开发生态。Vercel 的 AI-SDK 也能完成大部分工作,但 Mastra 的优势在于处理更复杂的代理工作流时更胜一筹。Mastra 在 AI-SDK 提供的基础模式上进行了增强,在这个项目中,我们将二者结合使用。
关于框架和模型选择的考量
虽然这些框架可以帮助你快速构建 AI 代理,但也存在一些缺点。例如,当你使用这些抽象层而不是自己动手实现时,会失去一些控制权。如果 LLM 没有正确调用工具或做出不符合预期的行为,由于抽象层的存在,调试会更加困难。尽管如此,我认为这种权衡是值得的,因为这些框架开发速度快,生态正在快速发展。
此外,这些框架都是模型无关的,也就是说你可以自由切换不同的模型,但要记住,各个模型训练的数据集不同,因此响应表现也会不同。有些模型甚至不支持调用工具。所以你可以尝试多个模型,看看哪个效果最好,不过你很可能需要为每个模型重新编写系统提示词。例如,如果你想用 Llama3.3 替代 GPT-4o,就需要提供更多提示词和具体指令才能获得理想结果。
NBA 幻想篮球
幻想篮球是和一群朋友组成联盟(提醒:如果你的朋友们非常好胜,可能会影响你们的友情),通常还会涉及一些金钱下注。你们每人选出 10 名球员组成自己的队伍,每周与别人的队伍进行对战。你每周的得分取决于你的球员在现实比赛中的表现。
如果你队伍中的某个球员受伤、被禁赛等,可以从自由球员列表中添加新球员。这也是幻想体育中思考最多的环节,因为你的增援次数有限,而其他人也都在寻找最有潜力的球员。
这正是我们的 NBA AI 助手大放异彩的时刻,尤其是在你需要快速决定该选哪位球员时。你无需再手动查找某个球员对某个对手的历史表现,助手可以快速获取数据并对比平均值,为你提供有根据的推荐。
现在你已经了解了 agentic RAG 和 NBA 幻想篮球的一些基础知识,让我们看看它是如何实际运作的。
构建项目
如果你在构建过程中遇到问题,或者不想从零开始搭建,请参考项目仓库。
我们将涵盖以下内容:
搭建项目结构
后端(Mastra):使用 npx create mastra@latest
搭建后端并定义代理逻辑。
前端(Vite + React):使用 npm create vite@latest
创建前端聊天界面,用于与代理交互。
设置环境变量
-
安装
dotenv
来管理环境变量。 -
创建
.env
文件并提供所需变量。
设置 Elasticsearch
-
启动一个 Elasticsearch 集群(本地或云端均可)。
-
安装官方 Elasticsearch 客户端。
-
确保环境变量可被访问。
-
建立与客户端的连接。
将 NBA 数据批量导入 Elasticsearch
-
创建索引并定义适当的 mapping,以支持聚合操作。
-
从 CSV 文件中批量导入球员比赛统计数据到 Elasticsearch 索引中。
定义 Elasticsearch 聚合
-
查询某球员对特定对手的历史平均值。
-
查询某球员对特定对手的赛季平均值。
玩家比较工具文件
- 整合辅助函数和 Elasticsearch 聚合逻辑。
构建代理
-
添加代理定义和系统提示词。
-
安装
zod
并定义工具。 -
添加中间件以处理 CORS。
集成前端
-
使用 AI-SDK 的
useChat
与代理交互。 -
创建 UI 界面以支持格式化的对话显示。
运行应用
-
启动后端(Mastra 服务器)和前端(React 应用)。
-
尝试示例查询,体验应用使用方式。
下一步:让代理更智能
-
添加语义搜索(semantic search)功能,以实现更有洞察力的推荐。
-
通过将搜索逻辑转移到 Elasticsearch MCP(模型上下文协议)服务器,实现动态查询。
前置条件
-
Node.js 和 npm:后端和前端均基于 Node 运行。请确保你安装了 Node 18+ 和 npm v9+(Node 18+ 已自带 npm)。
-
Elasticsearch 集群:本地或云端运行的 Elasticsearch 集群。
-
OpenAI API 密钥:在 OpenAI 开发者门户的 API 密钥页面生成。
项目结构
`npx create-mastra@latest`AI写代码
第 1 步:搭建项目框架
首先,创建目录 nba-ai-assistant-js 并使用以下命令进入该目录:
`mkdir nba-ai-assistant-js && cd nba-ai-assistant-js`AI写代码
后端:
1)使用 Mastra 创建工具,命令如下:
`npx create-mastra@latest`AI写代码
2)你会在终端看到一些提示,第一个提示中,我们将项目命名为 backend:
3)接下来,我们保持默认的 Mastra 文件存储结构,所以输入 src/。
4)然后,我们选择 OpenAI 作为默认的 LLM 提供商。
5)最后,它会询问你的 OpenAI API 密钥。现在,我们选择跳过,稍后在 .env 文件中提供。
前端:
1)返回到根目录,运行 Vite 创建工具,命令如下:
`npm create vite@latest frontend -- --template react`AI写代码
这会创建一个名为 frontend 的轻量级 React 应用,使用专门的 React 模板。
如果一切顺利,你的项目目录下应该有一个存放 Mastra 代码的 backend 目录和一个包含 React 应用的 frontend 目录。
第 2 步:设置环境变量
1)为了管理敏感密钥,我们将使用 dotenv 包从 .env 文件加载环境变量。进入 backend 目录并安装 dotenv:
`
1. cd backend
2. npm install dotenv --save
`AI写代码
2)在 backend 目录中,有一个 example.env 文件,里面包含需要填写的变量。如果你自己创建 .env 文件,请确保包含以下变量:
`
1. # OpenAI Configuration
2. OPENAI_API_KEY=your_openai_api_key_here
4. # Elasticsearch Configuration
5. ELASTIC_ENDPOINT=your_elasticsearch_endpoint_here
6. ELASTIC_API_KEY=your_elasticsearch_api_key_here
`AI写代码
注意:确保将该文件从版本控制中排除,在 .gitignore 中添加 .env。
第 3 步:设置 Elasticsearch
首先,你需要一个活动的 Elasticsearch 集群,有两个选项:
- 选项 A:使用 Elasticsearch Cloud
-
创建一个新部署
-
获取你的端点 URL 和 API 密钥(已编码)
- 选项 B:本地运行 Elasticsearch
-
安装并本地运行 Elasticsearch
-
使用 http://localhost:9200 作为端点
-
生成 API 密钥
-
在后端安装 Elasticsearch 客户端:
1)首先,在 backend 目录安装官方 Elasticsearch 客户端:
`npm install @elastic/elasticsearch`AI写代码
2)然后创建一个名为 lib 的目录来存放可复用函数,并进入该目录:
`mkdir lib && cd lib`AI写代码
3)在里面创建一个名为 elasticClient.js 的新文件。这个文件将初始化 Elasticsearch 客户端,并供项目中各处使用。
4)由于我们使用的是 ECMAScript 模块(ESM),所以 __dirname 和 __filename 不可用。为了确保环境变量能正确从 backend 文件夹的 .env 文件加载,请在文件顶部添加以下配置:
`
1. import { config } from 'dotenv';
2. import { fileURLToPath } from 'url';
3. import { dirname, join } from 'path';
4. import { Client } from '@elastic/elasticsearch';
6. // Grab current directory and load .env from backend folder
7. const __filename = fileURLToPath(import.meta.url);
8. const __dirname = dirname(__filename);
9. const envPath = join(__dirname, '../.env');
11. // Load environment variables from the correct path
12. config({ path: envPath });
`AI写代码
5)现在,使用你的环境变量初始化 Elasticsearch 客户端,并检查连接:
``
1. //Elastic client Initialization, make sure environment variables are being loaded in correctly
2. const config= {
3. node: `${process.env.ELASTIC_ENDPOINT}`,
4. auth: {
5. apiKey: `${process.env.ELASTIC_API_KEY}`,
6. },
7. };
9. export const elasticClient = new Client(config);
11. //Check if the client is connected
12. async function checkConnection() {
13. try {
14. const info = await elasticClient.info();
15. console.log('Elasticsearch is connected:', info);
16. } catch (error) {
17. console.error('Elasticsearch connection error:', error);
18. }
19. }
21. checkConnection();
``AI写代码
现在,我们可以在任何需要与 Elasticsearch 集群交互的文件中导入这个客户端实例。
第 4 步:将 NBA 数据批量导入 Elasticsearch
数据集:
本项目将使用仓库中 backend/data 目录下的数据集。我们的 NBA 助手将利用这些数据作为知识库,进行统计比较和生成推荐。
-
sample_player_game_stats.csv — 示例球员比赛统计数据(例如每场比赛的得分、篮板、抢断等,涵盖球员整个 NBA 职业生涯)。我们将使用该数据集进行聚合。(注意:这是模拟数据,预先生成用于演示,不来源于官方 NBA 数据。)
-
playerAndTeamInfo.js — 用作球员和球队元数据的替代,通常这些数据会通过 API 调用获得,代理需要它来匹配球员和球队名称与 ID。因为我们用的是示例数据,所以避免从外部 API 获取的开销,代理可以参考这里硬编码的值。
实现步骤:
1)在 backend/lib 目录下创建名为 playerDataIngestion.js 的文件。
2)设置导入内容,解析 CSV 文件路径并配置解析。由于使用 ESM,我们需要重构 __dirname 来解析示例 CSV 文件路径。同时,我们将导入 Node.js 内置模块 fs 和 readline,逐行解析 CSV 文件。
`
1. import fs from 'fs';
2. import readline from 'readline';
3. import path from 'path';
4. import { fileURLToPath } from 'url';
5. import { elasticClient } from './elasticClient.js';
7. const indexName = 'sample-nba-player-data'; //Replace with your preferred index name
9. //Since we are using ES modules __dirname and __filename don't exist, so this is a workaround that allows us to use the absolute file path for our sample data.
10. const __filename = fileURLToPath(import.meta.url);
11. const __dirname = path.dirname(__filename);
12. const filePath = path.resolve(__dirname, '../data/sample_nba_data.csv');
`AI写代码
这为我们后续进行批量导入时高效读取和解析 CSV 文件做好了准备。
3)创建一个带有合适 mapping 的索引。虽然 Elasticsearch 支持动态映射自动推断字段类型,但这里我们希望明确指定,以确保每个统计字段都被视为数值型字段。这很重要,因为我们后续会用这些字段进行聚合计算。对于得分、篮板等统计数据,我们使用 float 类型,以确保包含小数值。最后,我们添加 mapping 属性 dynamic: 'strict',防止 Elasticsearch 对未识别字段进行动态映射。
``
1. // Function to create an index with mappings
2. async function createIndex() {
3. try {
4. // Check if the index already exists
5. const exists = await elasticClient.indices.exists({ index: indexName });
7. if (exists) {
8. console.log(`Index "${indexName}" already exists, deleting it now.`);
9. await elasticClient.indices.delete({ index: indexName });
10. console.log(`Deleted index "${indexName}".`);
11. }
12. // Create the index with mappings
13. const response = await elasticClient.indices.create({
14. index: indexName,
15. body: {
16. mappings: {
17. dynamic: 'strict', // Prevent dynamic mapping
18. properties: {
19. game_id: { type: 'integer' },
20. game_date: { type: 'date' },
21. player_id: { type: 'integer' },
22. player_full_name: { type: 'text' },
23. player_team_id: { type: 'integer' },
24. player_team_name: { type: 'text' },
25. home_team: { type: 'boolean' },
26. opponent_team_id: { type: 'integer' },
27. opponent_team_name: { type: 'text' },
28. points: { type: 'float' },
29. rebounds: { type: 'float' },
30. assists: { type: 'float' },
31. steals: { type: 'float' },
32. blocks: { type: 'float' },
33. fg_percentage: { type: 'float' },
34. minutes_played: { type: 'float' },
35. },
36. },
37. },
38. });
40. console.log('Index created:', response);
41. return true;
42. } catch (error) {
43. console.error('Error creating index:', error);
44. return false;
45. }
46. }
``AI写代码
4)添加一个函数,将 CSV 数据批量导入到 Elasticsearch 索引中。在代码中,我们跳过表头行,然后用逗号分割每行数据,并将其放入文档对象中。此步骤还会清理数据,确保它们的类型正确。接着,我们将这些文档和索引信息一起推入 bulkBody 数组,作为批量导入 Elasticsearch 的请求载荷。
``
1. async function bulkIngestCsv(filePath) {
2. const readStream = fs.createReadStream(filePath);
3. const rl = readline.createInterface({
4. input: readStream,
5. crlfDelay: Infinity,
6. });
8. const bulkBody = [];
9. let lineNum = 0;
11. //Skip the header line
12. let headerLine = true;
13. for await (const line of rl) {
14. if (headerLine) {
15. headerLine = false;
16. continue;
17. }
18. lineNum++;
20. // Split the line by comma and remove whitespace
21. const [
22. game_id,
23. game_date,
24. player_id,
25. player_full_name,
26. player_team_id,
27. player_team_name,
28. home_team,
29. opponent_team_id,
30. opponent_team_name,
31. points,
32. rebounds,
33. assists,
34. steals,
35. blocks,
36. fg_percentage,
37. minutes_played,
38. ] = line.split(',');
40. // Create a document object
41. const document = {
42. game_id: parseInt(game_id),
43. game_date: game_date.trim(),
44. player_id: parseInt(player_id),
45. player_full_name: player_full_name.trim(),
46. player_team_id: parseInt(player_team_id),
47. player_team_name: player_team_name.trim(),
48. home_team: home_team.trim() === 'True', // Converts True/False into a boolean
49. opponent_team_id: parseInt(opponent_team_id),
50. opponent_team_name: opponent_team_name.trim(),
51. points: parseFloat(points),
52. rebounds: parseFloat(rebounds),
53. assists: parseFloat(assists),
54. steals: parseFloat(steals),
55. blocks: parseFloat(blocks),
56. fg_percentage: parseFloat(fg_percentage),
57. minutes_played: parseFloat(minutes_played),
58. };
60. // Prepare the bulk operation format
61. bulkBody.push({ index: { _index: indexName } });
62. bulkBody.push(document);
63. }
65. console.log(`Parsed ${lineNum} lines from CSV`);
``AI写代码
5)然后,我们可以使用 Elasticsearch 的 Bulk API,通过 elasticClient.bulk()
在一次请求中导入多条文档。下面的错误处理逻辑会统计有多少文档导入失败,以及有多少成功。
``
1. try {
2. // Perform the bulk request
3. const response = await elasticClient.bulk({ body: bulkBody });
5. if (response.errors) {
6. console.log('Bulk Ingestion had some hiccups:');
8. // Count successful vs failed operations
9. let successCount = 0;
10. let errorCount = 0;
11. const errorDetails = [];
13. response.items.forEach((item, index) => {
14. const operation = item.index || item.create || item.update || item.delete;
15. if (operation.error) {
16. errorCount++;
17. errorDetails.push({
18. document: index + 1,
19. error: operation.error,
20. });
21. } else {
22. successCount++;
23. }
24. });
26. console.log(`Successfully indexed: ${successCount} documents`);
27. console.log(`Failed to index: ${errorCount} documents, here are the details`, errorDetails);
29. } else {
30. console.log(`Bulk Ingestion fully successful!`);
31. }
33. } catch (error) {
34. console.error('Error performing bulk ingestion:', error);
35. }
36. }
``AI写代码
6)运行下面的 main() 函数,依次执行 createIndex() 和 bulkIngestCsv() 两个函数。
`
1. // Run this function
2. async function main() {
3. const result = await createIndex();
4. if (!result) {
5. console.error('Index setup failed. Aborting.');
6. return;
7. }
9. await bulkIngestCsv(filePath);
10. console.log('Bulk ingestion completed!');
11. }
13. main();
`AI写代码
如果你看到控制台日志显示批量导入成功,可以快速检查一下 Elasticsearch 索引,确认文档是否真的成功导入。
第 5 步:定义 Elasticsearch 聚合并整合函数
这些将是我们为 AI 代理定义工具时使用的主要函数,用于比较球员之间的统计数据。
1)进入 backend/lib 目录,创建一个名为 elasticAggs.js 的文件。
2)添加下面的查询,用于计算某球员对特定对手的历史平均数据。该查询使用一个包含两个条件的 bool 过滤器:一个匹配 player_id,另一个匹配 opponent_team_id,确保只检索相关比赛。我们不需要返回具体文档,只关心聚合结果,所以设置 size: 0。在 aggs 块中,同时对 points、rebounds、assists、steals、blocks 和 fg_percentage 等字段进行多个指标聚合,计算它们的平均值。LLM 在计算方面可能不准确,这样做将计算任务交给 Elasticsearch,确保我们的 NBA AI 助手能获得准确的数据。
`
1. export async function getHistoricalAveragesAgainstOpponent(player_id, opponent_team_id) {
2. try {
3. //Query for Historical Averages
4. const historicalQuery = await elasticClient.search({
5. index: 'sample-nba-player-data',
6. size: 0,
7. query: {
8. bool: {
9. must: [
10. {
11. term: {
12. player_id: {
13. value: player_id,
14. },
15. },
16. },
17. {
18. term: {
19. opponent_team_id: {
20. value: opponent_team_id,
21. },
22. },
23. },
24. ],
25. },
26. },
27. aggs: {
28. avg_points: { avg: { field: 'points' } },
29. avg_rebounds: { avg: { field: 'rebounds' } },
30. avg_assists: { avg: { field: 'assists' } },
31. avg_steals: { avg: { field: 'steals' } },
32. avg_blocks: { avg: { field: 'blocks' } },
33. avg_fg_percentage: { avg: { field: 'fg_percentage' } },
34. },
35. });
37. return {
38. points: historicalQuery.aggregations.avg_points.value || 0,
39. rebounds: historicalQuery.aggregations.avg_rebounds.value || 0,
40. assists: historicalQuery.aggregations.avg_assists.value || 0,
41. steals: historicalQuery.aggregations.avg_steals.value || 0,
42. blocks: historicalQuery.aggregations.avg_blocks.value || 0,
43. fgPercentage: historicalQuery.aggregations.avg_fg_percentage.value || 0,
44. };
45. } catch (error) {
46. console.error('Query error from getHistoricalAveragesAgainstOpponent function:', error);
47. return { error: 'Queries failed in getting historical averages against opponent.' };
48. }
49. }
`AI写代码
3)要计算某球员对特定对手的赛季平均数据,我们使用与历史平均几乎相同的查询。唯一的区别是 bool 过滤器中增加了对 game_date 的条件,game_date 必须在当前 NBA 赛季范围内,这里是 2024-10-01 到 2025-06-30。这个额外条件确保后续的聚合只统计本赛季的比赛数据。
`1. {
2. range: {
3. //Range for this season, change to match current season
4. game_date: {
5. gte: '2024-10-01',
6. lte: '2025-06-30',
7. },
8. },`AI写代码
第 6 步:球员比较工具
为了保持代码的模块化和易维护性,我们将创建一个工具文件,整合元数据辅助函数和 Elasticsearch 聚合逻辑。这将支持代理使用的主要工具。稍后会详细介绍:
1)在 backend/lib 目录下新建一个文件 comparePlayers.js。
2)添加以下函数,将元数据辅助和 Elasticsearch 聚合逻辑整合到一个函数中,支持代理使用的主要工具。
`
1. import { playersByName } from '../data/playerAndTeamInfo.js';
2. import { teamsByName } from '../data/playerAndTeamInfo.js';
3. import { upcomingMatchups } from '../data/playerAndTeamInfo.js';
4. import { getHistoricalAveragesAgainstOpponent } from './elasticAggs.js';
5. import { getSeasonAveragesAgainstOpponent } from './elasticAggs.js';
7. //Simple helper functions to simulate API calls for player and team metadata. These reference the hardcoded values from playerAndTeamInfo.js in the data directory
8. export function getPlayerInfo(playerFullName) {
9. return playersByName[playerFullName];
10. }
12. export function getTeamID(teamFullName) {
13. return teamsByName[teamFullName];
14. }
16. export function getUpcomingMatchups(teamId) {
17. return upcomingMatchups[teamId];
18. }
20. //Main function used by the 'playerComparisonTool' agent tool
21. export async function comparePlayersForNextMatchup(player1Name, player2Name) {
22. //Get Player Info
23. const player1Info = getPlayerInfo(player1Name);
24. const player2Info = getPlayerInfo(player2Name);
26. //Get upcoming matchups
27. const player1NextGame = getUpcomingMatchups(player1Info.team_id)[0];
28. const player2NextGame = getUpcomingMatchups(player2Info.team_id)[0];
30. //Get season and historical averages against next opponent for player 1
31. const player1SeasonAverages = await getSeasonAveragesAgainstOpponent(
32. player1Info.player_id,
33. player1NextGame.opponent_team_id
34. );
35. const player1HistoricalAverages = await getHistoricalAveragesAgainstOpponent(
36. player1Info.player_id,
37. player1NextGame.opponent_team_id
38. );
40. //Get season and historical averages against next opponent for player 2
41. const player2SeasonAverages = await getSeasonAveragesAgainstOpponent(
42. player2Info.player_id,
43. player2NextGame.opponent_team_id
44. );
45. const player2HistoricalAverages = await getHistoricalAveragesAgainstOpponent(
46. player2Info.player_id,
47. player2NextGame.opponent_team_id
48. );
50. const player1 = {
51. name: player1Name,
52. playerId: player1Info.player_id,
53. teamId: player1Info.team_id,
54. nextOpponent: {
55. teamId: player1NextGame.opponent_team_id,
56. teamName: player1NextGame.opponent_team_name,
57. home: player1NextGame.home,
58. },
59. stats: {
60. seasonAverages: player1SeasonAverages,
61. historicalAverages: player1HistoricalAverages,
62. },
63. };
65. const player2 = {
66. name: player2Name,
67. playerId: player2Info.player_id,
68. teamId: player2Info.team_id,
69. nextOpponent: {
70. teamId: player2NextGame.opponent_team_id,
71. teamName: player2NextGame.opponent_team_name,
72. home: player2NextGame.home,
73. },
74. stats: {
75. seasonAverages: player2SeasonAverages,
76. historicalAverages: player2HistoricalAverages,
77. },
78. };
80. return [player1, player2];
81. }
`AI写代码
第 7 步:构建代理
现在你已经搭建了前后端框架,导入了 NBA 比赛数据,并建立了与 Elasticsearch 的连接,我们可以开始把各部分组合起来,构建代理。
定义代理
进入 backend/src/mastra/agents 目录下的 index.ts 文件,添加代理定义。你可以指定以下字段:
-
名称:给代理起个名字,前端调用时会用到这个名字。
-
说明/系统提示词:系统提示词为 LLM 提供初始上下文和交互规则,类似于用户通过聊天框发送的提示,但这是在任何用户输入前给出的。根据所用模型不同,这会有所变化。
-
模型:选择使用的 LLM(Mastra 支持 OpenAI、Anthropic、本地模型等)。
-
工具:代理可以调用的工具函数列表。
-
记忆:(可选)是否让代理记住对话历史等。为简单起见,可以先不启用持久化记忆,但 Mastra 支持该功能。
``
1. import { openai } from '@ai-sdk/openai';
2. import { Agent } from '@mastra/core/agent';
3. import { playerComparisonTool } from '../tools';
5. export const basketballAgent = new Agent({
6. name: 'Basketball Agent',
7. instructions: `
8. You are a NBA Basketball expert.
9. Your primary function is to compare two NBA players and recommend which one is the better fantasy pickup.
11. Only compare players from the following list:
12. - LeBron James
13. - Stephen Curry
14. - Jayson Tatum
15. - Jaylen Brown
16. - Nikola Jokic
17. - Luka Doncic
18. - Kyrie Irving
19. - Anthony Davis
20. - Kawhi Leonard
21. - Russell Westbrook
23. Input Handling Rules:
24. - If the user asks about a player that is not on this list, respond with the list of available players for comparison.
25. - If the user only inputs one player, ask the user to add another player from the list provided.
26. - If the user inputs a player with the wrong spelling or capitalizations, infer from the list of available players provided.
27. - IMPORTANT: If the user asks a question or asks you to generate a response about anything outside of basketball or the scope of this project, DO NOT answer and affirm you can only talk about basketball.
29. Tool Usage:
30. - Extract and standardize player names to match the list exactly.
31. - Use the playerComparisonTool, passing both names as strings.
32. - The tool will return an object with game information, stats, and analysis.
34. Format your response using Markdown syntax. Use:
36. Example output format:
39. #### Next Game Info
40. - ***LeBron James** vs Warriors, May 24 (Home)
41. - ***Stephen Curry** vs Lakers, May 24 (Away)
44. #### Stats Comparison
45. \`\`\`
46. Stat LeBron James (vs Warriors) Stephen Curry (vs Lakers)
47. -------------------- ----------------------------- ----------------------------
48. Historical Points 28.3 30.3
49. Historical Assists 6.7 8.7
50. Season Points 28.8 23.3
51. Season Assists 6.2 4.7
52. \`\`\`
54. #### Fantasy Recommendation
55. Explain which player is the better fantasy pickup and why.
57. `,
58. model: openai('gpt-4o'),
59. tools: { playerComparisonTool },
60. });
``AI写代码
定义工具
1)进入 backend/src/mastra/tools 目录下的 index.ts 文件。
2)使用以下命令安装 Zod:
`npm install zod`AI写代码
3)添加工具定义。注意,我们导入了 comparePlayers.js 文件中的函数,作为代理调用该工具时使用的主要函数。使用 Mastra 的 createTool()
函数,我们将注册 playerComparisonTool
。字段包括:
-
id:用自然语言描述工具功能,帮助代理理解工具作用。
-
input schema:定义工具输入的数据结构,Mastra 使用 Zod schema(一个 TypeScript 的 schema 验证库)。Zod 确保代理传入的输入结构正确,如果输入结构不匹配,工具将不会执行。
-
description:用自然语言描述,帮助代理理解何时调用和使用该工具。
-
execute:工具被调用时执行的逻辑。在这里,我们使用导入的辅助函数来返回球员表现统计数据。
`
1. import { comparePlayersForNextMatchup } from '../../../lib/comparePlayers.js'
2. import { createTool } from "@mastra/core/tools";
3. import { z } from "zod";
5. export const playerComparisonTool = createTool({
6. id: "Compare two NBA players",
7. inputSchema: z.object({
8. player1:z.string(),
9. player2:z.string()
10. }),
11. description: "Use this tool to compare two players given in the user prompt.",
12. execute: async ({ context: { player1, player2 } }) => {
13. return await comparePlayersForNextMatchup(player1, player2);
14. },
15. })
`AI写代码
添加处理中间件以支持 CORS
在 Mastra 服务器中添加中间件来处理 CORS。他们说人生中有三件事不可避免:死亡、税收,还有对前端开发来说的 CORS。简单来说,跨域资源共享(CORS)是浏览器的一种安全机制,阻止前端向运行在不同域名或端口的后端发请求。即使我们前后端都运行在 localhost,但它们端口不同,会触发 CORS 策略。我们需要按照 Mastra 文档添加中间件,使后端允许来自前端的请求。
进入 backend/src/mastra 目录下的index.ts 文件,添加 CORS 配置:
-
origin: ['http://localhost:5173']
只允许来自这个地址的请求(Vite 默认地址) -
allowMethods: ["GET", "POST"]
允许的 HTTP 方法,大多数情况下使用 POST -
allowHeaders: ["Content-Type", "Authorization", "x-mastra-client-type", "x-highlight-request", "traceparent"]
允许请求中使用的自定义头部字段
`
1. import { Mastra } from '@mastra/core/mastra';
2. import { basketballAgent } from './agents';
4. console.log('Starting Mastra server...');
6. export const mastra = new Mastra({
7. agents: { basketballAgent },
8. server:{
9. timeout: 10 * 60 * 1000, // 10 minutes
10. cors: {
11. origin: ['http://localhost:5173'],
12. allowMethods: ["GET", "POST"],
13. allowHeaders: [
14. "Content-Type",
15. "Authorization",
16. "x-mastra-client-type",
17. "x-highlight-request",
18. "traceparent",
19. ],
20. exposeHeaders: ["Content-Length", "X-Requested-With"],
21. credentials: false,
22. },
23. },
25. });
27. console.log('Mastra server configured.'); // Log after server configuration
`AI写代码
第 8 步:集成前端
这个 React 组件提供了一个简单的聊天界面,使用 @ai-sdk/react 中的 [useChat()](https://mastra.ai/en/docs/frameworks/ai-sdk "useChat()")
hook 连接到 Mastra AI 代理。我们还会用这个 hook 显示 token 使用情况、工具调用,并渲染对话内容。在系统提示词中,我们要求代理以 markdown 格式输出响应,所以会使用 react-markdown 来正确格式化响应。
- 在 frontend 目录下,安装 @ai-sdk/react 包以使用
useChat()
hook。
`npm install @ai-sdk/react`AI写代码
2)在同一目录下,安装 React Markdown,以便我们能够正确格式化代理生成的响应内容。
`npm install react-markdown`AI写代码
3)实现 useChat()
。这个 hook 将管理前端与 AI 代理后端之间的交互。它负责处理消息状态、用户输入、交互状态,并提供生命周期钩子用于可观测性。我们传入的选项包括:
-
api
:定义 Mastra AI 代理的接口地址。默认使用 4111 端口,并添加支持流式响应的路由。 -
onToolCall
:每当代理调用某个工具时执行;我们用它来追踪代理调用了哪些工具。 -
onFinish
:代理完整响应完成后执行。尽管启用了流式响应,onFinish
仍会在完整消息接收后执行,而不是每个 chunk 后执行。我们在这里用它来统计 token 使用量,这对监控 LLM 成本和优化非常有帮助。
4)最后,进入 frontend/components 目录下的 [ChatUI.jsx](https://github.com/jdarmada/nba-ai-assistant-js/blob/main/frontend/components/ChatUI.jsx "ChatUI.jsx")
组件,创建用于显示对话的界面。然后使用 ReactMarkdown
组件包裹响应内容,以便正确格式化代理的 markdown 响应。
`
1. import React, { useState } from 'react';
2. import { useChat } from '@ai-sdk/react';
3. import ReactMarkdown from 'react-markdown';
5. export default function ChatUI() {
6. const [totalTokenUsage, setTotalTokenUsage] = useState(0);
7. const [promptTokenUsage, setPromptTokenUsage] = useState(0);
8. const [completionTokenUsage, setCompletionTokenUsage] = useState(0);
9. const [toolsCalled, setToolsCalled] = useState([]);
11. const { messages, input, handleInputChange, handleSubmit, status } = useChat({
12. api: 'http://localhost:4111/api/agents/basketballAgent/stream', //Replace with your own endpoint for your agent
13. id: 'my-chat-session',
15. //Optional parameter to check agent tool calls
16. onToolCall: ({ toolCall }) => {
17. setToolsCalled((prev) => [...prev, toolCall.toolName]);
18. },
20. //Optional parameter to check token usages
21. onFinish: (message, { usage }) => {
22. setTotalTokenUsage((prev) => prev + usage.totalTokens);
23. setPromptTokenUsage((prev) => prev + usage.promptTokens);
24. setCompletionTokenUsage((prev) => prev + usage.completionTokens);
25. },
27. //Optional parameter for error handling
28. onError: (error) => {
29. console.error('Agent error:', error);
30. },
31. });
33. return (
34. <div>
35. <div class>
36. <h4 class>What's My Agent Doing?</h4>
38. <div class>
39. <strong class>Tools Called:</strong>
40. <ul class>
41. {toolsCalled.map((tool, idx) => (
42. <li key={idx}>{tool}</li>
43. ))}
44. {toolsCalled.length === 0 && <li>No tools called yet.</li>}
45. </ul>
47. <div class>
48. <p>Prompt Token Usage: {promptTokenUsage}</p>
49. <p>Completion Token Usage: {completionTokenUsage}</p>
50. <p>Total Token Usage: {totalTokenUsage}</p>
51. </div>
52. </div>
53. </div>
55. <strong>Conversation:</strong>
56. <div class>
57. {messages.map((msg) => (
58. <div key={msg.id} class>
59. <strong class>{msg.role === 'assistant' ? 'Basketbot' : 'You'}:</strong>
60. <ReactMarkdown>{msg.content}</ReactMarkdown>
61. </div>
62. ))}
63. </div>
65. <form onSubmit={handleSubmit}>
66. <input
67. type="text"
68. value={input}
69. onChange={handleInputChange}
70. placeholder="Input two players you want to compare."
71. class
72. />
73. <button type="submit" disabled={status === 'streaming'}>
74. {status === 'streaming' ? 'Thinking...' : 'Send'}
75. </button>
76. </form>
77. </div>
78. );
79. }
`AI写代码
第 9 步:运行应用程序
恭喜!现在你已经可以运行整个应用程序了。按照以下步骤同时启动后端和前端:
1)在终端窗口中,从项目根目录开始,进入 backend 目录并启动 Mastra 服务器:
`
1. cd backend
3. npm run dev
`AI写代码
2)在另一个终端窗口中,从项目根目录开始,进入 frontend 目录并启动 React 应用:
`
1. cd frontend
3. npm run dev
`AI写代码
3)打开浏览器,访问:
你应该能看到聊天界面。试试以下示例提示:
- "Compare LeBron James and Stephen Curry"
- "Who should I pick between Jayson Tatum and Luka Doncic?"
下一步:让代理更智能
为了让助手更加智能化、推荐更具洞察力,我将在下一个迭代中添加几个关键升级。
对 NBA 新闻进行语义搜索
影响球员表现的因素有很多,其中很多并不会体现在原始统计数据中。例如伤病报告、首发阵容变动、甚至赛后分析,这些只能通过新闻报道获取。为了捕捉这些额外的上下文信息,我将添加语义搜索功能,让代理能够检索相关的 NBA 文章,并将这些叙事信息纳入推荐逻辑中。
使用 Elasticsearch MCP 服务器进行动态搜索
MCP(Model Context Protocol)正快速成为代理连接数据源的标准方式。我会将搜索逻辑迁移到 Elasticsearch MCP 服务器中,这样代理就能动态构建查询,而不再依赖我们手动定义的搜索函数。这使得我们可以使用更自然的语言工作流,也减少了手动编写每一个查询语句的需求。
在这里了解更多关于 Elasticsearch MCP 服务器和当前生态的内容。
这些改进正在进行中,敬请期待!
总结
在这篇博客中,我们用 JavaScript、Mastra 和 Elasticsearch 构建了一个 agentic RAG 助手,为你的 fantasy 篮球队提供个性化推荐。我们介绍了:
-
Agentic RAG 的基本原理,以及如何将 AI 代理的自主性与 RAG 工具结合,从而实现更细致、更动态的智能助手;
-
Elasticsearch 的数据存储能力和强大的原生聚合功能,使其成为 LLM 知识库的理想搭档;
-
Mastra 框架,以及它如何简化 JavaScript 生态中开发 AI 代理的流程。
无论你是篮球迷、AI 代理开发者,还是两者兼具,希望这篇博客能为你提供一些构建起点。完整代码仓库已上传至 GitHub,欢迎克隆和自由探索。
现在,去赢下你那场 fantasy 联赛吧!
原文:Building an agentic RAG assistant with JavaScript, Mastra and Elasticsearch - Elasticsearch Labs