magpie:让薅到的 AI 羊毛物尽其用

0 阅读4分钟

现在很多厂商都有免费的token可以领,但是都零散的分布在各个Agent或者 token plan 里面,把这些羊毛集中管理起来是我一直苦恼的问题。

最近在推特上 magpie 这个工具比较火,起初第一眼我不以为然,不就是本地其服务转发嘛,我自己写的配置文件完全没有用的必要。

但是随着热度越来越高,我的逆反心理就上来了。“我倒要看看你有什么本事。”抱着这个心态我越用越上头,因为是真好用。核心确实是把这些模型接到 Agent 上。供应商出模型,magpie 在中间收请求、再转发出去。

但是做到了两点特别好用:1. 把多个模型或账号并成路由组,一个用完就换一个不中断。2. 按任务分工,加意图规则,让不同的活找不同的模型。

本来东鳞西爪薅的羊毛都能及时用掉了!

言归正传我们来看看具体怎么用:

先把供应商加进来

去供应商页,把准备用的服务加上。这一步配的是模型从哪里来;哪个 Agent 用它,下一步再定。

添加供应商面板:订阅、厂商、中转、本机和自定义 URL

给 Agent 选个模型

Agent 页里,本机装了或配置过的 Agent 各占一行,显示它当前用的模型。

Agent 页:已接入的 Agent 显示当前模型,下方列出未接入的 Agent 和安装入口

一个组管几个模型

给 Agent 选定一个模型,接入就算完成。想用上其他账号的额度,或者希望当前模型答不了时有后备,才需要路由组。

路由组把多个模型或账号并成一个名字,Agent 像选单个模型一样选它,名字写成 group/<id>。其中一个答不了,就换下一个。

路由页:四个 Agent 同时经三个路由组发请求,被限流的供应商暂时让开

先建一个主力组

我的建议是先建一个主力编程组,配几条关键规则就够了。不必一上来就把所有组和规则配齐。

路由方式先选 smart 或 order:混用多个订阅、想少浪费额度,用前者;已经有明确的主力和备用顺序,用后者。

会话保持选 auto 或 session,长代码会话靠它留在同一个账号上,再考虑提示词缓存能不能复用。

主力组稳定之后,再按用途拆。

组用途与分配思路
主力编程组给 Claude Code 主会话或 opus 档使用,以强模型为主,用意图规则分流。
快速或子代理组使用便宜、快速的模型,供 Explore、子代理或 haiku 档使用。
架构或审查组选用更强的模型或另一个模型家族,例如 GPT / Astra,提供不同视角。
兜底组使用免费或成本较低的模型,保留后备选择。

按规则把某类对话交给指定模型

一条规则能按对话长度、图片或推理要求来筛,也能限定来源 Agent、意图、压缩上下文或所在文件夹。条件可以叠加,所以「在 ~/work/acme 里,并且够长」这样的规则写得出来。

路由组配置:添加成员模型、选择路由方式和会话保持;红框内是每天 18:00 到次日 06:00 优先使用 Hy4 preview 的时间规则

每来一条新消息,magpie 都从上往下检查规则。第一条命中的决定谁排在最前,其余成员做故障转移。一条都没命中,就按组本来的方式路由,并留在原来的账号上。

让不同的活找不同的模型

意图规则配置示例:分别描述独立审查、架构设计、故障排查和日常小任务,并在底部选择意图判断模型

怎么看懂那条记录

路由页会显示每个组最近一次请求由谁回答,原因写在记录下面。

意图命中记录:Claude Code 的写测试请求命中规则 2,GLM-5.3 排到第一;下方记录了判断模型的回答和 964 毫秒的耗时

图中是一条要求写测试的消息。判断模型 964 毫秒后说是“writing or fixing tests”,规则 2 就把 live/aihubmix/glm-5.3 排到第一。这条记录和上面的配置截图来自不同示例,模型和规则编号以各自的截图为准。

判断模型的调用记在用量页的 Agent magpie 名下,带 token 数和费用。想知道意图判断的开销,看这里。

几个常被问到的问题

magpie 要一直开着吗?

通过 magpie 用的模型,需要网关跟着应用一起跑。窗口关掉,magpie 还在菜单栏或托盘里。

怎么恢复原样?

在选择列表里选 Agent 自带的模型,或者运行 magpie <agent> default。magpie 会删掉自己写进去的东西,把你原来的值还回来,比如 ANTHROPIC_BASE_URL。

换了模型,Agent 还在用旧的?

已经在跑的会话,模型是启动时定下的。开个新会话。如果是 Codex,还要重启 Codex 应用。

从一个能用的组开始

先接入常用供应商,给一个 Agent 配好主力组,再按需要加备用模型。确认请求能正常完成、路由记录能看懂,再考虑拆快速组、审查组,或者加意图规则。

意图判断本身有开销。用量页能看到它值不值得留。常用任务先跑顺,再按实际使用调整分工。哪项配置真有用,这时候才看得清。

Magpie 上手指南信息图:供应商接入、Agent 选模、路由组、会话保持与规则优先级