【VS Code】在Roo Cline中体验Mistral AI

324 阅读4分钟

Mistral AI

前面简单认识了 Mistral AI,详细介绍请查看:初识Mistral AI。Mistral AI 支持 API 及 Codestral API 的免费调用,今天尝试将Mistral AI 接入Roo Cline使用。

当前版本

Roo Cline 2.2.42

限制

当前Roo Cline并不支持直接接入Mistral API Key方式接入,使用【OpenAI Compatible】方式接入会出现 404错误,找到了一种解决方式就是通过中间代理转发的形式。

图片

Litellm

简介

Litellm 是一个强大的LLM(大型语言模型)API调用工具,旨在简化开发者与各种LLM提供商API的交互过程。简单来说就是使用 OpenAI 格式调用所有LLM API,Litellm 是一个Python依赖包,安装简单,一键启动代理。

安装

Litellm是一个python库,可以直接试用pip进行安装

pip install litellm
pip install 'litellm[proxy]'  # litellm代理库,如果只使用代理,可以尝试只安装这个库是否可以

如果安装过慢,可以试试加速模式

pip install litellm -i http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com
pip install 'litellm[proxy]' -i http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com

导出环境

Litellm会默认从环境变量中获取所需的API Key,可以直接将API Key存放到环境变量

export MISTRAL_API_KEY=你的Mistral API Key
// 聊天和代码补全 API Key
export CODESTRAL_API_KEY=你的Codestral API Key

启动模型

// 全能模型
litellm --model mistral/mistral-large-latest

// 聊天和代码补全模型
litellm --model codestral/codestral-latest

图片

Roo Cline集成Mistral AI

安装Roo Cline

安装方式参考:【VS Code】Roo Cline+DeepSeek更好用?

获取Mistral AI API Key

API Key 需要妥善保管,后续将不能查看

OpenRouter API Key获取地址:openrouter.ai/settings/ke…

点击顶部【更多】选择【Keys】进入API Key列表

图片

点击【Create new key】创建一个新的API Key

图片

输入API Key名称、过期时间(可不填),创建成功后复制API Key,这里需要妥善保管,后续将不能查看

图片

Roo Cline配置

在【API Provider】列表中选择【OpenAI Compatible】,在【Base URL】中输入上面Litellm启动的服务地址,默认为**http://0.0.0.0.4000,【API Key可以随便填,【Models】输入Litellm代理的模型codestral/codestral-latest**,最后点击右上角的【Done】完成配置。

图片

图片

配置完成后,就可以使用Roo Cline调用Mistral AI进行聊天了。

图片

友情提示

见原文:【VS Code】在Roo Cline中体验Mistral AI)

本文同步自微信公众号 "程序员小溪" ,这里只是同步,想看及时消息请移步我的公众号,不定时更新我的学习经验。