google adk接入私有模型

5 阅读1分钟
  1. google-adk框架具体搭建可以看这个老师的文章juejin.cn/post/751307… 虽然很简洁,但是已经能够达到目的。

  2. 主要补充一点,关于在公司如何直接接入模型。比如你们公司私有化了一套开源大模型,它支持openai协议。我经过尝试发现随便用openai还是deepseek都可以。你配置好相关的base_url就行。我配置的是OPENAI_API_BASE和OPEN_API_KEY是完全可以跑通的。

  3. 如果你不支持openai协议,而是自己公司内部有一套自己的大模型协议。我们公司就是自己有一种是自己的协议。有一种是openai协议。那么可以通过集成baseLLm来实现。总的来说还是非常的灵活的。