第四期书生大模型实战营 - 基础岛闯关作业2 - 玩转书生「多模态对话」与「AI搜索」产品

107 阅读2分钟

书生·浦语
MindSearch
书生·万象

产品序列

书生·浦语

  • API文档中给出了
    • API URL
    • API Auth
    • Python、Curl、openai 库的调用示例
    • 请求参数、返回参数说明 等等快速开始使用浦语 API 的说明。更重要的是,浦语 API 已经支持 Tool Call (Beta) 功能啦!所有字段与 OpenAI 对齐,让使用 ChatGPT API 格式的同学可以无缝切换到浦语 API。

以下是使用 curl 工具非流式调用浦语 API 的一段示例代码:

curl --location 'https://internlm-chat.intern-ai.org.cn/puyu/api/v1/chat/completions' \
--header 'Authorization: Bearer xxxxxxx' \
--header 'Content-Type: application/json' \
--data '{
        "model": "internlm2.5-latest",  
        "messages": [{
                "role": "user",
                "content": "你知道刘慈欣吗?"
        }, {
                "role": "assistant",
                "content": "为一个人工智能助手,我知道刘慈欣。他是一位著名的中国科幻小说家和工程师,曾经获得过多项奖项,包括雨果奖、星云奖等。"
        },{
                "role": "user",
                "content": "他什么作品得过雨果奖?"
        }],
        "temperature": 0.8,
        "top_p": 0.9
}'
  • 查看 API 可用 Models 目前 Chat API 仅支持以 internlm2.5-latest 作为 model ID,它将默认指向我们最新的 InternLM2.5 模型 internlm2.5-20b-0719 。

注意:我们可能会定期上线一些新版的模型,或者改变 internlm2.5-latest 模型指向的实际模型版本。可以通过 Model API 查询当前可用的模型 ID。

模型描述窗口长度最大输出 Tokens
internlm2.5-latest默认指向我们最新发布的 internlm2.5 系列模型,当前指向internlm2.5-20b-071932K4,096 tokens

MindSearch

  • InternLM 组织今年开源的 AI 搜索引擎 (框架),基于多智能体技术将你提出的问题进行分析、拆解、网页搜索,最终给出有参考依据的高可信度回答。
  • 目前可直接在书生·浦语产品内体验以 InternLM2.5-20B 为 Agent 的 MindSearch 官方实现。
  1. 拆解问题
    • 如下将问题拆分为两个子问题

image.png

  1. 解决子问题

解决子问题的步骤分为以下 3 步:

2.1. 思考:我需要在互联网上搜索什么资料来回答这个问题?子节点总结搜索关键词调用搜索引擎搜索到海量参考网页。 2.2. 信息来源:根据首次搜索到的网页摘要,子节点决定知否对网页进行全文精读。 2.3. 信息整合:整合精读网页的所有信息形成子节点的结论。

  1. 总结子节点结论 一般情况下主节点会根据子节点得出的结论,总结形成最终回复

image.png

书生·万象

  • InternVL 开源模型的官方产品,原生支持图文多模态对话能力。

作业

MindSearch

  • 目前生成式AI在学术和工业界有什么最新进展?

image.png

目前生成式AI在学术和工业界有什么最新进展? - 任钢的回答 - 知乎 www.zhihu.com/question/18…

书生·浦语

image.png

书生·万象

image.png