认识千帆大模型

什么是千帆大模型

千帆大模型集成了数据处理、模型训练、推理部署等功能的一站式AI开发平台，专注于支持企业和开发者高效构建大模型应用。平台提供丰富的算法库和工具集，支持多种深度学习框架，千帆大模型是自动对接百度的搜索插件，可以让我们更为方便的进行数据的解析，属于一个对话模型，能够实现单论对话、多轮对话等。

在idea中实现千帆大模型

通过百度智能云注册账户，获取到账户的密钥，在idea中通过注入qianfan依赖，连接到账户的密钥，可在idea中进行对话，通过提示词让千帆大模型进行输出，提示词的书写要准确明了，要指明任务，给出相关的环境背景，必要时可以给出例子进行参考，还要说清楚输出的格式描述。

操作：

首先要注入依赖

<dependency>
    <groupId>com.baidubce</groupId>
    <artifactId>qianfan</artifactId>
    <version>0.1.1</version>
</dependency>

在idea中调用

    public static void main(String[] args) {
        // 使用安全认证AK/SK鉴权，替换下列示例中参数，安全认证Access Key替换your_iam_ak，Secret Key替换your_iam_sk，如何获取请查看https://cloud.baidu.com/doc/Reference/s/9jwvz2egb
        Qianfan qianfan = new Qianfan("换成自己的Access", "Secret");

        // 指定模型
        ChatResponse resp = qianfan.chatCompletion()
                .model("ernie-4.0-8k-Latest")
                .addMessage("user", "讲几个笑话")
                .execute();
        System.out.println(resp.getResult());
    }

参数

messages —（必填）— 对话信息，对任务进行描述

model —（必填）— 模型的名称，用来指定平台支持的预制服务的模型

temperature —— 采样参数

max_output_tokens —— 指定最大输出的token数，默认位1024

response_format —— 用来指定输出的格式

提示词

可以给 AI 定义一个最匹配任务的角色，然后通过messages参数对任务进行描述，必要的时候可以给出与任务相关的一些背景信息、例子等参考，如果对格式有要求可以通过response_format来指定格式进行输出/