百度千帆AI大模型

97 阅读2分钟

千帆AI大模型是百度智能云推出的一款企业级一站式大模型开发与服务平台。
千帆AI大模型支持模型训练、部署及多场景应用开发,并集成了多个预训练模型,如ERNIE Bot、文心一言等。

千帆AI大模型的费用便宜

ERNIE-4.0-8K-Preview大模型为例:

  • 输入:¥0.004元/千tokens
  • 输出:¥0.0016元/千tokens
    (在千帆大模型中,一token约等于1个汉字,1token约等于3-4字母)

在java代码中调用千帆AI大模型

千帆AI大模型还提供了API调用与专属模型训练功能,这使得开发者能够根据自身需求进行灵活定制和开发。
在maven项目中导入相关依赖即可使用.

<dependency> 
    <groupId>com.baidubce</groupId> 
    <artifactId>qianfan</artifactId> 
    <version>0.1.1</version> 
</dependency>

实例代码:

import com.baidubce.qianfan.Qianfan; 
import com.baidubce.qianfan.model.chat.ChatResponse; 
public class Demo { public static void main(String[] args) { 
// 使用安全认证AK/SK鉴权,替换下列示例中参数,安全认证Access Key替换your_iam_ak,Secret Key替换your_iam_sk
Qianfan qianfan = new Qianfan("your_iam_ak", "your_iam_sk"); // 指定模型 
    ChatResponse resp = qianfan.chatCompletion() 
                    .model("ERNIE-3.5-8K") 
                    .addMessage("user", "你好") 
                    .execute(); 
    System.out.println(resp.getResult()); 
    } 
 }

几个重要参数:

名称类型必填描述
systemString对话前提
messagesList[dict]对话信息,messages": [ {"role": "user","content": "你好"}]message中的content总长度和system字段总内容不能超过20000个字符,且不能超过5120 tokens
modelstring模型名称,用于指定平台支持预置服务的模型,说明:该字段为固定值ERNIE-4.0-8K-Preview(必须开通付费)
temperaturefloat大模型的采样参数,(1)较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定(2)默认0.8,范围 (0, 1.0],不能为0
max_output_tokensint指定模型最大输出token数,说明:(1)如果设置此参数,范围[2, 2048](2)如果不设置此参数,最大输出token数为1024
response_formatstring指定响应内容的格式,说明:(1)可选值:· json_object:以json格式返回,可能出现不满足效果情况· text:以文本格式返回(2)如果不填写参数response_format值,默认为text