小白入门大模型应用开发第一集 | 豆包MarsCode AI刷题

用户461328028435
92 阅读3分钟

  • 前言

在当今数字化时代，人工智能技术正以前所未有的速度发展，其中大模型的出现更是掀起了一场技术革命的浪潮。大模型以其强大的语言理解、生成和推理能力，为众多领域带来了全新的机遇与挑战，成为推动各行业创新与变革的核心力量。

大模型应用开发作为这一新兴领域的关键环节，旨在将大模型的卓越性能与实际业务需求紧密结合，创造出具有高价值、高可用性和创新性的应用程序。无论是智能客服系统，能够以自然流畅的对话方式为用户提供即时且精准的服务；还是内容创作辅助工具，帮助创作者激发灵感、优化文案，亦或是智能分析平台，从海量数据中挖掘有价值的信息和洞察，大模型应用的潜力正在各个角落不断绽放。

然而，大模型应用开发并非一帆风顺。它涉及到复杂的技术架构整合，需要深入理解大模型的底层原理与特性，如模型的训练机制、参数设置对输出的影响等，以便在开发过程中能够充分发挥其优势，同时避免可能出现的偏差与风险。数据的处理也是一大挑战，高质量的数据收集、清洗、标注和管理是构建有效大模型应用的基石，直接关系到模型的准确性和泛化能力。此外，伦理与合规性问题在大模型应用开发中日益凸显，确保应用在尊重用户隐私、遵循社会道德规范以及符合法律法规的框架内运行，是开发过程中不可忽视的重要方面。

本书将带领读者深入探索大模型应用开发的全过程。从基础概念的阐释到前沿技术的剖析，从开发框架的搭建到实际案例的演示，力求为读者提供全面、系统且实用的知识体系。无论你是初涉人工智能领域的开发者，渴望在大模型应用的浪潮中崭露头角；还是经验丰富的技术专家，寻求拓展新的技术方向与应用场景，都能在本书中找到有价值的参考与启示，为开启大模型应用开发的精彩旅程奠定坚实的基础。

让我们一同踏上这充满挑战与机遇的大模型应用开发之路，在人工智能的浩瀚星空中绘制属于自己的创新蓝图。

下面我们使用langchain进行大模型入门的简单应用开发

首先得先打开终端进行下面三个依赖包的下载

pip install langchain
pip install openai
pip install langchain-openai

文档中的openai的key和url不科学上网的同学是使用不了的，而且也容易被盾，所以换模型的接口，使用火山引擎去调用豆包ai大模型。

现在打开一下链接进行注册和登录 火山引擎控制台

进入以下页面

image.png

找到apikey管理

image.png

下图可以看到自己账号的api key

image.png

下面要创建两个模型需要后续开发使用

image.png

创建推理接入点

image.png

创建接入点就可以进行我们具体的代码测试啦

import os
from langchain_openai import ChatOpenAI

os.environ("OPENAI_API_KEY") = ""  #自己的API
os.environ("OPENAI_API_URL") = ""  #自己的url
os.environ("LLM_MODELEND") = ""    #自己的model
#以上
llm = ChatOpenAI(
    model_name=model_name,
    openai_api_key=api_key,
    openai_api_base=api_url,
    max_tokens=max_tokens
)

text = llm.predict("请给我写一句情人节红玫瑰的中文宣传语")
print(text)
avatar
文章
阅读
粉丝