2024.11.4
开篇词“奇点时刻”
一,ai背景
“iPhone”时刻->“互联网时刻”
二,langchain简介
1.定义:一种专为开发基于语言模型的应用而设计的框架,可以通过API调用如 ChatGPT、GPT-4、Llama 2 等大型语言模型,还可以实现更高级的功能。
2.特性:数据感知: 能够将语言模型与其他数据源连接起来,从而实现对更丰富、更多样化数据的理解和利用。
具有代理性: 能够让语言模型与其环境进行交互,使得模型能够对其环境有更深入的理解,并能够进行有效的响应。
2024.11.5
Langchain系统安装和快速入门
一,Token:是服务端生成的一串字符串,以作客户端进行请求的一个令牌,是一个身份卡,有权限的作用。
API(Application Programming Interface):即应用程序编程接口。说得更加通俗易懂一些,别人写好的代码,或者编译好的程序,提供给你使用,就叫做API。
二,LangChain本质上就是对各种大模型提供的API的套壳,是为了方便我们使用这些API,搭建起来的一些框架、模块和接口。
三,两大模型:Chat Model,聊天模型,用于产生人类和AI之间的对话,代表模型当然是gpt-3.5-turbo(也就是ChatGPT)和GPT-4。Text Model,文本模型,在ChatGPT出来之前,大家都使用这种模型的API来调用GPT-3,文本模型的代表作是text-davinci-003(基于GPT3)。
四,调用Text模型:
第1步,先注册好你的API Key。
第2步,用 pip install openai 命令来安装OpenAI库。
第3步,导入 OpenAI API Key。import os os.environ["OPENAI_API_KEY"] = '你的Open API Key' 或者import openai openai.api_key = '你的Open API Key'
第4步,导入OpenAI库,并创建一个Client。from openai import OpenAI client = OpenAI()
第5步,指定 gpt-3.5-turbo-instruct(也就是 Text 模型)并调用 completions 方法,返回结果。response = client.completions.create( model="gpt-3.5-turbo-instruct", temperature=0.5, max_tokens=100, prompt="请给我的花店起个名")
第6步,打印输出大模型返回的文字 print(response.choices[0].text.strip())
通过一些参数来控制输出的内容和样式,如图所示
五,调用chat模型:整体流程上,Chat模型和Text模型的调用是类似的,只是前面加了一个chat,然后输入(prompt)和输出(response)的数据格式有所不同。)
1.有两个专属于Chat模型的概念,一个是消息,一个是角色 。****