引言
先自我介绍下,我是一个工作多年的前端工程师,我现在所在的部门在做大模型平台,类似文心一言、kimi、通义千问等平台。在这里我将说下前端在这类大模型平台里的作用。
说实话作用不大,哭唧唧
大模型平台的组成部分
我们先来说说大模型平台主要是有哪几部分组成。最主要的是以下几种了
- 模型选择,作为一个平台,我们首先需要一个可以选择模型的模块,模型现在在开源社区有很多开源的模型,也可以使用千帆大模型或者其他收费模型。
- promot提示词,提示词模块是一个重要模块,你如何问,问什么大模型更能给你准确答案,这块也是需要学习和配置的。
- 知识库,只是一个基于模型的补充功能,毕竟咱们的开源大模型理解力是没问题,但是回到会千奇百怪,如果你想让他回复你限定的内容,那么这块是你需要的。
- 插件,这也是一个模型的补充功能,可以在做很多定制化的功能。
- 组装,这是一个重要模块,它要把以上四个模块组合起来,我们一个完整的功能里可能会有多个模型多个知识库或者提示词。所以我们组装时会以各种排列组合的形式,所以可以采取工作流的形式进行,也可以其他。
前端能做什么
上诉模型平台最主要的部分,看到这里是否感觉到,这些功能的最主要里的能力都是在于后端和算法,那么前端能做啥呢,我感觉是,啥也做不了,能做的还是传统的页面的渲染以及增删改查。 大家觉得,前端能为大模型做些什么呢,或者说,在这种全民AI的时代,前端能如何体现自己的价值呢。