使用 ChatGPT 进行页面生成

243 阅读12分钟

首先,我们需要注册一个 openai 或者 azure 账号,在上面开通 api 服务(如何申请账号请自行搜索,网上有很多教程)。然后就可以使用这个 api 来和 ChatGPT 进行交互了。

另外,我们还需要一个低代码平台,因为生成的 JSON 需要一个低代码平台来验证生成 JSON 是否真实可用。刚好前几年我写了一个低代码平台教学项目[8],现在刚好可以用上。

低代码平台组件 DSL

首先,我们要知道每一个组件的 DSL 描述,下面的代码是一个文本组件的 DSL 描述:

{    "animations": [], // 动画属性    "events": {}, // 事件    "groupStyle": {}, // 组合组件样式    "isLock": false, // 是否锁定    "collapseName": "style",    "linkage": { // 联动组件        "duration": 0,        "data": [            {                "id": "",                "label": "",                "event": "",                "style": [                    {                        "key": "",                        "value": ""                    }                ]            }        ]    },    "component": "VText", // 组件类型    "label": "文字", // 组件名称    "propValue": "双击编辑文字", // 组件值    "icon": "wenben", // 组件图标    "request": { // 组件 API 请求        "method": "GET",        "data": [],        "url": "",        "series": false,        "time": 1000,        "paramType": "",        "requestCount": 0    },    "style": { // 组件样式        "rotate": 0,        "opacity": 1,        "width": 200,        "height": 28,        "fontSize": "",        "fontWeight": 400,        "lineHeight": "",        "letterSpacing": 0,        "textAlign": "",        "color": "",        "top": 157,        "left": 272    },    "id": "07l4byRWvsphAPo2uatxy" // 组件唯一 id}

每一个组件就是一个 JSON 数据,那么整个页面就是一个 JSON 数组,里面包含了多个组件:

// 页面 JSON[ { ... }, // 组件1 { ... }, // 组件2 { ... }, // 组件3]

prompt 编写

要让 ChatGPT 来生成页面,那么我们要让 ChatGPT 知道页面、组件的数据结构,并且要给它提供示例。然后再向它提出页面生成的需求,从而为我们生成符合要求的页面。这个 prompt 的格式如下:

我有一个低代码平台项目,它可以根据符合规范的 JSON 数据生成页面,这个 JSON 数据是一个数组,里面的每一项都是一个 JSON 对象,每个 JSON 对象都对应着一个组件。下面用 ### 包括起来的代码就是所有的组件列表。
###---所有组件的 JSON 数据结构---###
如果一个页面包含了一个文本和按钮组件,那么这个页面的 JSON 代码如下:###---示例页面 JSON 数据结构---###
你作为一个技术专家,现在需要按照上面的规则来为我生成页面,并且生成的页面中每一个组件的属性都不能忽略,也不需要解释,只需要返回 JSON 数据即可。要注意的是,有些数值的单位是没有 px 的。
现在我需要生成一个海报页面,主要用于宣传编程有什么用。

由于篇幅有限,上面只展示了这个 prompt 的大纲,JSON 数据都省略了。完整的 prompt 请在 lowcode-llm-demo[9] 上查看。

prompt 准备好了,现在我们需要调用 ChatGPT 的 api 来生成页面,示例代码如下:

import { AzureChatOpenAI } from '@langchain/azure-openai'import 'dotenv/config'import { readFileSync } from 'fs'import { resolve, dirname } from 'path'import { fileURLToPath } from 'url'
const model = new AzureChatOpenAI({    modelName: process.env.AZURE_OPENAI_API_MODEL_NAME,    azureOpenAIEndpoint: process.env.AZURE_OPENAI_API_ENDPOINT,    azureOpenAIApiKey: process.env.AZURE_OPENAI_API_KEY,    azureOpenAIEmbeddingsApiDeploymentName: process.env.AZURE_OPENAI_API_EMBEDDING_DEPLOYMENT_NAME,    azureOpenAIApiVersion: process.env.AZURE_OPENAI_API_VERSION,})
const dirName = dirname(fileURLToPath(import.meta.url))const prompt = readFileSync(resolve(dirName, '../prompts/prompt-compress.md'), 'utf-8')const response = await model.invoke(prompt)console.log(JSON.stringify(response)) // 返回 ChatGPT 的结果

上面的代码执行后就能得到 ChatGPT 返回来的页面 JSON 数据。不过这个数据不能直接使用,还需要额外写点代码处理一下才能使用。下面的代码就是处理后的页面 JSON 数据结构:

[    {        "animations": [],        "events": {},        "groupStyle": {},        "isLock": false,        "collapseName": "style",        "linkage": {            "duration": 0,            "data": [                {                    "id": "",                    "label": "",                    "event": "",                    "style": [                        {                            "key": "",                            "value": ""                        }                    ]                }            ]        },        "component": "Picture",        "label": "背景图片",        "propValue": {            "url": "img/programming_poster_bg.jpg" // 替换为自己的图片        },        "style": {            "rotate": 0,            "opacity": 1,            "width": 500,            "height": 700,            "top": 0,            "left": 0,            "position": "absolute",            "zIndex": 0        },        "id": "backgroundImage"    },    {        "animations": [],        "events": {},        "groupStyle": {},        "isLock": false,        "collapseName": "style",        "linkage": {            "duration": 0,            "data": [                {                    "id": "",                    "label": "",                    "event": "",                    "style": [                        {                            "key": "",                            "value": ""                        }                    ]                }            ]        },        "component": "VText",        "label": "标题文字",        "propValue": "编程改变世界",        "icon": "wenben",        "style": {            "rotate": 0,            "opacity": 1,            "width": 450,            "height": 100,            "fontSize": "32px",            "fontWeight": 700,            "textAlign": "center",            "color": "rgba(16, 15, 15, 1)",            "top": 50,            "left": 25,            "position": "absolute",            "zIndex": 10        },        "id": "titleText"    },    {        "animations": [],        "events": {},        "groupStyle": {},        "isLock": false,        "collapseName": "style",        "linkage": {            "duration": 0,            "data": [                {                    "id": "",                    "label": "",                    "event": "",                    "style": [                        {                            "key": "",                            "value": ""                        }                    ]                }            ]        },        "component": "VText",        "label": "描述文字",        "propValue": "通过编程,我们可以创建软件来解决问题、分析数据,甚至改善人们的生活。",        "icon": "wenben",        "style": {            "rotate": 0,            "opacity": 1,            "width": 400,            "height": 200,            "fontSize": "18px",            "fontWeight": 400,            "lineHeight": "1.5",            "textAlign": "center",            "color": "rgba(33, 31, 31, 1)",            "top": 180,            "left": 50,            "position": "absolute",            "zIndex": 10        },        "id": "descriptionText"    },    {        "animations": [],        "events": {},        "groupStyle": {},        "isLock": false,        "collapseName": "style",        "linkage": {            "duration": 0,            "data": [                {                    "id": "",                    "label": "",                    "event": "",                    "style": [                        {                            "key": "",                            "value": ""                        }                    ]                }            ]        },        "component": "VButton",        "label": "行动按钮",        "propValue": "开始学习编程",        "icon": "button",        "style": {            "rotate": 0,            "opacity": 1,            "width": 200,            "height": 50,            "borderRadius": "25px",            "fontSize": "20px",            "fontWeight": 500,            "textAlign": "center",            "color": "#FFF",            "backgroundColor": "#f44336",            "top": 420,            "left": 150,            "position": "absolute",            "zIndex": 10        },        "id": "actionButton"    }]

将 JSON 导入到低代码平台[10]后,生成的页面如下所示:

图片可以看到 ChatGPT 输出了一个半成品页面,背景图片的地址需要我们手动修改。ChatGPT 每次输出的页面都是随机的,下面是生成的另外一个页面。

图片

节省成本

ChatGPT 很好用,但是有一个缺点,太贵了。所以我们需要想一些办法来降低成本,下面是几个比较可行的办法:

1.精简 prompt2.微调(Fine-tuning)3.使用模板、分类标签

精简 prompt

ChatGPT 的 api 是通过 token 来收费的,所以最简单直接的方法就是优化 prompt。下面是一个未优化的 prompt 示例:

我需要一个用户管理系统的页面。在页面顶部,我需要一个添加用户的按钮。下面是一个表格,列出了所有用户的姓名、邮箱和注册日期。点击任何一个用户,将会打开一个包含完整用户信息的新页面,其中包含姓名、邮箱、注册日期、最后登录时间和用户角色。还需要有一个搜索栏,可以通过姓名或邮箱搜索用户。请基于这些要求为我的低代码平台生成代码。

现在将这个 prompt 优化一下:

生成页面:用户管理 组件:添加按钮,用户表格(姓名,邮箱,注册日期),用户详情(姓名,邮箱,注册日期,最后登录,角色),搜索栏(姓名,邮箱)

在这个例子中,我们简化了描述页面的需求,从而减少了 token 的数量。

微调(Fine-tuning)

在文章的开头,我展示了一个生成页面的 prompt 示例,并且可以看到这个 prompt 消耗的 token 数量非常大,因为它需要告诉 ChatGPT 每个组件的 JSON 数据结构是什么,以及一个完整的示例页面 JSON 数据结构是什么样的,这些示例都需要消耗大量的 token。

为了精简 prompt,同时又能达到未精简前的效果,这可以使用微调来实现。

微调是一种机器学习技术,它可以让你自定义机器学习模型以适应特定的任务或数据集。通过微调,您可以在一个预训练的模型(如ChatGPT)的基础上进一步训练它,使其更好地理解和执行特定的任务。这样,您可以创建一个专门为您的低代码平台生成页面的模型。

我们可以给 ChatGPT 提供大量的数据集进行微调训练,比如大量的低代码页面示例。这样你再让它生成一个“用于宣传编程的海报页面”,就不需要提供每个组件的数据结构了,因为这些数据 ChatGPT 已经通过微调学会了。

现在来看一下用于微调训练的数据集是什么样的:

{"prompt": "<prompt text>", "completion": "<ideal generated text>"}{"prompt": "<prompt text>", "completion": "<ideal generated text>"}{"prompt": "<prompt text>", "completion": "<ideal generated text>"}

上面是数据集的格式,现在我要提供大量的低代码平台数据集:

{"prompt":"生成一个带有矩形组件的页面","completion": "[{"animations":[],"events":{},"groupStyle":{},"isLock":false,"collapseName":"style","linkage":{"duration":0,"data":[{"id":"","label":"","event":"","style":[{"key":"","value":""}]}]},"component":"RectShape","label":"矩形","propValue":"矩形","icon":"juxing","style":{"rotate":0,"opacity":1,"width":200,"height":200,"fontSize":"","fontWeight":400,"lineHeight":"","letterSpacing":0,"textAlign":"center","color":"","borderColor":"#000","borderWidth":1,"backgroundColor":"","borderStyle":"solid","borderRadius":"","verticalAlign":"middle","top":143,"left":379},"id":"j3i41NnZw8Zcxu3BfbXwv"}]"}{"prompt":"生成一个带有文本组件的页面","completion": "[{"animations":[],"events":{},"groupStyle":{},"isLock":false,"collapseName":"style","linkage":{"duration":0,"data":[{"id":"","label":"","event":"","style":[{"key":"","value":""}]}]},"component":"VText","label":"文字","propValue":"双击编辑文字","icon":"wenben","request":{"method":"GET","data":[],"url":"","series":false,"time":1000,"paramType":"","requestCount":0},"style":{"rotate":0,"opacity":1,"width":200,"height":28,"fontSize":"","fontWeight":400,"lineHeight":"","letterSpacing":0,"textAlign":"","color":"","top":145.3333282470703,"left":195},"id":"WKqULBX4bKcmREgPJef3D"}]"}{"prompt":"生成一个带有按钮组件的页面","completion": "[{"animations":[],"events":{},"groupStyle":{},"isLock":false,"collapseName":"style","linkage":{"duration":0,"data":[{"id":"","label":"","event":"","style":[{"key":"","value":""}]}]},"component":"VButton","label":"按钮","propValue":"按钮","icon":"button","style":{"rotate":0,"opacity":1,"width":100,"height":34,"borderWidth":1,"borderColor":"","borderRadius":"","fontSize":"","fontWeight":400,"lineHeight":"","letterSpacing":0,"textAlign":"","color":"","backgroundColor":"","top":126.33332824707031,"left":224},"id":"6wgvR1wyRyNqIl37qs1iS"}]"}...

通过微调训练后,ChatGPT 就变成了一个专门的低代码模型,它会更好地理解低代码的需求。后面我们再让 ChatGPT 生成页面就不需要大量的 prompt 了,可以直接让它生成一个“用于宣传编程的海报页面”。记住,微调是一个需要精心设计和执行的过程,需要我们不停的校正,才能达到最好的效果

使用模板、分类标签

一个成功的低代码平台,一定会内置大量的模板,包括但不限于页面模板、应用模板等等。其实在大多数时候,用户提出生成页面的需求时,我们可以提取关键词,根据关键词找到符合用户需求的模板,再展示给用户选择。如果没有找到符合要求的模板,才使用 ChatGPT 来生成页面,这样不仅能节省成本,还避免了 ChatGPT 随机生成页面并且有可能生成错误页面的弊端。

现在我们来看看怎么做。首先,除了给模板命名,还需要给模板归类,比如打上几个类似于“医疗”、“后台管理系统”之类的标签。

当用户提出一个”生成用于宣传编程的页面“需求时,我们可以使用自然语言处理(NLP)库,如 natural 或者 compromise 进行关键词提取,然后再通过 Elasticsearch 来进行搜索,最后把搜索到的模板返回给用户。下面是代码示例:

const { Client } = require('@elastic/elasticsearch');const { NlpManager } = require('node-nlp');
// 初始化Elasticsearch客户端const client = new Client({ node: 'http://localhost:9200' });
// 初始化NLP管理器const nlpManager = new NlpManager({ languages: ['en'], nlu: { useNoneFeature: false } });
// 假设我们有一些模板数据const templates = [    { name: 'Medical Service Promotion Page', tags: ['medical', 'promotion'] },    { name: 'Programming Education Poster', tags: ['education', 'programming', 'poster'] },    { name: 'Backend Management System Dashboard', tags: ['backend', 'management', 'system'] }];
// 创建Elasticsearch索引async function createIndex(indexName) {    // 省略创建索引代码}
// 索引模板数据到Elasticsearchasync function indexTemplates(indexName, templates) {    // 省略索引数据代码}
// 提取关键词async function extractKeywords(text) {    const result = await nlpManager.extractEntities(text);    const keywords = result.entities.map(entity => entity.option || entity.utteranceText);    return keywords;}
// 使用Elasticsearch进行搜索async function searchTemplates(indexName, keywords) {    const { body } = await client.search({        index: indexName,        body: {            query: {                bool: {                    should: [                        { match: { name: { query: keywords.join(' '), boost: 2 } } },                        { terms: { tags: keywords } }                    ]                }            }        }    });
    return body.hits.hits.map(hit => hit._source);}
// 主程序async function main() {    const indexName = 'templates';
    // 创建索引并索引数据    await createIndex(indexName);    await indexTemplates(indexName, templates);
    // 用户输入    const userInput = "I want to create a poster page for programming promotion";
    // 提取关键词    const keywords = await extractKeywords(userInput);
    // 执行搜索    const results = await searchTemplates(indexName, keywords);
    // 输出结果    console.log(results);}
main().catch(console.error);

使用开源大语言模型 ChatGLM-6B 进行页面生成

对于无法使用外网或预算有限的项目,我们可以考虑使用开源的大语言模型。本文选了 ChatGLM-6B[11] 开源模型来做演示。

安装

ChatGLM-6B 本地部署的教程网上有很多,由于我的电脑是 Windows,并且没有 N 卡,所以我参考了这篇文章手把手教你本地部署清华大学KEG的ChatGLM-6B模型[12]来部署 ChatGLM-6B。

这篇文章讲得很细致,按照流程走下来只出现了两个小问题,解决后就跑通了。这里也记录一下这两个问题及相应的解决办法。

TDM-GCC 编译错误

按照文章中的要求安装了 TDM-GCC 后发现编译 quantization_kernels_parallel.c 文件错误,卸载 TDM-GCC 后换了 MinGW-w64[13] 就好了,编译顺利通过。

执行 python 脚本偶尔没反应

这个问题排查了很久,经过不断的调试和重启,最后发现是系统资源不足(我的电脑 CPU 是 6800H,32G 内存,没有显卡)。在关掉无关程序后,只保留一个终端用于启动脚本后,就没有问题了。

使用

ChatGLM-6B 的相关代码已经上传到了 Github [14],大家可以把项目下载下来,然后按照仓库文档中的说明修改目录位置后,就可以执行 cli-demo.py 或者 web-demo.py 脚本和 ChatGLM-6B 进行交互了。下面的几张图片就是部署在我电脑上的 ChatGLM-6B 使用示例:

图片

图片

由于电脑配置不是特别好,ChatGLM-6B 在我电脑上运行起来比较慢,一个问题回答起来要花几分钟。像生成低代码页面的这个需求,就跑了十几分钟,最后程序直接崩了,只给我输出了一半的 JSON,不过数据结构是对的,所以换个好点的显卡后应该不是问题。

总结

其实,大语言模型不仅能和低代码领域配合使用,经过训练后的模型可以和任何领域结合,从而生成该领域的专门模型。例如 Figma、即时设计、MasterGo 这种设计工具,它们存储的也是一份 JSON 数据。所以理论上也可以通过对话来生成设计页面。

还有其他的类似于 AI 客服、催收机器人都可以通过这种方法训练出来。