平台基于大语言模型构建的应用想要进行快速展示，相比自行搭建云服务器环境，使用一个成熟的 PaaS 平台，辅以集成的开发工具，不仅降低部署难度，也让 LLM 应用的开发者脱离底层细节，更能把精力放在创新应用上，加速从原型到上线的过程。本文将探讨几个带有免费计划的 PaaS 平台及其优缺点，为 LLM 应用开发者提供一份参考。
更多硬核内容可以移步 LLM应用全栈开发
LLM应用全栈开发
不同 PaaS 比较
Fly.io
定价 | 免费 Postgres 计划 | 部署文档
-
最多 3 个共享式 CPU-1x 256MB 内存的虚拟机
-
免费 Postgres
-
单节点,3GB 卷(单数据库)
-
2 个 1GB 卷(两个区域中的数据库,或同一区域的主从数据库)
-
3 个 1GB 卷(三个区域的数据库)
-
Railway
-
首月:$5 或 500 小时的使用,不需要信用卡
-
要获取每月$5 的免费额度 - 需要信用卡并需要验证:
-
非常活跃的 GitHub 账户
-
Railway 上的主动使用
-
没有检测到垃圾或滥用行为
-
-
提供 Postgres、Redis、MongoDB、MySQL
-
免费层无法全天候运行应用,因为每个月仅提供 500 小时的使用
-
如果达到信用限额或执行时间限额,项目部署文档将会停止
-
需要在新的每月信用额度应用后重新部署文档项目
Zeabur（国内团队做的）
-
提供 Postgres、Redis、MongoDB、MySQL 等数据库
-
应该使用约 20% CPU 和 100MB 内存来全天候运行免费层应用
-
每月包含 5 美元免费额度
-
应用不必睡眠、唤醒、启动或回收。所有前端和后端随时准备就绪,立即可用
-
可以从预构建服务和模板进行部署文档
Render
-
免费 Redis:25MB 内存,50 个连接,无持久化
-
每个应用免费 DDOS 保护,使用 Cloudflare
-
免费网络服务不支持持久化磁盘
-
免费网络服务可以随时重启
-
免费网络服务每个月可用 400 小时免费构建时间,与静态站点共享
Glitch
-
应用请求限制为每小时 4000 次(超过的请求将返回 429 “Too Many Requests” 响应)。
-
应用磁盘空间限制为容器内 200MB，应用的
/tmp目录目前不计入总量。 -
默认情况下,node.js 模块不计入总量，node 模块有单独的 1GB 限制。
-
另有 512MB 的资产存储空间。
-
单次上传的最大文件大小限制为 256MB。
Adaptable
-
每个应用包含免费托管的 Postgres 或 MongoDB。
-
网络服务不支持持久化磁盘。应用可以写入本地磁盘,但更新时文件会丢失。
-
网络服务无法执行后台任务(仅 HTTP 请求处理)。应用不处理网络请求时 CPU 分配为零。
-
网络服务可以随时重启。
-
滥用应用可能会被暂停。
Cyclic
-
不支持 Websocket。
-
没有服务器,没有容器,没有镜像,没有小时数可计算。每个应用完全部署文档在无服务器云基础设施上。
-
应用不必睡眠、唤醒、启动或回收。所有前端和后端随时准备就绪,立即可用。
-
存储
-
1GB AWS S3 对象存储
-
1GB AWS DynamoDB NoSQL 数据库
-
512MB 临时磁盘空间,挂载在 /tmp。数据在调用之间会持久化,但不能保证后续调用会使用相同实例,因此不能依赖它来存储持久数据。
-
-
不支持流式请求或响应
-
稳定状态每秒 5 个 API 请求(免费层)
-
突发每秒 10 个 API 请求(免费层)
结语
这里没有将 Cloudflare Workers 和 AirCode（国内团队做的）以及 Vercel 算进去，它们和最后的 Cyclic 一样，主要侧重于Fullstack Javascript Apps - Deploy and Host in Seconds，对非 Nodejs 的后端同学参考意义不大，主要思路都是 Edge Network + Serverless Functions（函数代码在轻量级的 V8 沙盒中执行），感兴趣可以自行探索，各自都有免费计划。
