newxiaoming

LocalAI 是一个用于本地推理的，与OpenAI API 规范兼容的REST API， 它允许使用消费级硬件在本地或本地运行模型，支持与ggml格式兼容的多个模型系列。支持CPU。

我在Ubuntu 20.04.2LTS测试过。下次再研究怎么把box压缩小。 本文以virtualbox 6.1.16 和 vagrant 2.2.10 为示例环境。 请注意，本文提到的命令，未在执行命令前加sudo或其他说明，均为 root 用户下操作。 在virtualbo…

踏过的坑 磁盘空间，不宜默认超过40GB，有可能出现vagrant构建的镜像没有vagrant这个用户。 前提 本人当前在fedora 37 上 打造vagrant box镜像，没在其他系统上测试过。