chloe_zzz

前言 大家好我是Jahzo，上一篇我们已经完成了部署，但是ollama的命令行页面调用对我们来说必然是不方便也不美观的，因此在学习过程中偶然遇见了anythingllm这个框架，以下是使用实况的记录

上一篇我们完成了模型的微调和导出，为了在本地也能随时使用，因此我们还需要对微调后的模型文件做一些操作 llama.cpp本地编译构建+ollama部署~

前言 在unsloth莫名报错之后，转身投向了国产微调工具的怀抱 llamafactory----消费级显卡用户的大模型微调福音

llamafactory详细使用实况，参数设置参考，谨以此文记录踩坑实况，一则日后温习，二则指路旁人