韩师傅

12GB续篇：正则换台、锚点余弦skip、轻门禁三信号定序少跑完整门禁；skip与rerank分域；LangGraph trace；双QLoRA+llama.cpp CPU。

数学是复杂、也难一眼读懂的；它常常显得冰冷，却更是一代代人把世界规律写进符号里的记录。那它离我们究竟多近、又多远？正是这些符号与结构，帮助我们探索到了更高维度的存在，并把它拉到了我们的身边。

模型与二进制（先设变量再开终端） 在 每个 要启动进程的终端里，先设好（按你本机只改这一组）： 用途 说明 对话 4B（GPU） 如 Qwen3 4B 系、Q4_K_M 档 GGUF 向量（CPU）

链外压：0/1/2、LI后处理、非全库RAG；API便宜Mac可试。四篇一收。先贷。后读论文QLoRA、旅Agent。

12G应用层：LC薄封LG、捞上下文门禁时窗、重排前剔人；llama对vLLM简比。8k本实验非定稿。下篇链外语义压。

12G本机实验：向量重排与8k，bge+rerank、llama三服务分GPU/CPU。环境累可云API。下篇捞上下文。

4bit不混淆：INT4系偏训练与vLLM部署，Q4系是GGUF本机；硬件×工具表，不背公式。下一篇12G本机实验。

12GB：INT4+vllm双LoRA切换；max-model-len必写、避vllm._C目录；OpenAI兼容接口。

12GB上QLoRA/SFT：数据与预期、cu128、快照与GPU自检；加载到首步易OOM，先dry run。推理下篇。