xioshark

从零设计 DAG 编排引擎：6 种步骤类型的架构决策 做 Agent 项目越久，越发现一个扎心的事实： "能调模型"和"能做成系统"，中间隔了十万八千里。 调模型不过是 p...

从零实现 C++ LLM 推理引擎：加载 Qwen2.5-7B 并跑通单层 Forward Pass 为什么要自己写？ 用 vLLM、SGLang 跑推理确实方便，但面试时...