AI 笔记

生成式 AI 服务针对输入和输出有不同的收费规则，输入就是你给大模型提的问题，输出就是大模型给你的回答。 这两者在推理里的成本结构差异很大：输入是一次性并行处理，而输出是自回归逐 token 生成，每