prompt engineering VS context engineering

• 考察大模型 怎么思考 和 怎么获取信息 的理解

- prompt engineering ：how to think，是在教方法，找逻辑

-   通过指令优化，激发模型参数中已有的知识

-   coT思维链

<!---->

-   few-shot 样本示范

- context engineering ：what to know，是在搞定信息流

-   通过信息流管理，将精准的外部信息注入窗口

<!---->

-   RAG检索增强

<!---->

-   窗口压缩/记忆

- 坑点（诊断环节）

- prompt稳定性问题

    -   症状：对措辞极度敏感，输出不稳定

    <!---->

    -   解决：自动化优化（DSPy）将prompt视为可编译参数，用代码自动搜索最佳指令

    <!---->

    -   症状：复杂推理跳步骤，产生幻觉

    <!---->

    -   解决：coT思维链 + self-consistency 强制逐步思考，并进行多次推理投票优选

<!---->

- context质量问题

    -   症状：lost in the middle（中间信息丢失）

    <!---->

    -   解决：re-ranking（重排策略）把检索到的信息重排至prompt的开头或结尾

    <!---->

    -   症状：上下文噪音太多，误导模型

    <!---->

    -   解决：self-refine（自反思清洗）让模型先判断检索内容是否有效，剔除后再回答

- agent：动态调整prompt + 自动管理context