三、 模型的局限性与应对策略
- 虚假知识（Hallucination，幻觉）：这是大语言模型（LLM）的一个主要缺陷。模型有时会生成表面上看起来合理、逻辑通顺，但实际上与事实不符或完全编造的内容。
- 影响：幻觉问题直接关系到基于LLM构建的应用程序的可靠性与安全性，是开发者需要重点关注和解决的问题。
- 应对策略：开发者可以通过精心设计的提示工程（Prompt Engineering） 来显著减少幻觉现象的发生。具体方法可参考下文（第四部分）的提示原则。
四、 英文原版提示工程原则（总结）
以下是根据英文资料整理的、用于指导编写高质量Prompt的六项核心原则，它们与前述的"清晰具体"和"给予思考时间"两大法则一脉相承，并提供了更具体的操作指南。
-
使用分隔符清晰地表示输入的不同部分：使用三引号、XML标签、或其他特殊符号（如
<>,{}）将指令、上下文或待处理文本清楚地区分开，以避免模型混淆。 -
寻求结构化的输出：明确要求模型以特定格式返回结果，例如
JSON,HTML表格或列表。这有助于程序自动解析和处理模型的输出。 -
要求模型检查是否满足条件：在指令中加入条件判断逻辑，让模型在执行任务前，先检查输入是否满足预设的前提条件。若不满足，则要求其明确指出。
-
提供少量示例（Few-shot Prompting）：在Prompt中给出几个（通常是2-3个）完整的输入-输出示例，让模型"学习"你期望的回复格式、风格或逻辑推理路径，然后再处理新的请求。
-
指定完成任务所需的步骤：将一个复杂任务分解为一系列明确的、循序渐进的子任务，并要求模型按此步骤进行推理和回答。这能有效提高模型处理复杂逻辑的准确性。
-
指导模型在给出结论前先自己思考：这是"给予充足思考时间"的具体实践。对于需要判断或比较的任务，先要求模型独立推导出问题的解法或答案，然后再将其与待评估的结论进行比较，而不是直接让模型判断结论的对错（可参考"链式思考"，即Chain-of-Thought提示技巧）。
核心要点回顾：
- 幻觉是LLM的重大挑战，但可通过优化Prompt来缓解。
- 六大英文Prompt原则是实践"清晰指令"和"充足思考"的具体方法，应灵活运用于开发中。
