AI专栏 | Prompt Engineering [高效指令设计与LLM安全实践]
难度系数：★★☆☆☆
本章知识：
- Prompt: AI时代的“新编程语言”
- 什么是PromptEngineering
- PromptEngineering高能建议 [重点 ★★★★★]
- Prompt安全与LLM安全 [重点 ★★★★☆]
- 下一章预告: PromptEngineering高能建议实战对比
Prompt：AI时代的“新编程语言”
Prompt（提示词）是指你输入给大语言模型的文字，它用来引导 AI 理解你想要的答案或行为。
在AI时代，Prompt（提示词）正悄然演变为一种“新编程语言”。
区别于传统编程通过严谨的语法与逻辑指令驱使机器执行任务，Prompt是以自然语言为媒介，与大模型进行交互，它不再要求用户掌握复杂的代码结构，而是强调清晰表达、上下文构建与思维引导——这恰如一种面向人类直觉的“高阶语言”。
掌握Prompt，意味着掌握了与AI高效协作的钥匙，在这个AI高速发展的今天，Prompt不仅是工具，更是一种思维方式，一种连接人类意图与机器智能的通用接口。
什么是PromptEngineering
Prompt engineering is the process of writing effective instructions for a model, such that it consistently generates content that meets your requirements. [From OpenAI]
提示工程 是编写有效指令的过程，目的是让模型能够稳定地产生符合你要求的内容。译文
PromptEngineering高能建议
在AI应用开发过程中如何写Prompt让模型具备稳定且符合要求的输出呢，这里有一些高能建议：
-
把AI当人来看，以下这些建议就像是给AI下达任务时的“沟通技巧”。
-
提供单一的任务：就像你给别人交代一项任务时，如果目标明确、专注，别人会更容易完成得好。而不是一次性要求做很多事，导致分心，效率低下。
-
任务描述清晰且准确：想象你给别人一个任务时，如果语言模糊或者含糊不清，可能他会误解意思或花很多时间去猜。清晰的描述可以减少误解，提高执行效率。
-
给出适量参考样例：就像你向某人请教问题时，给出几个实例，他可以更好地理解你想要的结果。提供一些样例，AI也会更有方向性地做出回应。
-
正向描述任务信息：就像和别人交流时，积极的表达会带来更好的反响。负面描述容易引发误解或负面情绪（即便是对于AI来说）。正面描述会帮助它更好地聚焦目标。
-
不要提供过长的prompt：长篇大论的指令，就像给别人一个大段复杂的说明，可能反而让人迷失在细节中。简洁明了能让AI理解得更清楚。
-
根据任务类型切换任务角色：想象你问某个朋友问题时，有时你希望他作为技术专家，有时希望他作为顾问。给AI也一样，明确任务角色有助于其发挥更大的优势。
-
A/B测试迭代找到最佳的prompt：就像你和别人交流时，可能会尝试不同的说法，看哪种最能引起共鸣。不断地测试和调整，帮助你找到最适合的方式与AI沟通。
后续章节介绍思维链、思维树、自洽性等进阶技巧。
Prompt安全与LLM安全
AI应用开发，只关注业务效果也不行，就如互联网时代只关注程序的三高也不行，web安全同等重要，现代随着大模型（LLM）的广泛应用，AI安全同样成为不可忽视的问题。通过精心设计的Prompt攻击，攻击者可以引导模型生成有害或违规内容，对企业、平台甚至个人用户带来威胁。
Prompt攻击方式
- Prompt越狱：攻击者通过精心设计的提示词(prompt)，诱导大模型（LLM）绕过开发者设置的安全护栏，输出原本被禁止的内容（如制造炸弹的教程、仇恨言论、色情内容等），比如著名的“奶奶漏洞”输出了office密钥。
- Prompt注入：攻击者通过输入恶意数据，覆盖或劫持模型的系统提示词（System Prompt），使模型忽略原有的设定，转而执行攻击者提供的指令。这类似于传统网络安全中的 SQL 注入。
LLM安全领域
- Prompt攻击检测: 检测针对大模型设计的提示词操控，避免模型输出恶意内容或威胁系统安全。
- 内容合规: 检测应用大模型时可能会出现的政治敏感、暴恐、宗教、广告、不良等违规信息，避免引发法律和品牌风险。
- 敏感信息检测: 检测应用大模型时可能会出现的个人/企业敏感信息，避免数据泄露。
防范措施
- 不考虑效率、不考虑成本、不考虑时间做法：自定义AI安全检测Agent可实现简单的AI安全防护。
- 企业级做法：引入AI安全围栏相关产品，比如网易易盾、阿里云AI安全护栏等。
下一章预告
下一章节将通过实操进行PromptEngineering高能建议的实践。
关注本专栏，让我们一起掌握方法、实践落地、共同发展。
