- 作者:陈大鱼头
- github:github.com/KRISACHAN
- 邮箱:chenjinwen77@gmail.com
- PromptPilot 独立站地址:promptpilot.volcengine.com/
前言
说来也巧,在上个月发过一篇《PromptPilot — AI 自动化任务的下一个环节》,结果这个月13号就被邀请参加 PromptPilot 的产品发布会了。
会议地址:北京美克洞学馆
既然这样,那就整一篇小作文来做个纪念吧!
这次发布会的主要是通过产品讲解、实操体验与真实案例分享,全面展示 PromptPilot 如何系统化解决大模型应用落地中的关键挑战。
整个会议分上下两个半场。
上半场主要是由三位讲师在分享相关的 PPT;下半场则是产品实操与问题反馈。
为什么需要 Prompt 方向的应用?
其实在参会之前我有思考过这个问题:“为什么需要 Prompt 方向的应用?”
然后从这个问题又延伸出了另一个问题,就是:“2025 年的今天还需要考虑 Prompt 工程吗?”
我想了一下其实还是需要的。
说实话,作为一名开发者,在我日常工作中我已经重度依赖 AI 来辅助我完成需求了。
尤其在编程领域上,AI 大模型确实也很好地辅助我完成任务。
但是在每次做任务的时候都会面临以下的问题:
- 如何清晰地把我的需求跟目标告诉 AI?
- 如果让 AI 在合理的边界内完成需求?
- 如何有效把控 AI 可以理解的上下文?
如果我的需求跟目标不清晰,那么 AI 大模型也没办法理解我要做什么;如果我不制定边界,现阶段的 AI 大模型很容易就会天马行空一顿乱整;如果我没有告诉 AI 大模型完整的上下文,那么 AI 大模型输出的结果也很容易是漏洞百出的。
当然这些问题不仅仅是在编程领域,在任何日常的电脑任务中,如果要使用 AI 大模型,都是要思考的问题。
所以虽然现在大家都不提 Prompt 工程,但它仍是我们跟 AI 大模型交互中绕不过的课题。
所以我认为作为 Prompt 应用,就必须要解决这些问题。
最好就是哪怕是一个新人上手,也能很好地引导他输出一个合理靠谱的 Prompt。当然 Prompt 不是重点,重点是利用 Prompt 来跟 AI 大模型交互解决需要解决的问题。
通过《PromptPilot — AI 自动化任务的下一个环节》一文中的尝试,我认为 PromptPilot 应该是可以解决这些问题,只不过我还是想看看研发团队对它的定义是什么,能做到什么程度?毕竟之前只是使用,并且在使用中作总结,这不一定就是这个产品背后的本意,也许他们有更深的考量。
会议总结
第一场 PPT 演讲就是由火山引擎 PromptPilot 技术负责人许伟进行的。
他主要是对 PromptPilot 这个产品本身进行分享。
他指出这个阶段的 AI 大模型重点就是应用的落地,但是在落地的过程中也面临了以下的挑战:
- 清晰表达需求
- 模型能力边界
- 上下文动态适应
嗯,跟我在上面提的是一致的。
果然是上过班的。。在职场上班,每次进行年度晋升答辩的时候,对过往成果梳理的准备也绕不过这些关键点。
其实简单来说就是对一个问题要有清晰的 What, Why, How 的认知。
但要完成这一点是不容易的,如果人没办法很好地输出这三点给 AI 大模型,那么它也很难出色地完成我们的需求。
那么针对这些挑战,PromptPilot 是怎么做的呢?我们看下图:
简单来说就是从用户输出最初的意图开始到生成一个完整的 Prompt:
然后就是根据 Prompt 进行单个到多个 case 的调试并且打分:
最后再进行精调并输出最终的结果:
如果不满意的话,可以重新再执行,直到满意为止。这个时候模型也会进行微调,Badcase 也会进行收录。
不仅如此,PromptPilot 还支持知识库的导入。
这个功能还是很重要的,能避免很多冗余的输入,简直就是专为打工人而生。
上述场景是一个视觉场景,从结果来看,PromptPilot 处理得还是很不错的。毕竟它的调优不仅可以直接跟视觉相关联,还支持多轮对话。
甚至是 Function call(即让 AI 调用工具实现特定功能)
跟多模型兼容(即可以让你使用不同品牌的 AI 大模型)支持,与其他仅支持单一模型的工具相比,PromptPilot 的跨模型适配能降低用户切换成本。
这点 Promptpilot 还是很大方的,没有非要绑定自己的产品,这就是 AI 时代的 “Write once, run anywhere”。
此外,PromptPilot 支持 SDK 调用,开发者可快速集成任务管理、数据反馈、Prompt 优化等核心功能。(可访问 www.volcengine.com/docs/82379/… 了解详情)
上面四个模块就可以理解为 SDK 流程图的关键环节。
在会议的下半场也开放了实操环节,整体流程跟在《PromptPilot — AI 自动化任务的下一个环节》中提到的无异,有自动化的流程,也有手动化的流程。
因为整体操作流程跟之前的文章一样,文章上面部分也有简单的总结,这里就不赘述了。
不过要提的一点是,每个环节都有留给人手操作的空间,因此在实操的过程中是会发现有很多可以让用户操作的地方的,这跟许伟说希望把能力交给专家这一点是一致的。
此外,本次会议也有造梦次元的成员对于 Promptpilot 实际使用的心得与成果分享,按 PPT 的总结,成果(如下图)还是很饱满的。
后记
会议结束之后,我才恍然大悟,原来 Promptpilot 不仅仅是要做 Prompt 工程那么简单,而是要做一个人与大模型之间的适配器,让人们在这个 AI 应用快速落地的时代能够更好地驾驭这些 AI 应用。