为什么不要让LLM帮我们写文档

25 阅读3分钟

这篇文章是今天看到的,觉得还不错,翻译一下。

当我们在写文档或文章时,实际上是在提出问题并回答它。例如,一份产品需求文档(PRD)回答的是“我们要干嘛?”;一份技术规范(Tech Spec)回答的是“我们要怎么做?”。有时,问题本身更难回答——“我们究竟想要达到什么目标?”而每一次尝试回答,其实都是在反思自己是否问对了问题。

但现在,我们有了大语言模型(LLM),由 LLM 生成的文档、文章越来越多,我们需要注意这其中可能有一定的风险:每一份由 LLM 生成的文档,可能都会让我们错失一次思考或者是建立合作信任的机会。

一、让 LLM 替我们写作,就像付费健身

写作的目标不是“写完”,而是“增进理解”——首先是对自己的理解,其次是对周围环境的理解。当我们被委派去写东西时,我们的任务是深入迷雾,去征服未知,带着清晰的结构和洞察走出来。

写作的另一个目标可能是让自己变得更强。这就像健身:每一次对自我极限的挑战,都会促进力量的增长,过程是痛苦且费力的,但是我们能得到正反馈。相反,让 LLM 替我们写作,就像付费健身,虽然很舒适,却无法提升自己的能力(认知或者是写作)。

二、LLM 生成的文字不仅破坏了表达的真实性,也破坏了背后思考的真实性

LLM 生成的文档,还会对我们的公信力产生一定的影响。当我发给别人一份带着明显“AI 味”的文档时,只是在证明 LLM 产出了一些接近他人想听的内容,而不能证明我深入思考过这些东西,这明显不是我的思考产物。

当与别人就这份文档内容进行交流时,我们可能不知所云,这在一定程度上会降低别人对我们的信任,更有甚者,可能因为这份信任的丧失,我们会失去一次机会。

LLM 生成的文字不仅破坏了表达的真实性,也破坏了背后思考的真实性。如果文字是自动生成的,那么观点是否也是自动生成的呢?

三、LLM 在写作过程中的正确用途

LLM 在调研和检查工作时非常有用,它们很擅长快速记录信息或转录文本。

它们尤其擅长生成创意,在这个场景下,它们表现卓越,因为即使生成了 10 个点子而只有一个有用,也无伤大雅。我们可以取其精华,去其糟粕。

因此,可以说,大模型能提高软件交付的效率,但为了最大限度地利用它们,我们必须同时提升我们的思想深度。

参考文献:

alexhwoods.com/dont-let-ai…