本文已参与「新人创作礼」活动,一起开启掘金创作之路。
从图中自动生成诗歌
作者:Tim Van de Cruys
摘要:
在过去的几年里,已经出现了许多成功的方法,能够充分模仿自然语言的各个方面。
尤其是,基于神经网络的语言模型在预测性语言建模方面已经改善了现有技术,而主题模型在捕获明确的语义维度方面取得了成功。
在本文中,我们探讨了如何对这些方法进行调整和组合,以对诗歌生成所需的语言和文学方面进行建模。 该系统仅接受标准的非诗歌文本训练,并且其输出受到限制,以便为生成的诗歌赋予诗歌特征。 该框架适用于英语和法语两种诗歌的生成,并且对两种语言均进行了评估。 即使它仅使用标准的非诗歌文本作为输入,该系统仍可产生诗歌生成的最新结果。
介绍
诗歌需要同时考虑语言和文学方面。 首先,诗歌生成系统需要正确地建模语言现象,例如句法结构良好和主题连贯性。 此外,系统需要合并与特定诗体相关的各种约束(例如形式和韵律)。 最后,该系统需要表现出一定的文学创造力,这使这首诗变得有趣并且值得一读。
- 在编码器-解码器配置中使用递归神经网络(RNN)
- 编码器首先通过顺序将句子的每个单词合并到固定大小的隐藏状态向量中来构造整个句子的表示
- 该解码器根据从输入句子的隐藏状态得出的概率分布,发出一系列单词。通过训练网络以当前句子作为输入来预测下一个句子,网络学习生成具有一定话语连贯性的纯文本。
- 通过修改解码器产生的概率分布,我们强制纳入诗意约束,从而可以利用网络来生成诗意诗句。
重要的是要注意,诗歌系统没有接受诗歌文本的训练。相反,该系统是在从网络中提取的标准,平淡无奇的文本语料库上进行训练的,而应用于网络的概率分布的约束条件将赋予生成的诗句以诗意的特征。