如何利用1%的数据优化特定领域LLM预训练？ | EMNLP'24

来源：晓飞的算法工程笔记 公众号，转载请注明出处

论文: Target-Aware Language Modeling via Granular Data Sampling

• 论文地址：arxiv.org/abs/2409.14…

创新点

---

• 提出了一种将预先训练好的标记符与多粒度标记符合并的算法，生成高效的n-gram特征，而且与下游任务的性能有很高的相关性。
• 利用上述研究成果，改进了基于重要性的数据采样技术，将通用词汇集调整为目标词汇集。这样就能更好地代表数据，提高模型在目标任务中的性能，同时在非目标任务中保持良好的性能。

内容概述

---

语言模型的预训练通常针对广泛的使用场景，并结合来自多种来源的数据。然而，有时模型需要在特定领域中表现良好，同时又不影响其他领域的性能。这就需要使用数据选择方法来确定潜在核心数据，以及如何有效地对这些选定数据进行抽样训练。

论文使用由多粒度标记组成的n-gram特征进行重要性抽样，这在句子压缩和表征能力之间取得了良好的平衡。抽样得到的数据与目标下游任务性能之间有很高的相关性，同时保留了其在其他任务上的有效性，使得语言模型可以在选定文档上更高效地进行预训练。

在八个基准测试中，在使用约1%的数据时，预训练模型的表现与完整的RefinedWeb数据相当，并且在模型规模范围为125M到1.5B时，超越了随机选择的样本。

方法

---

从大规模数据集（如RefinedWeb）中选择样本是缓慢且昂贵的，一个可行的解决方案是使用容易计算的n-gram特征将每个文档编码为向量。

假设从目标分布 $p$ 中获取了一小部分目标文本示例 $D_{task}$ ，以及从分布 $q$ 中获取的大量原始数据集 $D_{raw}$ ，其中包含 $N$ 个示例，目标是从原始数据集中选择 $k$ 个示例（ $k \ll N$ ），这些示例与目标相似。

重要性采样

重要性采样技术选择与目标分布对齐的示例，为每个文本提供可处理的重要性估计，并在提供必要结构的特征空间 ${\mathbb{Z}}$ 上应用重要性采样。

特征提取器 $h: {\mathbb{X}} \rightarrow {\mathbb{Z}}$ 用于转换输入为特征，得到的原始特征分布 $q_{\text{feat}}$ 和目标特征分布 $p_{\text{feat}}$ ，目标是选择特征与目标特征分布 $p_{\text{feat}}$ 对齐的数据。

为了提取特征 $q_{\text{feat}}$ 和 $p_{\text{feat}}$，从每个分词文档中提取n-grams。每个n-gram被映射到哈希表中的一个键，每个键映射到n-gram计数。将从 $N$ 个原始示例中获得的每个特征 $z_i = h(x_i)$ 计算重要性权重，权重为 $w_i = \frac{\hat{p}_{\text{feat}}(z_i)}{\hat{q}_{\text{feat}}(z_i)}$ 。

最后进行采样，从一个分布中选择 $k$ 个示例，且不进行替换，其概率由 $\frac{w_i}{\sum_{i=1}^N w_i}$ 给出。

分词器适配

为了推导目标词汇 $V(t)$ ，使用Llama-3分词器的词汇 $V_{start}$ 作为起点，并将 $V_{start}$ 与从任务数据 $D_{task}$ 中学习到的 $V_{task}$ 合并。在构建 $V_{task}$ 时，确保包含多粒度的标记（即单词和多词组合），然后将 $V_{task}$ 与 $V_{start}$ 合并形成 $v(t - 1)$ 。

接下来，逐步从 $v(t - 1)$ 中移除标记，以获得 $v(t)$ ，在此过程中，最小化与原始词汇集的距离，以便提取更少偏倚的文档特征作为n-gram向量。

首先定义一个度量来衡量语料库中词汇集的质量，然后通过最大化词汇效用度量 ( $\mathcal{H}_{v}$ ) 来学习最佳词汇，该度量的计算公式为：

其中， $P(j)$ 是来自目标数据的标记 $j$ 的相对频率，而 $l_{v}$ 是词汇 $v$ 中标记的平均长度。对于任何词汇，其熵得分 $\mathcal{H}_{v}$ 基于其前一步的词汇进行计算，优化问题可以表述为：

其中， $v(t)$ 和 $v(t - 1)$ 是包含所有词汇的两个集合，大小的上限分别为 $|v(t)|$ 和 $|v(t - 1)|$ 。设置 $|v(t)| = 10k$ ，其中 $t=10$ ，而 $|v(0)|$ 是默认的Llama-3 tokenizer的词汇大小。

主要实验

---

     

如果本文对你有帮助，麻烦点个赞或在看呗～
更多内容请关注 微信公众号【晓飞的算法工程笔记】