使用FastText API分析亚马逊产品评论情绪的分步教程

本博客提供了详细的分步教程，以便使用FastText进行文本分类。为此，我们选择在Amazon.com上对客户评论进行情绪分析，并详细说明如何抓取特定产品的评论以便对他们进行情绪分析。

什么是FastText？

文本分类已成为商业世界的重要组成部分; 是否用于垃圾邮件过滤或分析电子商务网站的推特客户评论的情绪，这可能是最普遍的例子。

FastText是由Facebook AI Research（FAIR）开发的开源库，专门用于简化文本分类。FastText能够在几十分钟内通过多核CPU在数百万个示例文本数据上进行训练，并使用训练模型在不到五分钟的时间内对超过300,000个类别中的未出现的文本进行预测。

预先标注的训练数据集：

收集了从Kaggle.com获得的包含数百万条亚马逊评论的手动注释数据集，并在转换为FastText格式后用于训练模型。

FastText的数据格式如下：

__label__<X> __label__<Y> ... <Text>

其中X和Y代表类标签。

在我们使用的数据集中，我们将评论标题添加到评论之前，用“:”和空格分隔。

下面给出了训练数据文件中的示例，可以在Kaggle.com网站上找到用于训练和测试模型的数据集。

__label__2 Great CD: My lovely Pat has one of the GREAT voices of her generation. I have listened to this CD for YEARS and I still LOVE IT. When I'm in a good mood it makes me feel better. A bad mood just evaporates like sugar in the rain. This CD just oozes LIFE. Vocals are jusat STUUNNING and lyrics just kill. One of life's hidden gems. This is a desert isle CD in my book. Why she never made it big is just beyond me. Everytime I play this, no matter black, white, young, old, male, female EVERYBODY says one thing "Who was that singing ?"

在这里，我们只有两个类1和2，其中__label__1表示评论者为产品打1或2星，而__label__2表示4或5星评级。

训练FastText进行文本分类：

预处理和清洗数据：

在规范化文本案例并删除不需要的字符后，执行以下命令以生成预处理和清洗的训练数据文件。

cat <path to training file> | sed -e “s/\([.\!?,’/()]\)/ \1 /g” | tr “[:upper:]” “[:lower:]” > <path to pre-processed output file>

设置FastText：

让我们从下载最新版本开始：

$ git clone https://github.com/facebookresearch/fastText.git 
$ cd fastText 
$ make

不带任何参数运行二进制文件将打印高级文档，显示fastText支持的不同用例：

>> ./fasttext
usage: fasttext <command> <args>
The commands supported by fasttext are:
  supervised              train a supervised classifier
  quantize                quantize a model to reduce the memory usage
  test                    evaluate a supervised classifier
  predict                 predict most likely labels
  predict-prob            predict most likely labels with probabilities
  skipgram                train a skipgram model
  cbow                    train a cbow model
  print-word-vectors      print word vectors given a trained model
  print-sentence-vectors  print sentence vectors given a trained model
  nn                      query for nearest neighbors
  analogies               query for analogies

在本教程中，我们主要使用了supervised，test和predict子命令，对应于学习（和使用）的文本分类。

训练模型：

以下命令用于训练文本分类模型：

./fasttext supervised -input <path to pre-processed training file> -output <path to save model> -label __label__

该-input命令行选项指的是训练文件，而-output选项指的是该模型要保存的位置。训练完成后，将在给定位置创建包含训练分类器的文件model.bin。

用于改进模型的可选参数：

增加训练迭代次数：

默认情况下，模型在每个示例上迭代5次，为了更好的训练增加此参数，我们可以指定-epoch参数。

示例：

./fasttext supervised -input <path to pre-processed training file> -output <path to save model> -label __label__ -epoch 50

指定学习率：

改变学习率意味着改变我们模型的学习速度，是增加（或降低）算法的学习率。这对应于处理每个示例后模型更改的程度。学习率为0意味着模型根本不会改变，因此不会学到任何东西。良好的学习率值在该范围内0.1 - 1.0。

lr的默认值为0.1。这里是如何指定此参数。

./fasttext supervised -input <path to pre-processed training file> -output <path to save model> -label __label__ -lr 0.5

使用n-gram作为特征：

对于依赖于词序，特别是情感分析的问题，这是一个有用的步骤。它是指定连续token在n的窗口内的词都作为特征来训练。

我们指定-wordNgrams参数（理想情况下，值介于2到5之间）：

./fasttext supervised -input <path to pre-processed training file> -output <path to save model> -label __label__ -wordNgrams 3

测试和评估模型：

以下命令用于在预先注释的测试数据集上测试模型，并将原始标签与每个评论的预测标签进行比较，并以准确率和召回率的形式生成评估分数。

精度是fastText预测的标签中正确标签的数量。召回是成功预测的标签数量。

./fasttext test <path to model> <path to test file> k

其中参数k表示模型用于预测每个评论的前k个标签。

在400000评论的测试数据上评估我们训练的模型所获得的结果如下。如所观察到的，精确度，召回率为91％，并且模型在很短的时间内得到训练。

N 400000
P@1 0.913
R@1 0.913
Number of examples: 400000

分析在Amazon.com上产品的实时客户评价的情绪：

抓取亚马逊客户评论：

我们使用现有的python库来从页面中抓取评论。

要安装，请在命令提示符/终端中键入：

pip install amazon-review-scraper

以下是给定网址网页的示例代码，用于抓取特定产品的评论：

from amazon_review_scraper import amazon_review_scraper
 
url = input("Enter URL: ")
 
start_page = input("Enter Start Page: ")
 
end_page = input("Enter End Page: ")
 
time_upper_limit = input("Enter upper limit of time range (Example: Entering the value 5 would mean the program will wait anywhere from 0 to 5 seconds before scraping a page. If you don't want the program to wait, enter 0): ")
 
file_name = "amazon_product_review"
 
scraper = amazon_review_scraper.amazon_review_scraper(url, start_page, end_page, time_upper_limit)
 
scraper.scrape()
 
scraper.write_csv(file_name)

注意：在输入特定产品的客户审核页面的URL时，请确保附加＆pageNumber = 1（如果它不存在），以使scraper正常运行。

上面的代码从给定的URL中抓取了评论，并按以下格式创建了输出csv文件：

从上面的csv文件中，我们提取标题和正文并将它们一起追加到一起，用训练文件中的'：和空格分隔，并将它们存储在一个单独的txt文件中以预测情绪。

数据的情绪预测：

./fasttext predict <path to model> <path to test file> k > <path to prediction file>

其中k表示模型将预测每个评论的前k个标签。

上述评论预测的标签如下：

__label__2
__label__1
__label__2
__label__2
__label__2
__label__2
__label__2
__label__2
__label__1
__label__2
__label__2

这是相当准确的，可手动验证。预测文件随后可用于进一步的详细分析和可视化目的。

因此，在本博客中，我们学习了使用FastText API进行文本分类，抓取给定产品的亚马逊客户评论，并使用经过培训的分析模型预测他们的情绪。

点击英文原文链接

更多文章欢迎访问: http://www.apexyun.com

公众号:银河系1号

联系邮箱：public@space-explore.com

(未经同意，请勿转载)