[深度学习工具]·音频特征提取pyAudioAnalysis工具包

1,300 阅读4分钟

作者:桂。

时间:2017-05-04  18:31:09

链接:www.cnblogs.com/xingshansi/… 


前言

语音识别等应用离不开音频特征的提取,最近在看音频特征提取的内容,用到一个python下的工具包——pyAudioAnalysis: An Open-Source Python Library for Audio Signal Analysis,该工具包的说明文档可以点击这里下载,对应的github链接点击这里

这个工具包原说明文档支持的是Linux安装,且不能与python3很好地兼容,注意啦

一、常用工具包简介

目前针对音频信号,C/C++ 、Python、MATLAB等常用的工具包有:

二、pyAudioAnalysis工具包简介

pyAudioAnalysis是一个音频处理工具包,主要功能如图:

其中Feature Extraction包括(顺序有先后):

补充说明一下:

  • 1-Zero Crossing Rate:短时平均过零率,即每帧信号内,信号过零点的次数,体现的是频率特性

  • 2-Energy:短时能量,即每帧信号的平方和,体现的是信号能量的强弱

  • 3-Entropy of Energy:能量熵,跟频谱的谱熵(Spectral Entropy)有点类似,不过它描述的是信号的时域分布情况,体现的是连续性

  • 4-Spectral Centroid:频谱中心又称为频谱一阶距,频谱中心的值越小,表明越多的频谱能量集中在低频范围内,如:voice与music相比,通常spectral centroid较低

  • 5-Spectral Spread:频谱延展度,又称为频谱二阶中心矩,它描述了信号在频谱中心周围的分布状况

  • 6-Spectral Entropy:谱熵,根据熵的特性可以知道,分布越均匀,熵越大,能量熵反应了每一帧信号的均匀程度,如说话人频谱由于共振峰存在显得不均匀,而白噪声的频谱就更加均匀,借此进行VAD便是应用之一

  • 7-Spectral Flux:频谱通量,描述的是相邻帧频谱的变化情况

    12345678function [vsf] ``= FeatureSpectralFlux (X, f_s)     ``% difference spectrum (``set first diff to zero)``    ``afDeltaX    ``= diff([X(:,``1``), X],``1``,``2``);``         ``% flux``    ``vsf         ``= sqrt(``sum``(afDeltaX.^``2``))``/``size(X,``1``);``end
  • 8-Spectral Rolloff:频谱滚降点,给出定义:

  • 9~21-MFCCs:就是大名鼎鼎的梅尔倒谱系数,这个网上资料非常多,也是非常重要的音频特征。
  • 22~33-Chroma Vector:这个有12个参数,对应就是12级音阶,还是看原文解释:A 12-element representation of the spectral energy where the bins represent the 12 equal-tempered pitch classes of western-type music (semitone spacing).
  • 34-Chroma Deviation:这个就是Chroma Vector的标准方差。

这个在音乐声里可能用的比较多,目前没有接触这类特征:

什么是Chroma特征呢?给出一个示意图

code示例:

1234567from pyAudioAnalysis ``import audioBasicIO``from pyAudioAnalysis ``import audioFeatureExtraction``import matplotlib.pyplot as plt``[Fs, x] ``= audioBasicIO.readAudioFile(``"sample.wav"``);``F ``= audioFeatureExtraction.stFeatureExtraction(x, Fs, ``0.050``*``Fs, ``0.025``*``Fs);``plt.subplot(``2``,``1``,``1``); plt.plot(F[``0``,:]); plt.xlabel(``'Frame no'``); plt.ylabel(``'ZCR'``);``plt.subplot(``2``,``1``,``2``); plt.plot(F[``1``,:]); plt.xlabel(``'Frame no'``); plt.ylabel(``'Energy'``); plt.show()

  如果希望了解更多的音频特征,这里给出一个链接,点击这里,包含的特征有:

对应都有graph、sound可以点击,sound是对应的音频,graph对应的是特征的效果图,比如打开zeroCross:

三、pyAudioAnalysis工具包安装

pyAudioAnalysis对应链接点击这里。安装这个工具包需要依赖:

A-hmmlearn安装

hmmlearn的链接点击这里。安装hmmlearn有几个前提:

下载之后,我把hmmlearn-master放在python-3.5.2-0\Lib\目录,cmd窗口下cd进去,输入:

1pip install ``-``U ``-``-``user hmmlearn

  即可安装成功:

B-Simplejson工具包安装:

Simplejson是Python的JSON编码和解码器,它具有简单、快速、完整、正确和易于扩展的特点,对应的链接点击这里。Simplejson工具包直接conda安装即可:

C-eyed3安装:

eyed3:A tool for working with audio files, specifically MP3 files containing ID3 metadata. 它提供了读写 ID3 标签(v1.x 和 v2.3/v2.4)的功能。同时可检测 MP3 文件的头信息,包括比特率、采样频率和播放时间等。eyed3直接conda install没有成功,对应的链接点击这里。选择了这个版本:

 

放在了python库的Lib文件夹下:C:\Users\Nobleding\Anaconda3\pkgs\python-3.5.2-0\Lib,cd到对应目录下,pip install 文件名.whl,即可完成安装

D-pydub安装:

pydub是音频处理常用的工具包,例如:

打开一个wav格式文件:

12from pydub ``import AudioSegment``song ``= AudioSegment.from_wav(``"never_gonna_give_you_up.wav"``)

  打开一个mp3格式文件:

1song ``= AudioSegment.from_mp3(``"never_gonna_give_you_up.mp3"``)

  或者其他音频、视频格式:

123456ogg_version ``= AudioSegment.from_ogg(``"never_gonna_give_you_up.ogg"``)``flv_version ``= AudioSegment.from_flv(``"never_gonna_give_you_up.flv"``) mp4_version ``= AudioSegment.from_file(``"never_gonna_give_you_up.mp4"``, ``"mp4"``)``wma_version ``= AudioSegment.from_file(``"never_gonna_give_you_up.wma"``, ``"wma"``)``aac_version ``= AudioSegment.from_file(``"never_gonna_give_you_up.aiff"``, ``"aac"``)

  更多细节信息可以访问其主页。我在github上下载对应的工具包,里边有对应的安装说明。

如果处理wav文件,没有其他要求,如果音频是其他格式它要求电脑安装 ffmpeg orlibav.如果没有安装,运行会有提示:

ffmpeg下载,选择版本 

解压并添加环境变量,并利用ffplay测试一下打开一个mp4文件:

ffmpeg安装成功。这个时候import pydub,不再有warning信息

E-pyAudioAnalysis安装

Github给出的是linux下的安装思路,这里下载之后将pyAudioAnalysis放在了\Anaconda3\Lib\site-packages文件夹下,输入指令:

成功调用,原数据是支持Python2的,很多细节要修改,给出一个简单读取wav的测试:

123456from pyAudioAnalysis ``import audioBasicIO``import numpy as np``import matplotlib.pyplot as plt``[Fs, x] ``= audioBasicIO.readAudioFile(``"count2.wav"``);``time ``= np.arange(``0``,``len``(x))``*``1.0``/``Fs``plt.plot(time,x)

  效果图: