Question

如何使用MFCC算法提取音频特征并将其与卷积神经网络一起使用来训练模型？

我已经使用MFCC提取了音频功能，并且文件包含浮点列，但是我无法区分这些列？

for filename in os.listdir(directoryName):
    if filename.endswith('.wav'): # only get MFCCs from .wavs

        (rate,sig) = wav.read(directoryName + "/" +filename)


        mfcc_feat = mfcc(sig,rate)


        fbank_feat = logfbank(sig,rate)


        outputFile = resultsDirectory + "/" + os.path.splitext(filename)[0] + ".csv"
        file = open(outputFile, 'w+')
        numpy.savetxt(file, fbank_feat, delimiter=",")
        file.close() # close file

The values contained in the csv file like this.

7.01E+00    5.94E+00    5.28E+00    5.25E+00    5.24E+00
5.87E+00    3.53E+00    3.61E+00    2.32E+00    2.13E+00
5.68E+00    8.36E-01    1.75E-01    -8.48E-01   1.77E+00
7.96E+00    6.12E+00    5.47E+00    4.66E+00    4.34E+00
6.29E+00    4.34E+00    3.51E+00    3.15E+00    2.30E+00
6.37E+00    5.34E+00    4.76E+00    3.98E+00    3.77E+00
4.72E+00    1.62E+00    3.09E+00    1.66E+00    1.37E+00
6.14E+00    5.82E+00    5.12E+00    4.11E+00    3.76E+00
7.49E+00    3.79E+00    2.25E+00    5.03E+00    5.69E+00
5.89E+00    4.88E+00    5.88E+00    6.22E+00    6.19E+00

Answer 1

音频信号的MFCC功能是一个时间序列。如果您的输入音频是44100 kHz的10秒，并且MFCC的1024个采样跃点大小（约23ms），那么您将获得430帧，每个帧具有MFCC系数（可能为20）。

为了使用卷积神经网络对其进行分类，您需要将其拆分为实际大小的固定大小的分析窗口。例如，一个43 MFCC帧窗口将对应大约1秒。到CNN的输入为43x20x1。如果您想要重叠的分析窗口（可以提高性能，但要花费更多的计算时间）-那么在计算下一个窗口时，向前跳不到43帧。

这里是an answer with example Python code。它针对mel频谱图显示，但是可以通过将librosa.feature.melspectrogram()的调用替换为librosa.feature.mfcc()来适应MFCC。

如何提取音频的mfcc功能并将其传递给cnn以训练模型？

1 个答案: