聽歌識曲，顧名思義，用設備「聽」歌曲，然後它要告訴你這是一首什麼歌。而且十之八九它還得把這首歌給你播放出來。這樣的功能在QQ音樂等應用上早就出現了。我們今天來自己做一個自己的聽歌識曲
我們設計的整體流程圖很簡單：
---- -
錄音部分
-----
我們要想“聽”，就必須先有錄音的過程。在我們的實驗中，我們的曲庫也要用我們的錄音程式碼來進行錄音，然後提取特徵存進資料庫。我們用下面這樣的想法來錄音
# coding=utf8
import wave
import pyaudio
class recode():
def recode(self, CHUNK=44100, FORMAT=pyaudio.paInt16, CHANNELS=2, RATE=44100, RECORD_SECONDS=200,
WAVE_OUTPUT_FILENAME="record.wav"):
'''
:param CHUNK: 缓冲区大小
:param FORMAT: 采样大小
:param CHANNELS:通道数
:param RATE:采样率
:param RECORD_SECONDS:录的时间
:param WAVE_OUTPUT_FILENAME:输出文件路径
:return:
'''
p = pyaudio.PyAudio()
stream = p.open(format=FORMAT,
channels=CHANNELS,
rate=RATE,
input=True,
frames_per_buffer=CHUNK)
frames = []
for i in range(0, int(RATE / CHUNK * RECORD_SECONDS)):
data = stream.read(CHUNK)
frames.append(data)
stream.stop_stream()
stream.close()
p.terminate()
wf = wave.open(WAVE_OUTPUT_FILENAME, 'wb')
wf.setnchannels(CHANNELS)
wf.setsampwidth(p.get_sample_size(FORMAT))
wf.setframerate(RATE)
wf.writeframes(''.join(frames))
wf.close()
if __name__ == '__main__':
a = recode()
a.recode(RECORD_SECONDS=30, WAVE_OUTPUT_FILENAME='record_pianai.wav')#我們錄完的歌曲是什麼形式？
如果只看一個聲道的話，他是一個一維數組，大概長成這個樣子
我們把他按照索引值為橫軸畫出來，就是我們常常看見的音頻的形式。 
音訊處理部分
我們在這裡要寫我們的核心程式碼。關鍵的「如何識別歌曲」。想想我們人類如何區分歌曲？ 是靠想上面那樣的一維數組嗎？是靠歌曲的響度嗎？都不是。
我們是透過耳朵所聽到的特有的頻率組成的序列來記憶歌曲的，所以我們想要寫聽歌識曲的話，就得在音頻的頻率序列上做文章。
複習一下什麼是傅立葉變換。部落客的《信號與系統》的課堂上的挺水，不過在課堂上雖然沒有記下來具體的變換形式，但是感性的理解還是有的。
傅立葉轉換的實質就是把時域訊號轉換成了頻域訊號。也就是原本X,Y軸分別是我們的數組下標和數組元素，現在變成了頻率(這麼說不準確，但在這裡這樣理解沒錯)和在這個頻率上的分量大小。 
怎麼理解頻域這個事情呢？對於我們訊號處理不是很懂的人來說，最重要的就是改變對音訊的構成的理解。我們原來認為音頻就是如我們開始給出的波形那樣，在每一個時間都有一個幅值，不同的幅值序列構成了我們特定的聲音。而現在，我們認為聲音是不同的頻率訊號混合而成的，他們每一個訊號都自始至終存在著。並且他們按照他們的投影分量做出貢獻。
讓我們看看把一首歌轉換到頻域是什麼樣子？ 
我們可以觀察到這些頻率的分量並不是平均的，差異是非常大的。我們可以在一定程度上認為在圖中明顯凸起的峰值是輸出能量大的頻率訊號，代表著在這個音頻中，這個訊號佔有很高的地位。於是我們就選擇這樣的訊號來提取歌曲的特徵。
但別忘了，我們之前說的可是頻率序列，在傅立葉變換一套上，我們就只能知道整首歌曲的頻率訊息，那麼我們就損失了時間的關係，我們說的「序列」也就無從談起。所以我們採用的比較折中的方法，將音訊依照時間分成一個小塊，在這裡我每秒分出了40個區塊。
在這裡留個問題：為什麼要採用小塊，而不是每秒一塊這樣的大塊？
我們對每一個區塊進行傅立葉變換，然後對其求模，得到一個個陣列。我們在下標值為(0,40),(40,80),(80,120),(120,180)這四個區間分別取其模長最大的下標，合成一個四元組，這就是我們最核心的音頻“指紋”。
我們提取出來的「指紋」類似下面這樣
(39, 65, 110, 131), (15, 66, 108, 161), (3, 63, 118, 146), (11, 62, 82, 158), (15, 41, 95, 140), (2, 71, 106, 143), (15, 44, 80, 133), (36, 43, 80, 135), (22, 58, 80, 120), (29, 52, 89, 126), (15, 59, 89, 126), (37, 59, 89, 126), (37, 59, 89, 126), (37, 67, 119, 126)
音频处理的类有三个方法：载入数据，傅里叶变换，播放音乐。
如下：
# coding=utf8
import os
import re
import wave
import numpy as np
import pyaudio
class voice():
def loaddata(self, filepath):
'''
:param filepath: 文件路径，为wav文件
:return: 如果无异常则返回True，如果有异常退出并返回False
self.wave_data内储存着多通道的音频数据，其中self.wave_data[0]代表第一通道
具体有几通道，看self.nchannels
'''
if type(filepath) != str:
print 'the type of filepath must be string'
return False
p1 = re.compile('\.wav')
if p1.findall(filepath) is None:
print 'the suffix of file must be .wav'
return False
try:
f = wave.open(filepath, 'rb')
params = f.getparams()
self.nchannels, self.sampwidth, self.framerate, self.nframes = params[:4]
str_data = f.readframes(self.nframes)
self.wave_data = np.fromstring(str_data, dtype=np.short)
self.wave_data.shape = -1, self.sampwidth
self.wave_data = self.wave_data.T
f.close()
self.name = os.path.basename(filepath) # 记录下文件名
return True
except:
print 'File Error!'
def fft(self, frames=40):
'''
:param frames: frames是指定每秒钟分块数
:return:
'''
block = []
fft_blocks = []
self.high_point = []
blocks_size = self.framerate / frames # block_size为每一块的frame数量
blocks_num = self.nframes / blocks_size # 将音频分块的数量
for i in xrange(0, len(self.wave_data[0]) - blocks_size, blocks_size):
block.append(self.wave_data[0][i:i + blocks_size])
fft_blocks.append(np.abs(np.fft.fft(self.wave_data[0][i:i + blocks_size])))
self.high_point.append((np.argmax(fft_blocks[-1][:40]),
np.argmax(fft_blocks[-1][40:80]) + 40,
np.argmax(fft_blocks[-1][80:120]) + 80,
np.argmax(fft_blocks[-1][120:180]) + 120,
# np.argmax(fft_blocks[-1][180:300]) + 180,
)) # 提取指纹的关键步骤，没有取最后一个，但是保留了这一项，可以想想为什么去掉了？
def play(self, filepath):
'''
用来做音频播放的方法
:param filepath:文件路径
:return:
'''
chunk = 1024
wf = wave.open(filepath, 'rb')
p = pyaudio.PyAudio()
# 打开声音输出流
stream = p.open(format=p.get_format_from_width(wf.getsampwidth()),
channels=wf.getnchannels(),
rate=wf.getframerate(),
output=True)
# 写声音输出流进行播放
while True:
data = wf.readframes(chunk)
if data == "":
break
stream.write(data)
stream.close()
p.terminate()
if __name__ == '__main__':
p = voice()
p.loaddata('record_beiyiwang.wav')
p.fft()这里面的self.high_point是未来应用的核心数据。列表类型，里面的元素都是上面所解释过的指纹的形式。
数据存储和检索部分
因为我们是事先做好了曲库来等待检索，所以必须要有相应的持久化方法。我采用的是直接用mysql数据库来存储我们的歌曲对应的指纹，这样有一个好处：省写代码的时间
我们将指纹和歌曲存成这样的形式：
顺便一说：为什么各个歌曲前几个的指纹都一样？（当然，后面肯定是千差万别的）其实是音乐开始之前的时间段中没有什么能量较强的点，而由于我们44100的采样率比较高，就会导致开头会有很多重复，别担心。
我们怎么来进行匹配呢？我们可以直接搜索音频指纹相同的数量，不过这样又损失了我们之前说的序列，我们必须要把时间序列用上。否则一首歌曲越长就越容易被匹配到，这种歌曲像野草一样疯狂的占据了所有搜索音频的结果排行榜中的第一名。而且从理论上说，音频所包含的信息就是在序列中体现，就像一句话是靠各个短语和词汇按照一定顺序才能表达出它自己的意思。单纯的看两个句子里的词汇重叠数是完全不能判定两句话是否相似的。我们采用的是下面的算法，不过我们这只是实验性的代码，算法设计的很简单，效率不高。建议想要做更好的结果的同学可以使用改进的DTW算法。
我们在匹配过程中滑动指纹序列，每次比对模式串和源串的对应子串，如果对应位置的指纹相同，则这次的比对相似值加一，我们把滑动过程中得到的最大相似值作为这两首歌的相似度。
举例：
曲库中的一首曲子的指纹序列:[fp13, fp20, fp10, fp29, fp14, fp25, fp13, fp13, fp20, fp33, fp14]
检索音乐的指纹序列: [fp14, fp25, fp13, fp17]
比对过程：
最终的匹配相似值为3
存储检索部分的实现代码
# coding=utf-8
import os
import MySQLdb
import my_audio
class memory():
def __init__(self, host, port, user, passwd, db):
'''
初始化存储类
:param host:主机位置
:param port:端口
:param user:用户名
:param passwd:密码
:param db:数据库名
'''
self.host = host
self.port = port
self.user = user
self.passwd = passwd
self.db = db
def addsong(self, path):
'''
添加歌曲方法，将指定路径的歌曲提取指纹后放到数据库
:param path:路径
:return:
'''
if type(path) != str:
print 'path need string'
return None
basename = os.path.basename(path)
try:
conn = MySQLdb.connect(host=self.host, port=self.port, user=self.user, passwd=self.passwd, db=self.db,
charset='utf8')
# 创建与数据库的连接
except:
print 'DataBase error'
return None
cur = conn.cursor()
namecount = cur.execute("select * from fingerprint.musicdata WHERE song_name = '%s'" % basename)
# 查询新添加的歌曲是否已经在曲库中了
if namecount > 0:
print 'the song has been record!'
return None
v = my_audio.voice()
v.loaddata(path)
v.fft()
cur.execute("insert into fingerprint.musicdata VALUES('%s','%s')" % (basename, v.high_point.__str__()))
# 将新歌曲的名字和指纹存到数据库中
conn.commit()
cur.close()
conn.close()
def fp_compare(self, search_fp, match_fp):
'''
指纹比对方法。
:param search_fp: 查询指纹
:param match_fp: 库中指纹
:return:最大相似值 float
'''
if len(search_fp) > len(match_fp):
return 0
max_similar = 0
search_fp_len = len(search_fp)
match_fp_len = len(match_fp)
for i in range(match_fp_len - search_fp_len):
temp = 0
for j in range(search_fp_len):
if match_fp[i + j] == search_fp[j]:
temp += 1
if temp > max_similar:
max_similar = temp
return max_similar
def search(self, path):
'''
从数据库检索出
:param path: 需要检索的音频的路径
:return:返回列表，元素是二元组，第一项是匹配的相似值，第二项是歌曲名
'''
v = my_audio.voice()
v.loaddata(path)
v.fft()
try:
conn = MySQLdb.connect(host=self.host, port=self.port, user=self.user, passwd=self.passwd, db=self.db,
charset='utf8')
except:
print 'DataBase error'
return None
cur = conn.cursor()
cur.execute("SELECT * FROM fingerprint.musicdata")
result = cur.fetchall()
compare_res = []
for i in result:
compare_res.append((self.fp_compare(v.high_point[:-1], eval(i[1])), i[0]))
compare_res.sort(reverse=True)
cur.close()
conn.close()
print compare_res
return compare_res
def search_and_play(self, path):
'''
跟上个方法一样，不过增加了将搜索出的最优结果直接播放的功能
:param path: 带检索歌曲路径
:return:
'''
v = my_audio.voice()
v.loaddata(path)
v.fft()
# print v.high_point
try:
conn = MySQLdb.connect(host=self.host, port=self.port, user=self.user, passwd=self.passwd, db=self.db,
charset='utf8')
except:
print 'DataBase error'
return None
cur = conn.cursor()
cur.execute("SELECT * FROM fingerprint.musicdata")
result = cur.fetchall()
compare_res = []
for i in result:
compare_res.append((self.fp_compare(v.high_point[:-1], eval(i[1])), i[0]))
compare_res.sort(reverse=True)
cur.close()
conn.close()
print compare_res
v.play(compare_res[0][1])
return compare_res
if __name__ == '__main__':
sss = memory('localhost', 3306, 'root', 'root', 'fingerprint')
sss.addsong('taiyangzhaochangshengqi.wav')
sss.addsong('beiyiwangdeshiguang.wav')
sss.addsong('xiaozezhenger.wav')
sss.addsong('nverqing.wav')
sss.addsong('the_mess.wav')
sss.addsong('windmill.wav')
sss.addsong('end_of_world.wav')
sss.addsong('pianai.wav')
sss.search_and_play('record_beiyiwang.wav')总结
我们这个实验很多地方都很粗糙，核心的算法是从shazam公司提出的算法吸取的“指纹”的思想。希望读者可以提出宝贵建议。
更多python實作一個音樂檢索器的功能相关文章请关注PHP中文网！
