什麼是高斯混合模型？

高斯混合模型（Gaussian Mixture Model，GMM）是一種常見的聚類模型，它由多個高斯分佈組成，在對資料進行分類時，使用這些高斯分佈對資料進行建模，並透過自適應的方式確定每個樣本所屬的類別。

GMM的基本原理

GMM的基本原理是將資料集視為由多個高斯分佈組成的混合分佈，每個高斯分佈都代表了資料集中的一個聚類。因此，GMM的建模過程可以分為以下幾個步驟：

給定初始的聚類數目k，隨機初始化每個聚類的平均值和協方差矩陣；
計算每個樣本點屬於每個聚類的機率，即似然函數；
根據每個樣本點各自屬於各個聚類的機率重新計算每個聚類的參數，包括平均值和協方差矩陣；
重複步驟2和3，直至收斂。

GMM的Python實作

在Python中，我們可以使用scikit-learn函式庫中的GMM類別來實作。下面是一個簡單的範例程式碼：

from sklearn import mixture
import numpy as np

# 生成一些随机的二维数据
np.random.seed(0)
means = np.array([[0, 0], [3, 0], [0, 3], [3, 3]])
covs = np.array([[[1, 0], [0, 1]]] * 4)
n_samples = 500
X = np.vstack([
    np.random.multivariate_normal(means[i], covs[i], int(n_samples/4))
    for i in range(4)
])

# 初始化GMM模型
n_components = 4
gmm = mixture.GaussianMixture(n_components=n_components)

# 使用EM算法训练GMM
gmm.fit(X)

# 预测新数据点所属的聚类
new_data = np.array([[2, 2], [1, 1]])
labels = gmm.predict(new_data)
print(labels)

登入後複製

在程式碼中，我們首先產生了一些隨機的二維數據，然後初始化了一個包含4個高斯分佈的GMM模型。使用fit方法可以使用EM演算法訓練模型，並使用predict方法對新資料進行分類。