1. 算法背景与核心思想
传统K-means算法在实际应用中存在两个显著痛点:初始中心点敏感性和离群点干扰。常规随机初始化可能导致聚类结果陷入局部最优,而离群点的存在会显著扭曲聚类中心的位置。本算法通过引入加权密度和最大最小距离准则,系统性地解决了这两个问题。
加权密度法的核心在于为每个数据点赋予动态权重。与简单计数不同,这里采用高斯核函数计算密度,使得:
- 密集区域点获得更高权重
- 孤立点自然被降权处理
- 带宽参数h控制密度估计的平滑程度
最大最小距离准则的数学本质是求解优化问题:max min ||x_i - c_j||,其中x_i是数据点,c_j是聚类中心。这个准则确保选择的中心点能够:
- 最大化类间分离度
- 最小化类内距离
- 避免中心点过度集中
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 算法实现细节解析
2.1 加权密度计算实现
python复制def weighted_density(X, h):
n = X.shape[0]
density = np.zeros(n)
for i in range(n):
dist = np.linalg.norm(X - X[i], axis=1)
density[i] = np.sum(np.exp(-dist**2 / (2 * h**2)))
density = density / np.sum(density)
return density
关键参数说明:
- h:带宽参数,建议取值0.3-1.0
- 高斯核:exp(-d²/2h²) 保证距离衰减平滑
- 归一化:使密度值转化为概率分布
实际应用中,h的选择可通过以下方法优化:
- 网格搜索结合轮廓系数
- 基于最近邻距离的启发式估计
- 交叉验证法
2.2 初始中心点选择优化
python复制def select_initial_centers(X, k, h):
density = weighted_density(X, h)
centers = []
for _ in range(k):
idx = np.argmax(density)
centers.append(X[idx
