聚类分析方法介绍(聚类分析算法基本原理)
导语:“机器学习”技术之聚类分析概述和常用方法总结
今天给大家概述一下机器学习中经常用到的一个技术—聚类分析,使大家对聚类分析有一个全面大致的了解。
聚类分析介绍
聚类是数据挖掘的重要工具,根据数据间的相似性将数据分成多个类,每类中数据应尽可能相似。从机器学习的观点来看,类相当于隐藏模式,寻找类是无监督学习过程
聚类算法通常有分层聚类、分割聚类、基于密度的聚类、基于栅格的聚类、字符属性联合聚类、高维数据聚类和神经网络聚类等
在聚类算法选择时,不仅要考虑所要处理的数据属性的种类,也要考虑算法的抗干扰性和时间复杂度等
聚类分析
聚类分析的过程
数据预处理——标准化
构造关系/距离矩阵——亲疏关系的描述
聚类——根据不同方法进行聚类
确定最佳分类——类别数
数据预处理
指标变量的量纲不同或数量级相差很大,为了使这些数据能放到一起加以比较,常需做变换。
Z-Scores标准化变换
Z-Scores标准化变换
Range –1 to 1:极差标准化变换
极差标准化变换
Range 0 to 1:极差正规化变换 / 规格化变换
极差正规化变换 / 规格化变换
Mean of 1:均值为1
均值为1
Standard deviation of 1:方差为1
方差为1
构造关系/距离矩阵
欧氏(Euclidean)距离
未考虑指标间的相关性和各变量方差的不同。
欧氏(Euclidean)距离
切比雪夫(Chebychev)距离
切比雪夫(Chebychev)距离
明氏(Minkowski)距离
明氏(Minkowski)距离
夹角余弦
夹角余弦
Pearson相关系数
Pearson相关系数
Block:绝对值距离
绝对值距离
聚类方法的选择
层次聚类/谱系聚类
K-Means聚类、K-Medoids聚类
模糊聚类、图论聚类、SOM聚类等
感兴趣的读者可以阅读作者之前写的文章了解详细内容和具体案例。
《常用数据挖掘算法从入门到精通 第二章 K-means聚类算法》
《常用数据挖掘算法从入门到精通 第三章 K-中心点聚类算法》
《常用数据挖掘算法从入门到精通 第四章SOM神经网络聚类(上)》
《常用数据挖掘算法从入门到精通 第四章SOM神经网络聚类(下)》
聚类个数的确定
任何类都必须在临近各类中是突出的,即各类重心间距离必须极大
确定的类中,各类所包含的元素都不要过分地多
分类的数目必须符合实际使用目的
若采用几种不同的聚类方法处理,则在各自的聚类图中应发现相同的类
免责声明:本站部份内容由优秀作者和原创用户编辑投稿,本站仅提供存储服务,不拥有所有权,不承担法律责任。若涉嫌侵权/违法的,请反馈,一经查实立刻删除内容。本文内容由快快网络小悦创作整理编辑!