第五章 聚类分析
5.1 判别分析和聚类分析有何区别?
答:即根据一定的判别准则,判定一个样本归属于哪一类。具体而言,设有n个样本,对每个样本测得p项指标(变量)的数据,已知每个样本属于k个类别(或总体)中的某一类,通过找出一个最优的划分,使得不同类别的样本尽可能地区别开,并判别该样本属于哪个总体。聚类分析是分析如何对样品(或变量)进行量化分类的问题。在聚类之前,我们并不知道总体,而是通过一次次的聚类,使相近的样品(或变量)聚合形成总体。通俗来讲,判别分析是在已知有多少类及是什么类的情况下进行分类,而聚类分析是在不知道类的情况下进行分类。
5.2 试述系统聚类的基本思想。
答:系统聚类的基本思想是:距离相近的样品(或变量)先聚成类,距离相远的后聚成类,过程一直进行下去,每个样品(或变量)总能聚到合适的类中。
5.3 对样品和变量进行聚类分析时, 所构造的统计量分别是什么?简要说明为什么这样构造?
答:对样品进行聚类分析时,用距离来测定样品之间的相似程度。因为我们把n个样本看作p维空间的n个点。点之间的距离即可代表样品间的相似度。常用的距离为 (一)闵可夫斯基距离:dij(q)q取不同值,分为 (1)绝对距离(q?1)
p?(?Xik?Xjk)k?1pq1/q
dij(1)??Xik?Xjk
k?1(2)欧氏距离(q?2)
dij(2)?(?Xik?Xjk)k?1p21/2
(3)切比雪夫距离(q??)
dij(?)?maxXik?Xjk1?k?p
1pXik?Xjk(二)马氏距离 dij(L)? p k ? 1 X ik ? X jk
2(三)兰氏距离 dij(M)?(Xi?Xj)?Σ?1(Xi?Xj)
对变量的相似性,我们更多地要了解变量的变化趋势或变化方向,因此用相关性进行衡量。
?1 / 20
将变量看作p维空间的向量,一般用
p(一)夹角余弦 XikXjkk?1 cos?? ijpp 2(Xik)(X2jk) k?1k?1
(二)相关系数
p (Xik?Xi)(Xjk?Xj)?k?1 rij? pp (Xik?Xi)2?(Xjk?Xj)2?k?1k?1
???5.4 在进行系统聚类时,不同类间距离计算方法有何区别?选择距离公式应遵循哪些原则?
答: 设dij表示样品Xi与Xj之间距离,用Dij表示类Gi与Gj之间的距离。 (1). 最短距离法
Dij
?Xi?Gi,Xj?Gjmindij Dkr?
(2)最长距离法
Xi?Gk,Xj?Grmindij?min{Dkp,Dkq}
Dpq?Xi?Gp,Xj?Gqmaxdij
Dkr?Xi?Gk,Xj?Grmaxdij?max{Dkp,Dkq}
(3)中间距离法 121222 Dkr ?Dkp?Dkq??Dpq 22
其中
(4)重心法
2Dpq?(Xp?Xq)?(Xp?Xq) Xr?1(npXp?nqXq) nr2 / 20
D?
2krnpnrD?2kpnqnrD?2kqnpnqnr22Dpq
(5)类平均法
2Dpq?1npnqXi?GpXj?Gj??22dij Dkr?1nknrXi?GkXj?Gr??2?dijnpnr2Dkp?nqnr2 Dkq
(6)可变类平均法
np2 Dkr ?(1??)(nr
D?2kpnqnr22 Dkq)??Dpq其中?是可变的且? <1
(7)可变法
2Dkr?1??222(Dkp?Dkq)??Dpq 其中?是可变的且? <1 2nt(8)离差平方和法
St??(Xit?Xt)?(Xit?Xt)
t?1
D?2krnk?npnr?nkD?2kpnk?nqnr?nk2Dkq?nk2Dpq
nr?nk通常选择距离公式应注意遵循以下的基本原则:
(1)要考虑所选择的距离公式在实际应用中有明确的意义。如欧氏距离就有非常明确的空间距离概念。马氏距离有消除量纲影响的作用。
(2)要综合考虑对样本观测数据的预处理和将要采用的聚类分析方法。如在进行聚类分析之前已经对变量作了标准化处理,则通常就可采用欧氏距离。
(3)要考虑研究对象的特点和计算量的大小。样品间距离公式的选择是一个比较复杂且带有一定主观性的问题,我们应根据研究对象的特点不同做出具体分折。实际中,聚类分析前不妨试探性地多选择几个距离公式分别进行聚类,然后对聚类分析的结果进行对比分析,以确定最合适的距离测度方法。
5.5试述K均值法与系统聚类法的异同。
3 / 20
答:相同:K—均值法和系统聚类法一样,都是以距离的远近亲疏为标准进行聚类的。
不同:系统聚类对不同的类数产生一系列的聚类结果,而K—均值法只能产生指定类数的聚类结果。
具体类数的确定,离不开实践经验的积累;有时也可以借助系统聚类法以一部分样品为对象进行聚类,其结果作为K—均值法确定类数的参考。
5.6 试述K均值法与系统聚类有何区别?试述有序聚类法的基本思想。
答:K均值法的基本思想是将每一个样品分配给最近中心(均值)的类中。系统聚类对不同的类数产生一系列的聚类结果,而K—均值法只能产生指定类数的聚类结果。具体类数的确定,有时也可以借助系统聚类法以一部分样品为对象进行聚类,其结果作为K均值法确定类数的参考。
有序聚类就是解决样品的次序不能变动时的聚类分析问题。如果用X(1),X(2),?,X(n)表示
n个有序的样品,则每一类必须是这样的形式,即X(i),X(i?1),?,X(j),其中1?i?n,且
j?n,简记为Gi?{i,i?1,?,j}。在同一类中的样品是次序相邻的。一般的步骤是(1)
计算直径{D(i,j)}。(2)计算最小分类损失函数{L[p(l,k)]}。(3)确定分类个数k。(4)最优分类。
5.7 检测某类产品的重量, 抽了六个样品, 每个样品只测了一个指标,分别为1,2,3,6,9,11.试用最短距离法,重心法进行聚类分析。 (1)用最短距离法进行聚类分析。 采用绝对值距离,计算样品间距离阵 0 1 0 2 1 0 5 4 3 0 8 7 6 3 0 10 9 8 5 2 0
由上表易知 中最小元素是 于是将,,聚为一类,记为
4 / 20
计算距离阵
0
3 0 6 3 0 8 5 2 0 中最小元素是计算样本距离阵 0 3 0 6 3 0
=2 于是将
,
聚为一类,记为
中最小元素是因此,
于是将,聚为一类,记为
(2)用重心法进行聚类分析 计算样品间平方距离阵 0 1 0
5 / 20