电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

介绍

电信保温杯笔记——《统计学习方法(第二版)——李航》

本文是对原书的精读,会有大量原书的截图,同时对书上不详尽的地方进行细致解读与改写。

聚类是针对给定的样本,依据它们特征的相似度或距离,将其归并到若干个”类”或”簇”的数据分析问题。直观上,相似的样本聚集在相同的类,不相似的样本分散在不同的类。聚类属于无监督学习,因为只是根据样本的相似度或距离将其进行归类,而类或簇事先并不知道。

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

; 聚类的基本概念

本节介绍聚类的基本概念,包括样本之间的距离或相似度,类或簇,类与类之间的距离。

样本的相似度或距离

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

; 闵可夫斯基距离

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

马哈拉诺比斯距离

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

如果把样本看作只有一个特征,那么协方差矩阵的逆就是方差分之一,所以 S − 1 S^{-1}S −1 是用于归一化的。

; 相关系数

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

夹角余弦

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

; 类或簇

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

定义

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

; 特征

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

距离

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

; 聚类算法

聚类算法很多,本章介绍两种最常用的聚类算法:层次聚类(hierarchical cluster-ing)和 k 均值聚类(k-means clustering)。

层次聚类

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

; 聚合聚类

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

步骤

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

; 例子

类间距离使用的是最短距离。

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

k 均值聚类

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

下面分别介绍 k 均值聚类的模型、策略、算法,讨论算法的特性及相关问题。

; 模型

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

下面红色加号代表该类的中心。

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

策略

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

公式(14.21)不知道怎么计算得来的。

; 算法

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

步骤

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

; 例子

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

实施要点

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

; 本章概要

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

备注

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

这个公式尚未知如何算得。

; 相关视频

相关的笔记

hktxt /Learn-Statistical-Learning-Method
关于K-means_Clustering:
句末是标签,数据集150个样本,每个样本4个特征:

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

关于def cal_groupcenter(group, Xarray):

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

代码中使用调整兰德系数(Adjusted Rand Index),用于聚类模型的性能评估

电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

Original: https://blog.csdn.net/sinat_39448069/article/details/123430249
Author: 电信保温杯
Title: 电信保温杯笔记——《统计学习方法(第二版)——李航》第14章 聚类方法

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/550204/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球