欧几里得距离
一维空间
distance:
多维空间
distance:
局限性
实际上,分布有不同的密集程度,如图中的红点和蓝点,欧几里得距离相同,但是蓝点显然离密度高的地方近
协方差
协方差矩阵
去除协方差()
通过将每个特征向量视为新轴来消除协方差, 除以, 然后计算点之间的距离,重新缩放以消除协方差. Mahalanobis距离测量执行以下操作: -它将变量转换为不相关变量 -并使其方差等于1 -然后计算简单的欧几里得距离
与欧氏距离不同的是,它考虑到各种特性之间的联系 (例如:一条关于身高的信息会带来一条关于体重的信 息,因为两者是有关联的),并且是尺度无关的(scale-invariant),即独立于测量尺度
(squared)马氏距离
-
T:矩阵的转置
-
:平均距离的矩阵
-
:协方差矩阵的逆
如果协方差矩阵为单位矩阵,那么马氏距离就简化为欧式距离