Neighbor embedding - manifold learning
LLE
地球就是一个流形

流形学习就是将高维的(流形的)feature的摊平,摊平之后就可以用欧氏距离了。
假设空间中有两个点xi和xj,他们俩的关系为wij

LLE方法就是找到Zfunction

这需要调整LLE 的neighbor选几个

拉普拉斯特征图
将相似度高的点连起来成为一个graph



t-SNE
如右图,图片data中有些点形成了一些圈圈,意味着有些object虽然很像,但是旋转之后(换个角度)看完全不一样了。

计算所有pairs的相似度。

我们需要衡量两个distribution的相似度,算KL散度

之前算similarity的方法:

SNE方法:

t-SNE方法:


t-SNE会把data gap强化,将同类聚起来
